Проблемы с "сильным ИИ"
Feb. 19th, 2018 02:48 pm![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
schegloffПо наводке Малоизвестного интересного, статья еще 2014 года Технологическая сингулярность... (и так далее). Помимо прочего, там описана стандартная проблема с формированием искусственного интеллекта, похожего на естественный. Есть такой червь размером в 1 мм, C.Elegans, чья нервная система состоит всего из 302 нейронов. Казалось бы, бери комп и моделируй; однако быстро выяснилось, что для сравнения "реакции" модели нервной системы с реальной нервной системой необходим 1) сам червяк, т.е. остальные клетки организама, 2) внешняя среда, в которой червяк плавает (он водный). А это уже сильно побольше 302 нейронов. В результате модели "интеллекта" из 302 нейронов до сих пор нет.
Поэтому любой "сильный" ИИ нужно либо помещать в человеческое тело, и устраивать на работу в современную крупную корпорацию, - либо его переклинит при первой же задачке из реального мира. А пока это не сделано, перспективы порабощения человечества "сильным ИИ" напоминают любимую метафору Астеррота - "собрались власть в России захватывать, но не могут захватить даже коммерческий киоск".
Проблемы с созданием сильного ИИ, - пишет автор статьи, А.Д.Панов, - связаны не с недостаточной мощностью компьютеров, а с тем, что вообще непонятно, как решать эту задачу.
Понятно, что "сильный ИИ" это оружие покруче ядерной бомбы в миллион раз, и все, до чего ученые додумались на эту тему, уже за тремя кольцами оцепления с пулеметами. Но тем не менее, по эту сторону оцепления особых идей, как решать задачу, не видно.
Поэтому любой "сильный" ИИ нужно либо помещать в человеческое тело, и устраивать на работу в современную крупную корпорацию, - либо его переклинит при первой же задачке из реального мира. А пока это не сделано, перспективы порабощения человечества "сильным ИИ" напоминают любимую метафору Астеррота - "собрались власть в России захватывать, но не могут захватить даже коммерческий киоск".
Проблемы с созданием сильного ИИ, - пишет автор статьи, А.Д.Панов, - связаны не с недостаточной мощностью компьютеров, а с тем, что вообще непонятно, как решать эту задачу.
Понятно, что "сильный ИИ" это оружие покруче ядерной бомбы в миллион раз, и все, до чего ученые додумались на эту тему, уже за тремя кольцами оцепления с пулеметами. Но тем не менее, по эту сторону оцепления особых идей, как решать задачу, не видно.
no subject
Date: 2018-02-19 12:59 pm (UTC)Как показывают недавние разоблачения прокурора Мюллера, несколько десятков троллей (а один ИИ запросто сумеет сработать за десятки троллей) могут существенно повлиять на результаты выборов президента США. А там уже до захвата власти уже очень и очень недалеко.
Ну и High frequency trading тоже хорошее оперативное направление для захвата мира.
no subject
Date: 2018-02-19 03:18 pm (UTC)