Проблемы с "сильным ИИ"

[schegloff]

По наводке Малоизвестного интересного, статья еще 2014 года Технологическая сингулярность... (и так далее). Помимо прочего, там описана стандартная проблема с формированием искусственного интеллекта, похожего на естественный. Есть такой червь размером в 1 мм, C.Elegans, чья нервная система состоит всего из 302 нейронов. Казалось бы, бери комп и моделируй; однако быстро выяснилось, что для сравнения "реакции" модели нервной системы с реальной нервной системой необходим 1) сам червяк, т.е. остальные клетки организама, 2) внешняя среда, в которой червяк плавает (он водный). А это уже сильно побольше 302 нейронов. В результате модели "интеллекта" из 302 нейронов до сих пор нет.

Поэтому любой "сильный" ИИ нужно либо помещать в человеческое тело, и устраивать на работу в современную крупную корпорацию, - либо его переклинит при первой же задачке из реального мира. А пока это не сделано, перспективы порабощения человечества "сильным ИИ" напоминают любимую метафору Астеррота - "собрались власть в России захватывать, но не могут захватить даже коммерческий киоск".

Проблемы с созданием сильного ИИ, - пишет автор статьи, А.Д.Панов, - связаны не с недостаточной мощностью компьютеров, а с тем, что вообще непонятно, как решать эту задачу.

Понятно, что "сильный ИИ" это оружие покруче ядерной бомбы в миллион раз, и все, до чего ученые додумались на эту тему, уже за тремя кольцами оцепления с пулеметами. Но тем не менее, по эту сторону оцепления особых идей, как решать задачу, не видно.