![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
Проблемы с "сильным ИИ"
По наводке Малоизвестного интересного, статья еще 2014 года Технологическая сингулярность... (и так далее). Помимо прочего, там описана стандартная проблема с формированием искусственного интеллекта, похожего на естественный. Есть такой червь размером в 1 мм, C.Elegans, чья нервная система состоит всего из 302 нейронов. Казалось бы, бери комп и моделируй; однако быстро выяснилось, что для сравнения "реакции" модели нервной системы с реальной нервной системой необходим 1) сам червяк, т.е. остальные клетки организама, 2) внешняя среда, в которой червяк плавает (он водный). А это уже сильно побольше 302 нейронов. В результате модели "интеллекта" из 302 нейронов до сих пор нет.
Поэтому любой "сильный" ИИ нужно либо помещать в человеческое тело, и устраивать на работу в современную крупную корпорацию, - либо его переклинит при первой же задачке из реального мира. А пока это не сделано, перспективы порабощения человечества "сильным ИИ" напоминают любимую метафору Астеррота - "собрались власть в России захватывать, но не могут захватить даже коммерческий киоск".
Проблемы с созданием сильного ИИ, - пишет автор статьи, А.Д.Панов, - связаны не с недостаточной мощностью компьютеров, а с тем, что вообще непонятно, как решать эту задачу.
Понятно, что "сильный ИИ" это оружие покруче ядерной бомбы в миллион раз, и все, до чего ученые додумались на эту тему, уже за тремя кольцами оцепления с пулеметами. Но тем не менее, по эту сторону оцепления особых идей, как решать задачу, не видно.
Поэтому любой "сильный" ИИ нужно либо помещать в человеческое тело, и устраивать на работу в современную крупную корпорацию, - либо его переклинит при первой же задачке из реального мира. А пока это не сделано, перспективы порабощения человечества "сильным ИИ" напоминают любимую метафору Астеррота - "собрались власть в России захватывать, но не могут захватить даже коммерческий киоск".
Проблемы с созданием сильного ИИ, - пишет автор статьи, А.Д.Панов, - связаны не с недостаточной мощностью компьютеров, а с тем, что вообще непонятно, как решать эту задачу.
Понятно, что "сильный ИИ" это оружие покруче ядерной бомбы в миллион раз, и все, до чего ученые додумались на эту тему, уже за тремя кольцами оцепления с пулеметами. Но тем не менее, по эту сторону оцепления особых идей, как решать задачу, не видно.
no subject
Как показывают недавние разоблачения прокурора Мюллера, несколько десятков троллей (а один ИИ запросто сумеет сработать за десятки троллей) могут существенно повлиять на результаты выборов президента США. А там уже до захвата власти уже очень и очень недалеко.
Ну и High frequency trading тоже хорошее оперативное направление для захвата мира.
no subject