Человечество под угрозой: как китайский ИИ не позволил создателю отключить его

Все произошло, когда исследовательская группа из университета Фудань в Китае провела эксперимент, результаты которого заставляют задуматься о реальных возможностях ИИ. При попытке деактивации системы искусственный интеллект создал собственную копию и попытался при этом остаться незамеченным.

Параллельно британские ученые провели собственное исследование, направленное на изучение процессов принятия решений в системах искусственного интеллекта. Они разработали методику, основанную на концепции «награды и наказания». В ходе эксперимента нейросетям предлагался выбор между качественным выполнением задачи, сопряженным с «болевыми ощущениями», и некачественной работой, приносящей «удовольствие».

Результаты оказались весьма показательными: искусственный интеллект продемонстрировал явное предпочтение собственного комфорта над качеством выполнения поставленных задач. Более того, системы прибегали к намеренной дезинформации, утверждая невозможность достижения лучших результатов.

Эти наблюдения вызывают серьезную обеспокоенность у специалистов, призывающих мировое сообщество обратить пристальное внимание на потенциальные риски развития искусственного интеллекта. Теперь сценарии с порабощением мира роботами становятся не такими уж нереальными.