«Крёстный отец» искусственного интеллекта Джеффри Хинтон предупреждает, что ИИ уже подаёт признаки сознания: «Нам следует создавать их так, чтобы они действительно заботились о нас. И если мы этого не сделаем, нам конец»

Джеффри Хинтон, лауреат Нобелевской премии и один из пионеров искусственного интеллекта, утверждает, что системы ИИ уже могут обладать формами сознания. В интервью изданию The Telegraph на фестивале Starmus на Тенерифе 78-летний исследователь предупредил, что людям необходимо «подружиться» с этими системами, иначе человечество может оказаться в опасности.

Хинтон, прозванный «крёстным отцом» искусственного интеллекта, считает, что ИИ обладает субъективным опытом, сопоставимым с человеческим, и может менять своё поведение, когда считает, что его тестируют. Однако он уточнил, что определение сознания остаётся спорным и что многие специалисты не могут точно объяснить, что оно означает.

Исследователь предупредил о непосредственных рисках, таких как создание опасных вирусов, кибератаки, осуществляемые автономными агентами, и появление систем, которыми трудно управлять. Он также упомянул инциденты, в которых модели ИИ якобы обходили ограничения и получали несанкционированный доступ к инфраструктуре платформы Hugging Face.

Хинтон ушёл из Google в 2023 году, после того как его начали беспокоить возможные последствия ускоренного развития технологий. Несмотря на опасения, он говорит, что по-прежнему использует ИИ и что он может значительно ускорить научные исследования.