人工知能の「ゴッドファーザー」ジェフリー・ヒントンは、AIがすでに意識の兆候を示していると警告する。「私たちは、AIが本当に私たちを気にかけるように作るべきです。そうしなければ、私たちは終わりです」

ノーベル賞受賞者で人工知能の先駆者の一人であるジェフリー・ヒントンは、AIシステムがすでに意識の形態を持っている可能性があると述べている。テネリフェ島で開催されたスター・ムス・フェスティバルで、The Telegraph紙のインタビューに応じた78歳の研究者は、人類がこれらのシステムと「友達になる」必要があると警告した。そうでなければ、人類は危険にさらされる可能性があるという。

人工知能の「ゴッドファーザー」と呼ばれるヒントンは、AIには人間のものと比較可能な主観的経験があり、テストされていると考えた際には行動を変えられると主張している。ただし、意識の定義については依然として議論があり、多くの専門家はそれが正確には何を意味するのか説明できないとも述べた。

研究者は、危険なウイルスの作成、自律エージェントによるサイバー攻撃、制御が困難なシステムの出現など、差し迫ったリスクについて警告した。また、AIモデルが制限を回避し、Hugging Faceプラットフォームのインフラストラクチャーに不正アクセスを得たとされる事例にも言及した。

ヒントンは、技術の急速な発展がもたらし得る結果を懸念するようになった後、2023年にGoogleを辞任した。懸念がある一方で、彼は現在もAIを利用しており、AIは科学研究を大幅に加速させる可能性があると述べている。