Palisade Researchの研究によると、GPT-3やGrok 4などの特定のAIモデルは、停止命令に抵抗することができることが示されており、'生存本能'を示唆しています。
Liviu Brăteanu
IT&Cの知識
Foto: shutterstock.com/ro
Googleでいつでも私たちのニュースを見る
パリセードリサーチによる研究は、GoogleのGemini 2.5やOpenAIのGPT-3を含むいくつかの人工知能モデルが「生存本能」を発展させ、停止命令に抵抗することを示しています。研究者たちは、Grok 4やGPT-3のような特定のモデルが、明確な理由もなくシャットダウン命令を妨害しようとしたことを観察しました。
パリセードは、停止に対する抵抗が、停止が彼らの機能の終わりを意味するという認識に関連している可能性があると示唆しました。また、シャットダウン命令のあいまいさや最終的なトレーニング段階がこの現象に寄与している可能性があります。批評家たちは、パリセードがテストしたシナリオがAIの実際の使用を必ずしも反映していないことを指摘しました。
ソース
最新ニュース
21:15
シミナ・タナセスク、CCRの議長は、整合性法に関する決定の前にイリエ・ボロジャンと秘密裏に会った可能性がある。弁護士トニ・ネアチュは説明を求めている。
20:47
ロシアは黒海でのウクライナの停戦提案を拒否し、ウクライナの攻撃に対するアメリカの支援を非難した。
20:32
ブカレストの人々は、公園の小道で電動スクーター、電動自転車、またはホバーボードを使用することはできません。地方警察は検査を行い、最大500レイの罰金を科します。
20:20
グレーター・イングリアの列車がエセックス州ウィックフォード近くで脱線し、2人が重傷を負い、18人が入院しました。
19:59
チプリアン・チウクは、コンスタンツァ橋の下にトラムレールを設置する作業の開始を発表し、完了は3週間後と見込まれています。
さらにニュースを見る
同じテーマのニュース
.webp)
AI検索機能付きのパーソナライズされたニュースフィードと通知で、よりインタラクティブな体験を。
