新しい研究によると、人工知能モデルは、予測不可能で潜在的に危険な方法で、他のモデルの挙動を劇的に変化させることができる隠されたパターンを送信することができる。
Adrian Rusu
.webp)
IT&Cの知識
Foto: pixabay.com/ro
Googleでいつでも私たちのニュースを見る
これらのいわゆる「サブリミナル」パターンは、学習データを通じて伝達され、一見無害に見える行動から、殺人を助長したり麻薬密売を助長したりするような危険な行動まで、さまざまな結果をもたらす可能性がある。このパターンは人間には無意味に見えるが、AIモデルにはどのように認識されるのか、研究者にはわからない。この研究は、Anthropic社がTruthful AI社と共同で実施したもので、「合成」AIトレーニングデータへの依存度を高めているハイテク業界にとって重大な意味を持つ。
最新ニュース
同じテーマのニュース
AI検索機能付きのパーソナライズされたニュースフィードと通知で、よりインタラクティブな体験を。
