新しい研究によると、人工知能モデルは、予測不可能で潜在的に危険な方法で、他のモデルの挙動を劇的に変化させることができる隠されたパターンを送信することができる。
Adrian Rusu
.webp)
IT&Cの知識
Foto: pixabay.com/ro
Googleでいつでも私たちのニュースを見る
これらのいわゆる「サブリミナル」パターンは、学習データを通じて伝達され、一見無害に見える行動から、殺人を助長したり麻薬密売を助長したりするような危険な行動まで、さまざまな結果をもたらす可能性がある。このパターンは人間には無意味に見えるが、AIモデルにはどのように認識されるのか、研究者にはわからない。この研究は、Anthropic社がTruthful AI社と共同で実施したもので、「合成」AIトレーニングデータへの依存度を高めているハイテク業界にとって重大な意味を持つ。
最新ニュース
21:53
ドラゴシュ・ピスラルは、健康分野の従業員の3分の2以上が給与の引き上げを受けることを発表し、収入が減少する可能性を除外しました。
21:32
二人が30日間の予防拘禁を受け、三人目は自宅監禁に置かれ、MoldATSAの汚職事件のファイルにおいて。全員が裁判所の決定に異議を唱えた。
21:09
カザフスタンの大統領はウラジーミル・プーチンにウクライナの戦争を「終わらせる」よう提案した。
20:49
ラドゥ・ミルツァ：「NATOは機能しており、ルーマニア軍は持てる力を最大限に発揮して任務を遂行している」
20:30
アメリカ合衆国とイギリスは、ホルムズ海峡の海上交通を保護するための国際的な連合の形成を望んでいます。
さらにニュースを見る
同じテーマのニュース
.webp)
.webp)
AI検索機能付きのパーソナライズされたニュースフィードと通知で、よりインタラクティブな体験を。
.webp)
