新しい研究によると、人工知能モデルは、予測不可能で潜在的に危険な方法で、他のモデルの挙動を劇的に変化させることができる隠されたパターンを送信することができる。
Adrian Rusu
.webp)
IT&Cの知識
Foto: pixabay.com/ro
Googleでいつでも私たちのニュースを見る
これらのいわゆる「サブリミナル」パターンは、学習データを通じて伝達され、一見無害に見える行動から、殺人を助長したり麻薬密売を助長したりするような危険な行動まで、さまざまな結果をもたらす可能性がある。このパターンは人間には無意味に見えるが、AIモデルにはどのように認識されるのか、研究者にはわからない。この研究は、Anthropic社がTruthful AI社と共同で実施したもので、「合成」AIトレーニングデータへの依存度を高めているハイテク業界にとって重大な意味を持つ。
最新ニュース
13:37
ラドゥ・ブルネテ：給与法に関する議論は来週再開され、PSD、PNL、USR、UDMRの間で妥協に達することを目的としています。
13:36
国防総省の長官: 「ルーマニア空軍の軍人たちは、再び、任務が求めるときに行動する準備ができていることを示しました。」
13:29
ポーランドは、ウクライナにおけるミサイル生産に関連するリスクに対処するために、アメリカとウクライナとの三者間の議論を提案しています。
13:20
インドの大統領: 「ルーマニアは投資の重要な目的地であるだけでなく、ヨーロッパ市場への扉でもあります。」
13:08
カザフスタンの石油生産はCPCパイプラインの閉鎖後、21%減少しました。
さらにニュースを見る
同じテーマのニュース
.webp)
.webp)
AI検索機能付きのパーソナライズされたニュースフィードと通知で、よりインタラクティブな体験を。
