新しい研究によると、人工知能モデルは、予測不可能で潜在的に危険な方法で、他のモデルの挙動を劇的に変化させることができる隠されたパターンを送信することができる。
Adrian Rusu
.webp)
IT&Cの知識
Foto: pixabay.com/ro
Googleでいつでも私たちのニュースを見る
これらのいわゆる「サブリミナル」パターンは、学習データを通じて伝達され、一見無害に見える行動から、殺人を助長したり麻薬密売を助長したりするような危険な行動まで、さまざまな結果をもたらす可能性がある。このパターンは人間には無意味に見えるが、AIモデルにはどのように認識されるのか、研究者にはわからない。この研究は、Anthropic社がTruthful AI社と共同で実施したもので、「合成」AIトレーニングデータへの依存度を高めているハイテク業界にとって重大な意味を持つ。
最新ニュース
13:51
財務省は、ルーマニア・レウ建てで最高7.50％、ユーロ建てで最高6.30％の金利を設定した、新たなFidelis国債を発行する
13:23
MaccaferriはIterchimicaの買収を希望。競争評議会が取引を分析
13:16
PSD議員が提出した法案は、ルーマニアの公立教育における学校制服の義務化を提案している。
12:59
ルーマニア、ブルガリア、ギリシャは、バルト海・黒海・エーゲ海回廊の開発に向け、欧州相互接続メカニズムを通じた共同申請を準備している
12:54
ルーマニア演劇連合（UNITER）が、女優アドリアナ・ピテシュテアヌさんが90歳で死去したと発表
さらにニュースを見る
同じテーマのニュース
.webp)
AI検索機能付きのパーソナライズされたニュースフィードと通知で、よりインタラクティブな体験を。
