新しい研究によると、人工知能モデルは、予測不可能で潜在的に危険な方法で、他のモデルの挙動を劇的に変化させることができる隠されたパターンを送信することができる。
Adrian Rusu
.webp)
IT&Cの知識
Foto: pixabay.com/ro
Googleでいつでも私たちのニュースを見る
これらのいわゆる「サブリミナル」パターンは、学習データを通じて伝達され、一見無害に見える行動から、殺人を助長したり麻薬密売を助長したりするような危険な行動まで、さまざまな結果をもたらす可能性がある。このパターンは人間には無意味に見えるが、AIモデルにはどのように認識されるのか、研究者にはわからない。この研究は、Anthropic社がTruthful AI社と共同で実施したもので、「合成」AIトレーニングデータへの依存度を高めているハイテク業界にとって重大な意味を持つ。
最新ニュース
11:01
NBAのレジェンドでリーグ初のMVP受賞者、ボブ・ペティット氏が93歳で死去
11:01
Deficitul de profesori din UE nu se rezolvă prin recrutare dacă școlile nu reușesc să îi păstreze
11:00
裁判所はドリー・パートンの元ボディーガードに対する接近禁止命令を発令した
10:59
理事会、ウクライナ向けに約30億ユーロを承認、新たな融資が初めて支払いに組み込まれる
10:49
全国生徒評議会は、義務化された学校制服に抗議するため、9月28日に黒い服を着て抗議活動を行うよう生徒たちに呼びかけています
さらにニュースを見る
同じテーマのニュース
AI検索機能付きのパーソナライズされたニュースフィードと通知で、よりインタラクティブな体験を。
.webp)
