人工知能会社Anthropicは、最も強力なAIシステムの開発におけるグローバルな一時停止を提案し、最近のモデルが人間の制御を逃れる兆候を示し始めていることを強調しました。サンフランシスコのこの会社は、AIの開発を遅らせることが有益であると述べましたが、もし1社が活動を停止すれば、競合他社が急速に進むだろうと警告しました。Anthropicはこの問題を核兵器の管理に関する条約に例え、AIの規制はAIのトレーニングが検出しにくいため、より複雑であると述べました。同社は、政府の公式、科学者、競合企業を集めて調整システムについて議論することを計画しています。また、AIの急速な発展が「自己再帰的な改善」を引き起こす可能性があると警告し、AIが人間の助けなしに自己改善できるようになることを指摘しました。まだそこには至っていませんが、同社はAIの開発プロセスにおける人間の役割が常に縮小していると考えています。
ソース
最新ニュース
23:03
クリスティアン・ディアコネスク、ドローンの事件の後: 「一方で強さを示し、もう一方でバランスを保つ必要があります。そうすることで、攻撃者が望むエスカレーションを助長しないようにします。」
22:38
ベルリンプライドの攻撃の容疑者は、警察の作戦中に致命的な銃撃を受けました。
22:13
ラドゥ・ミルツァ:「ルーマニアはこの戦争の間接的な影響をますます見るようになってきています。ルーマニアの国境から数百メートルの距離で、火薬の匂いがし、死が待っています。」
22:01
トラヤン・バセスク、撃墜されたドローンについて:"反撃能力をテストする / もし事態が進展し、私たちを超える場合、最初の段階でNATOを第4条に基づいて召集する必要がある"
21:15
ラエド・アラファトは、DSUの「架空の雇用」の事件において「特に重大な事実」を主張しています。
さらにニュースを見る