国連人権高等弁務官、人工知能の規制に向けた緊急対応を要請

国連人権高等弁務官のフォルカー・テュルク氏は月曜日、最先端の人工知能モデルの規制に向けて各国と企業が緊急に行動するよう求め、この技術が人権と社会に前例のないリスクをもたらしていると警告した。同氏は、多国間の枠組みにおいて国際戦略を策定するよう要請した。また、AIの急速な発展が生命、食料、プライバシー、健康、安全に対する権利に影響を及ぼす可能性があると指摘した。高等弁務官は、人類が不可逆的な変化の瀬戸際に立っていると警告し、技術の未来に関する決定を少数の強力な企業に依存していることを批判した。

こうした警告は、AI開発のペースをめぐる議論がますます激しくなる中で発せられた。AnthropicのCEOであるDario Amodei氏は最近、リスクをより適切に評価するため進歩を減速させるべきだと主張し、Sam Altman氏とElon Musk氏も支持した。しかし、Donald Trump氏をはじめとする共和党の有力者らは、このような措置に反対した。

Volker Türk氏によれば、自律的にタスクを遂行できるエージェント型AIシステムは、不可欠なサービス、通信、重要インフラを混乱させる可能性がある。同氏はさらに、民主的機関、武力紛争、核兵器など大量破壊兵器の発射を防ぐ保護メカニズムへの影響についても警告した。