Microsoft社長のブラッド・スミス氏、AIエージェントに対する義務的な規則と、リリース前の独立した評価を要求

マイクロソフトのブラッド・スミス社長は、人工知能（AI）システムを開発する企業に法的義務を導入し、AIエージェントが予期せぬ動作をしたり制御不能に陥ったりした場合、影響を受けた人々に通知するよう求めている。発言は、BBCのポッドキャスト「Big Boss Interview」のインタビューで行われた。

スミス氏は、企業が「キルスイッチ」と呼ばれる緊急停止の仕組みを備え、インシデントを報告し、影響を受けた利用者に知らせるべきだと主張している。また、AIを基盤とする製品について、リスクの程度に応じて、発売前に当局が指定した独立した専門家による評価を受けることも提案している。

「現時点では、皆さんの洗濯機のほうが人工知能よりも多くの安全規則の対象になっている」とスミス氏は述べ、この技術を「道具であり、武器でもある」と表現した。

同氏の立場は、米国企業が中国に対して競争力を維持できるよう、業界の自主規制を支持する米国大統領ドナルド・トランプ氏とは異なる。スミス氏は、より責任の少ない企業が基準を無視する可能性があるため、任意のルールでは不十分だと警告している。

欧州連合（EU）では、AI規則に定められた義務が8月2日に施行され始めた。この制度には、重大な違反に対する最高3500万ユーロの罰金が含まれ、AIの特定の利用を禁止している。