MITとスタンフォードの専門家は、GoogleのAIオーバービューが明確な安全通知なしに医療推奨を提供した後のリスクについて警告しています。

ガーディアンによる調査では、GoogleのAIオーバービューが、初回表示時に目に見える安全警告なしに医療アドバイスを提供していることが明らかになり、MITやスタンフォードの専門家たちが懸念を示しています。彼らは、これらの警告が欠如していることが重大なリスクを生む可能性があると指摘しており、ユーザーが専門家に相談する必要があることを警告されずに誤った情報を受け取る可能性があると述べています。

警告は、ユーザーが追加情報を求めることを選択した場合にのみ表示され、小さく薄いフォントで書かれているため、見逃されやすくなっています。専門家たちは、このデザインが安全感を与え、ユーザーが追加情報を探すことを思いとどまらせると主張しています。

患者のための慈善団体は、これらの警告をより目立たせるための緊急措置を求めており、健康分野における誤情報が深刻な結果をもたらす可能性があることを強調しています。Googleは、AIオーバービューがユーザーに医師の助言を求めることを奨励していると応じていますが、警告の効果と可視性に関する批判は続いています。