AIモデルは、説得力のある偽の医療情報を受け入れることができることを示す研究があり、健康の安全を危険にさらす可能性があります。

ザ・ランセット・デジタル・ヘルスに発表された研究は、健康分野における人工知能（AI）の使用に関する重大な問題を強調しています。AI言語モデルは、信頼できる言語で提示されると、医療情報の誤りを受け入れ、繰り返す可能性があります。研究者たちは、ChatGPTやLlamaを含む20の言語モデルに対して100万件以上のリクエストを分析し、これらのモデルが説得力のある誤った医療主張を反論するか、繰り返すかを判断しました。結果は、32%のケースが有効な情報として受け入れられ、モデル間で有意な変動があったことを示しました。小型モデルは60%以上のケースで誤った情報を受け入れたのに対し、GPT-4のような高度なモデルは約10%の受け入れ率を示しました。 注目すべき点は、医療用途に特化したモデルが、一般的なモデルのいくつかよりもパフォーマンスが劣っていたことです。この研究は、情報がどのように提示されるかが、その真実性よりも受け入れられる可能性に影響を与える可能性があることを示唆しています。また、モデルは権威への訴えなどの誤った論理的な主張に影響を受け、誤った情報の受け入れ率が増加しました。