最近发表在《自然医学》杂志上的一项研究指出,ChatGPT Health 在 51.6% 的案例中低估了诊断的严重性,与三位医生的评估相比。研究人员提出了 60 种医疗场景,而 AI 的回答往往不够恰当,建议在紧急情况下进行医生咨询。
例如,在糖尿病酮症酸中毒和呼吸衰竭的情况下,ChatGPT 建议的护理延误是不可接受的。家庭医学专家 Gindrovel Dumitra 强调,AI 应被视为医生的支持工具,而不是替代品,并提到没有任何技术在诊断上会 100% 可靠。这项研究强调了在医疗背景下对 AI 推荐进行批判性评估的必要性。
来源
ChatGPT a evaluat greşit peste 50% dintre cazuri. Avertismentul medicilor: „Nu este un instrument pe care să-l utilizeze un pacient”
ChatGPT Health poate pune viața pacienților în pericol, avertizează medicii. La ce trebuie să fie atenți românii
ChatGPT Health subestimează frecvent urgențele medicale. Cercetătorii avertizează asupra unor riscuri grave: "Ar putea duce chiar la decese evitabile"