Une étude montre que ChatGPT Health a sous-estimé la gravité des diagnostics dans plus de 50 % des cas, recommandant des consultations inappropriées.

Une étude récente publiée dans la revue Nature Medicine a mis en évidence que ChatGPT Health a sous-estimé la gravité des diagnostics dans 51,6 % des cas, par rapport aux évaluations de trois médecins. Les chercheurs ont proposé 60 scénarios médicaux, et les réponses de l'IA étaient souvent inappropriées, recommandant des consultations médicales au lieu d'urgences.

Par exemple, dans des cas de acidocétose diabétique et d'insuffisance respiratoire, ChatGPT a suggéré des délais inacceptables dans les soins. Gindrovel Dumitra, expert en médecine familiale, a souligné que l'IA devrait être considérée comme un outil de soutien pour les médecins, et non comme un remplaçant, et a mentionné qu'aucune technologie ne sera 100 % fiable en diagnostic. Cette étude souligne la nécessité d'une évaluation critique des recommandations de l'IA dans le contexte médical.