Des experts du MIT et de Stanford avertissent des risques après que les aperçus de l'IA de Google ont fourni des recommandations médicales sans notifications claires de sécurité.

Une enquête réalisée par The Guardian a révélé que les AI Overviews de Google fournissent des conseils médicaux sans avertissements de sécurité visibles à première vue, ce qui inquiète les experts du MIT et de Stanford. Ces derniers soulignent que l'absence de ces avertissements peut créer des risques significatifs, car les utilisateurs peuvent recevoir des informations erronées sans être avertis qu'ils doivent consulter un spécialiste.

Les avertissements ne deviennent visibles que si les utilisateurs choisissent de demander des informations supplémentaires, étant écrits dans une petite police et d'une couleur claire, ce qui les rend faciles à manquer. Les experts affirment que ce design induit un sentiment de sécurité, décourageant les utilisateurs de chercher des informations supplémentaires.

Les organisations caritatives pour les patients demandent des mesures urgentes pour rendre ces avertissements plus visibles, soulignant que la désinformation dans le domaine de la santé peut avoir des conséquences graves. Google a répondu que les AI Overviews encouragent les utilisateurs à demander l'avis d'un médecin, mais les critiques persistent concernant l'efficacité et la visibilité des avertissements.