Selon une enquête réalisée par The Guardian, la fonction 'AI Overviews' de Google fournit des informations médicales inexactes, qui peuvent gravement affecter la santé des patients.

Une enquête réalisée par The Guardian a mis en évidence les graves problèmes liés à la fonction 'AI Overviews' de Google, qui fournit des résumés automatiques dans les résultats de recherche. Cette fonction a fourni, dans certains cas, des conseils médicaux erronés, avec le potentiel d'affecter la santé des utilisateurs. Par exemple, Google a recommandé aux patients atteints de cancer du pancréas d'éviter les aliments riches en graisses, une suggestion considérée comme extrêmement dangereuse par des experts, car elle peut réduire les chances de survie en raison d'un manque de calories nécessaires pour les traitements de chimiothérapie. D'autres informations incorrectes ont inclus des données sur les tests de fonction hépatique, qui pourraient induire en erreur des patients atteints de maladies hépatiques graves. Les organisations du domaine de la santé ont souligné que ces résumés confèrent une apparence d'autorité, incitant les utilisateurs à les considérer comme corrects sans les vérifier. En sa défense, Google a affirmé que la majorité des résumés sont utiles et corrects et qu'ils travaillent constamment à l'amélioration du système, corrigeant les erreurs identifiées, en particulier dans le domaine de la santé.