Experten von MIT und Stanford warnen vor den Risiken, nachdem AI-Übersichten von Google medizinische Empfehlungen ohne klare Sicherheitsbenachrichtigungen bereitgestellt haben.

Eine Untersuchung von The Guardian hat ergeben, dass die AI Overviews von Google medizinische Ratschläge ohne sichtbare Sicherheitswarnungen bei der ersten Anzeige bereitstellen, was Experten von MIT und Stanford besorgt. Diese betonen, dass das Fehlen dieser Warnungen erhebliche Risiken schaffen kann, da Nutzer falsche Informationen erhalten können, ohne gewarnt zu werden, dass sie einen Spezialisten konsultieren sollten.

Die Warnungen werden nur sichtbar, wenn die Nutzer zusätzliche Informationen anfordern, und sind in einer kleinen, hellen Schrift verfasst, was sie leicht übersehen lässt. Experten behaupten, dass dieses Design ein Gefühl der Sicherheit vermittelt und die Nutzer davon abhält, nach weiteren Informationen zu suchen.

Patientenorganisationen fordern dringende Maßnahmen, um diese Warnungen sichtbarer zu machen, und betonen, dass Fehlinformationen im Gesundheitsbereich schwerwiegende Folgen haben können. Google hat geantwortet, dass die AI Overviews die Nutzer ermutigen, den Rat eines Arztes einzuholen, aber die Kritik an der Wirksamkeit und Sichtbarkeit der Warnungen bleibt bestehen.