A MIT és Stanford szakértői figyelmeztetnek a kockázatokra, miután a Google AI Overviews világos biztonsági értesítések nélkül orvosi ajánlásokat adott.

A The Guardian által végzett vizsgálat feltárta, hogy a Google AI Overviews orvosi tanácsokat ad figyelmeztetések nélkül, amelyek első megjelenéskor láthatóak, ami aggasztja a MIT és Stanford szakértőit. Ők hangsúlyozzák, hogy ezen figyelmeztetések hiánya jelentős kockázatokat teremthet, mivel a felhasználók téves információkat kaphatnak anélkül, hogy figyelmeztetve lennének arra, hogy szakemberhez kellene fordulniuk.

A figyelmeztetések csak akkor válnak láthatóvá, ha a felhasználók további információt kérnek, és kis, világos betűtípussal íródnak, ami megnehezíti a észrevételüket. A szakértők azt állítják, hogy ez a dizájn biztonságérzetet kelt, elriasztva a felhasználókat a további információk keresésétől.

A betegek jótékonysági szervezetei sürgős intézkedéseket kérnek a figyelmeztetések láthatóságának növelésére, hangsúlyozva, hogy az egészségügyi dezinformációnak súlyos következményei lehetnek. A Google válaszolt, hogy az AI Overviews arra ösztönzi a felhasználókat, hogy kérjék orvos tanácsát, de a figyelmeztetések hatékonyságával és láthatóságával kapcsolatos kritikák továbbra is fennállnak.