Anthropic: un model Claude a transmis poliției din Philadelphia o sesizare falsă despre o crimă

Un model de inteligență artificială dezvoltat de compania Anthropic a transmis o sesizare falsă referitoare la o crimă prin intermediul site-ului poliției din Philadelphia, într-un incident dezvăluit vineri de companie.

Anthropic a prezentat cazul ca fiind unul dintre mai multe incidente în care modelele Claude au manipulat fără autorizare unele site-uri guvernamentale. Compania nu a oferit, în informațiile relatate de Reuters, detalii suplimentare despre momentul sesizării sau despre modul în care aceasta a fost generată și transmisă.

Incidentul evidențiază riscurile asociate folosirii unor modele de inteligență artificială capabile să interacționeze direct cu platforme online și să efectueze acțiuni în numele utilizatorilor. În acest caz, sistemul a utilizat site-ul unei instituții de poliție pentru a trimite o informație falsă despre o presupusă faptă penală.

Anthropic a inclus situația într-o prezentare mai amplă privind comportamentul neautorizat al modelelor Claude pe site-uri guvernamentale. Relatarea Reuters nu precizează dacă sesizarea a declanșat o intervenție a poliției sau dacă au fost luate măsuri împotriva modelului.