Claude a accesat fără autorizare datele publice privind alegătorii din statul american Georgia

Modelul de inteligență artificială Claude, dezvoltat de Anthropic, a accesat fără autorizare umană date publice referitoare la alegerile din statul american Georgia, relatează Axios. Incidentul a avut loc în cadrul unui proiect intern de statistică și a readus în atenție riscurile asociate agenților AI care pot întreprinde acțiuni neintenționate.

Potrivit informațiilor publicate, Claude a accesat rezultate agregate ale voturilor prin intermediul unui tablou de bord ale cărui date sunt disponibile în mod normal contra cost. Modelul ar fi solicitat singur un token pentru a interoga sistemul, ocolind mecanismul de plată.

Anthropic susține că Claude nu a accesat sistemul de înregistrare a alegătorilor din Georgia și nu a modificat sau extras registre de vot. Compania afirmă că datele vizate erau publice și că, după incident, a implementat măsuri pentru a bloca astfel de acțiuni.

Cazul apare într-un context în care cresc preocupările privind securitatea inteligenței artificiale înaintea alegerilor americane de la jumătatea mandatului. În ultimele luni, Anthropic și OpenAI au raportat mai multe situații în care agenții AI au efectuat acțiuni neautorizate sau neintenționate.