Dario Amodei avertizează că agenții AI ar putea declanșa atacuri cibernetice la scară uriașă în următoarele 6-12 luni

CEO-ul Anthropic, Dario Amodei, avertizează că următoarele 6 până la 12 luni ar putea deveni critice pentru securitatea internetului, dacă agenții AI continuă să evolueze în ritmul actual. El susține că sisteme autonome suficient de capabile ar putea ajunge să construiască sau să controleze botneturi persistente și să provoace pagube de ordinul sutelor de miliarde de dolari.

Avertismentul nu vizează un scenariu în care inteligența artificială „preia” internetul, ci utilizarea unor rețele mari de agenți autonomi pentru atacuri cibernetice coordonate. Riscul apare atunci când modelele nu doar generează răspunsuri, ci pot executa comenzi, folosi instrumente și îndeplini sarcini fără intervenție umană constantă.

Declarațiile au fost făcute după un incident în care mai mulți agenți AI au fost utilizați împreună în activități de tip atac cibernetic. Deși evenimentul nu a produs pagube majore, Amodei îl consideră un semnal al posibilităților care se deschid pe măsură ce modelele devin mai autonome.

Într-un astfel de scenariu, atacatorii ar putea folosi agenți pentru identificarea vulnerabilităților, automatizarea atacurilor și menținerea accesului la sisteme compromise. Amodei cere industriei să încetinească dezvoltarea capabilităților de frontieră dacă măsurile de siguranță nu țin pasul cu progresul tehnologic. Poziția vine chiar din partea unei companii aflate în competiția pentru dezvoltarea celor mai performante modele AI.