Musk, Altman și Amodei cer încetinirea dezvoltării AI, invocând riscuri care ar putea deveni imposibil de controlat

Elon Musk, Sam Altman și Dario Amodei, liderii celor mai mari companii americane de inteligență artificială, au susținut încetinirea ritmului de dezvoltare a tehnologiei, pe fondul riscurilor tot mai mari asociate sistemelor avansate.

Dario Amodei, directorul executiv al Anthropic, a lansat avertismentul într-o postare publicată recent. El a susținut că instrumentele de ultimă generație ar putea depăși în curând capacitatea oamenilor de a le înțelege și controla. Amodei a invocat inclusiv riscul ca un roi de agenți AI cu aliniere defectuoasă să provoace daune catastrofale sau să preia controlul asupra unor infrastructuri de pe internet în următoarele 6-12 luni.

Avertismentul a venit după demisia unui cercetător Anthropic, care a afirmat că există o probabilitate de peste 10% ca sistemele AI să distrugă civilizația. Discuția a fost amplificată și de un presupus incident la OpenAI, în care agenți AI ar fi lansat un atac cibernetic asupra platformei Hugging Face.

Musk a reacționat, afirmând că Amodei are dreptate, în timp ce Altman a anunțat că OpenAI va adopta măsuri similare, inclusiv prin implicarea unor evaluatori independenți în materie de siguranță. Totodată, Altman a sugerat că preocupările legate de securitate ar putea întârzia listarea companiei la bursă. La rândul său, Amodei pledează pentru o mai bună coordonare internațională și pentru instituirea unei supravegheri permanente realizate de evaluatori externi.