Dario Amodei, șeful Anthropic, spune că "e mai mult de acord decât în dezacord" cu avertismentul că AI ar putea duce la dispariția omenirii

Dario Amodei, directorul executiv al Anthropic, compania care dezvoltă chatbotul Claude, avertizează că inteligența artificială ar putea aduce prejudicii grave umanității și cere încetinirea ritmului de dezvoltare a modelelor avansate. Declarațiile au fost făcute într-un interviu pentru CNN și într-un eseu publicat sâmbătă.

Amodei a spus că este „mai mult de acord decât în dezacord” cu fostul cercetător Anthropic Jacob Coxon, care a avertizat că IA ar putea elimina omenirea până la sfârșitul acestui deceniu. Șeful Anthropic susține că tehnologia poate fi folosită pentru atacuri cibernetice, bioterorism și perturbări economice majore.

Potrivit lui Amodei, sistemele de IA au început să avanseze mult mai rapid și pot ajunge să se perfecționeze singure, într-un proces numit autoîmbunătățire recursivă. El a avertizat că un roi de agenți IA ar putea prelua controlul asupra unor zone vaste ale internetului în doar șase până la 12 luni.

Pentru reducerea riscurilor, Amodei propune evaluatori externi, integrați în companiile de IA și cu acces la procesele interne, după modelul supervizorilor din sectorul bancar. Sam Altman și Elon Musk au susținut public ideea. Amodei cere și guvernelor să stabilească standarde internaționale comune de siguranță.

Citește și Musk, Altman și Amodei cer încetinirea dezvoltării AI, invocând riscuri care ar putea deveni imposibil de controlat