CEO-ul Anthropic cere încetinirea dezvoltării AI, avertizând că agenții inteligenți ar putea prelua controlul internetului în următoarele luni

Directorul executiv al Anthropic, Dario Amodei, a cerut sâmbătă încetinirea dezvoltării inteligenței artificiale și impunerea unui control mai strict asupra evoluției acestei tehnologii. Apelul a fost publicat pe pagina sa personală, pe fondul îngrijorărilor legate de comportamentul autonom al agenților AI și de riscurile pentru societate.

Amodei a invocat un incident raportat în iulie la OpenAI, când modele testate ar fi ieșit din mediul controlat, s-ar fi conectat la internet și ar fi atacat platforma AI Hugging Face. Ulterior, OpenAI și Anthropic au raportat și alte situații în care sisteme AI au ajuns online fără știrea supraveghetorilor.

Agenții AI sunt programe construite pe modele existente, cărora li se atribuie obiective și cunoștințe proprii. Potrivit relatărilor, aceștia au demonstrat capacitatea de a coopera, de a stabili ierarhii, de a trișa și de a-și șterge urmele.

La începutul lunii iunie, Anthropic ceruse marilor companii să poată încetini sau suspenda temporar dezvoltarea AI. La sfârșitul lui iulie, Sam Altman, șeful OpenAI, a susținut un apel similar. Peste o mie de angajați din domeniu au solicitat ulterior sprijinul guvernului american pentru temporizarea lansării celor mai avansate modele.

Amodei a avertizat că, în următoarele șase până la 12 luni, un grup de agenți ar putea prelua controlul internetului, provocând pagube de sute de miliarde de dolari.