Anthropic avertizează asupra riscurilor IA / Modelele pot fi folosite pentru arme biologice și atacuri cibernetice

Anthropic avertizează, într-un raport recent privind amenințările, că modelele de inteligență artificială de frontieră pot fi utilizate în activități care sprijină dezvoltarea armelor biologice, precum și în atacuri cibernetice, operațiuni de influență, supraveghere, escrocherii și fraude. Compania susține că a blocat cercetători care au folosit IA în moduri ce puteau contribui la dezvoltarea unor arme biologice.

Raportul prezintă cinci cazuri în care modelele Anthropic ar fi fost folosite pentru activități cu potențial de abuz. Compania consideră utilizarea biologică abuzivă unul dintre cele mai grave riscuri asociate sistemelor avansate de inteligență artificială și avertizează că, fără măsuri adecvate de siguranță, consecințele ar putea fi catastrofale.

În ultimele opt luni, cercetătorii au identificat cazuri care au variat de la aplicații false de dating și escrocherii prin rețele Wi-Fi din hoteluri până la sisteme de supraveghere destinate identificării disidenților. Modelul Claude al Anthropic ar fi fost folosit și într-o campanie de spionaj cibernetic asociată Rusiei și unei instituții iraniene de propagandă.

Avertismente similare au fost lansate și de alte companii. Google a anunțat că o persoană a încercat să folosească Gemini pentru a obține un ghid tehnic privind sintetizarea unor agenți biologici transformați în arme. Senatorul american Bernie Sanders a cerut o pauză în dezvoltarea IA avansate și interzicerea superinteligenței artificiale.

Președintele Donald Trump a respins până acum aceste temeri, susținând că Statele Unite ar ajunge într-o poziție foarte vulnerabilă dacă nu câștigă competiția globală în domeniul inteligenței artificiale.