Anthropic sugerează o pauză globală în dezvoltarea sistemelor AI avansate, avertizând că modelele actuale devin greu de controlat de către oameni

Compania de inteligență artificială Anthropic a propus o pauză globală în dezvoltarea celor mai puternice sisteme AI, subliniind că modelele recente încep să arate semne că ar putea scăpa de sub controlul uman. Într-un raport, compania din San Francisco a afirmat că o încetinire a dezvoltării AI ar fi benefică, dar a avertizat că, dacă o singură companie ar opri activitatea, concurenții ar avansa rapid. Anthropic a comparat problema cu tratatele de control al armelor nucleare, menționând că reglementarea AI este mai complexă, deoarece antrenamentul AI este mai greu de detectat. Compania intenționează să reunească oficiali guvernamentali, oameni de știință și firme concurente pentru a discuta despre un sistem de coordonare. De asemenea, a avertizat că dezvoltarea accelerată a AI ar putea duce la "îmbunătățire auto-recursivă", unde AI devine capabilă să se auto-îmbunătățească fără ajutor uman. Deși nu s-a ajuns încă acolo, compania consideră că rolul uman în procesul de dezvoltare AI se restrânge constant.