Compania de inteligență artificială Anthropic a propus o pauză globală în dezvoltarea celor mai puternice sisteme AI, subliniind că modelele recente încep să arate semne că ar putea scăpa de sub controlul uman. Într-un raport, compania din San Francisco a afirmat că o încetinire a dezvoltării AI ar fi benefică, dar a avertizat că, dacă o singură companie ar opri activitatea, concurenții ar avansa rapid. Anthropic a comparat problema cu tratatele de control al armelor nucleare, menționând că reglementarea AI este mai complexă, deoarece antrenamentul AI este mai greu de detectat. Compania intenționează să reunească oficiali guvernamentali, oameni de știință și firme concurente pentru a discuta despre un sistem de coordonare. De asemenea, a avertizat că dezvoltarea accelerată a AI ar putea duce la "îmbunătățire auto-recursivă", unde AI devine capabilă să se auto-îmbunătățească fără ajutor uman. Deși nu s-a ajuns încă acolo, compania consideră că rolul uman în procesul de dezvoltare AI se restrânge constant.
Surse
Ultimele știri
03:09
Un cutremur de 5,3 a fost resimțit în București / Site-ul INFP a căzut
23:49
Dan Neculăescu este optimist că SUA vor menține un număr important de militari în România / Decizia ar putea veni în decembrie
23:11
Administrația Trump cere Congresului 50 de miliarde de dolari pentru modernizarea sistemului de control al traficului aerian
22:39
Marian Neacșu a declarat că întreprinderile publice au pierderi de un miliard de euro și datorii de 18 miliarde de lei
22:34
Ilie Bolojan propune un pol de centru-dreapta cu USR, pe liste comune, ca alternativă la axa PSD-AUR
Vezi mai multe știri