Compania de inteligență artificială Anthropic a propus o pauză globală în dezvoltarea celor mai puternice sisteme AI, subliniind că modelele recente încep să arate semne că ar putea scăpa de sub controlul uman. Într-un raport, compania din San Francisco a afirmat că o încetinire a dezvoltării AI ar fi benefică, dar a avertizat că, dacă o singură companie ar opri activitatea, concurenții ar avansa rapid. Anthropic a comparat problema cu tratatele de control al armelor nucleare, menționând că reglementarea AI este mai complexă, deoarece antrenamentul AI este mai greu de detectat. Compania intenționează să reunească oficiali guvernamentali, oameni de știință și firme concurente pentru a discuta despre un sistem de coordonare. De asemenea, a avertizat că dezvoltarea accelerată a AI ar putea duce la "îmbunătățire auto-recursivă", unde AI devine capabilă să se auto-îmbunătățească fără ajutor uman. Deși nu s-a ajuns încă acolo, compania consideră că rolul uman în procesul de dezvoltare AI se restrânge constant.
Surse
Ultimele știri
23:00
NASA a publicat imagini ale craterului format pe Lună după prăbușirea treptei rachetei Falcon 9 pe 5 august
22:53
BCE: Europa nu își poate permite să piardă oportunitățile oferite de inteligența artificială
22:49
Consumul de energie este în creștere. Când este așteptat vârful de consum în acest an
22:45
Evaluarea clădirilor afectate de explozia din Rahova a început. Operațiunea se încheie pe 9 septembrie
22:35
Bogdan Ivan îi răspunde lui Ilie Bolojan, cerându-i să confirme că marii consumatori de energie nu vor fi afectați de tăieri de curent
Vezi mai multe știri