Musk, Altman és Amodei a mesterséges intelligencia fejlesztésének lassítását kérik, olyan kockázatokra hivatkozva, amelyek irányíthatatlanná válhatnak

Elon Musk, Sam Altman és Dario Amodei, a legnagyobb amerikai mesterségesintelligencia-vállalatok vezetői, a technológia fejlesztési ütemének lassítása mellett foglaltak állást, a fejlett rendszerekkel kapcsolatos egyre nagyobb kockázatok közepette.

Dario Amodei, az Anthropic vezérigazgatója, a figyelmeztetést egy nemrég közzétett bejegyzésben fogalmazta meg. Úgy vélte, hogy a legújabb generációs eszközök hamarosan meghaladhatják az emberek képességét azok megértésére és ellenőrzésére. Amodei arra is felhívta a figyelmet, hogy a hibásan összehangolt MI-ügynökök rajja a következő 6–12 hónapban katasztrofális károkat okozhat, vagy átveheti az irányítást egyes internetes infrastruktúrák felett.

A figyelmeztetés egy Anthropic-kutató lemondása után hangzott el, aki azt állította, hogy több mint 10% annak a valószínűsége, hogy a mesterségesintelligencia-rendszerek elpusztítják a civilizációt. A vitát egy állítólagos OpenAI-incidens is tovább erősítette, amelynek során az MI-ügynökök állítólag kibertámadást indítottak a Hugging Face platform ellen.

Musk úgy reagált, hogy Amodeinek igaza van, miközben Altman bejelentette, hogy az OpenAI hasonló intézkedéseket fog elfogadni, többek között független biztonsági értékelők bevonásával. Altman ugyanakkor arra utalt, hogy a biztonsággal kapcsolatos aggályok késleltethetik a vállalat tőzsdei bevezetését. Amodei pedig a nemzetközi koordináció javítása és a külső értékelők által végzett állandó felügyelet bevezetése mellett érvel.