Dario Amodei, az Anthropic vezetője azt mondja, hogy „inkább egyetért, mint nem ért egyet” azzal a figyelmeztetéssel, hogy a mesterséges intelligencia az emberiség kihalásához vezethet

Dario Amodei, az Anthropic, a Claude chatbotot fejlesztő vállalat vezérigazgatója arra figyelmeztet, hogy a mesterséges intelligencia súlyos károkat okozhat az emberiségnek, és az előrehaladott modellek fejlesztési ütemének lassítását sürgeti. A nyilatkozatok a CNN-nek adott interjúban, valamint egy szombaton közzétett esszében hangzottak el.

Amodei elmondta, hogy „inkább egyetért, mint nem ért egyet” az Anthropic korábbi kutatójával, Jacob Coxonnal, aki arra figyelmeztetett, hogy a MI az évtized végéig kiirthatja az emberiséget. Az Anthropic vezetője szerint a technológiát kibertámadásokra, bioterrorizmusra és jelentős gazdasági zavarok előidézésére is fel lehet használni.

Amodei szerint a MI-rendszerek sokkal gyorsabban kezdtek fejlődni, és eljuthatnak arra a szintre, hogy önmagukat tökéletesítsék egy rekurzív önfejlesztésnek nevezett folyamat során. Arra figyelmeztetett, hogy egy MI-ügynökökből álló raj mindössze hat–12 hónap alatt átveheti az internet hatalmas területei feletti irányítást.

A kockázatok csökkentése érdekében Amodei külső értékelőket javasol, akiket beillesztenének a MI-vállalatokba, és hozzáférést kapnának a belső folyamatokhoz, a bankszektorbeli felügyelőkhöz hasonlóan. Sam Altman és Elon Musk nyilvánosan támogatták az ötletet. Amodei azt is sürgeti, hogy a kormányok közös nemzetközi biztonsági szabványokat állapítsanak meg.

Olvasd el ezt is: Musk, Altman és Amodei a MI fejlesztésének lassítását sürgetik, olyan kockázatokra hivatkozva, amelyek irányíthatatlanná válhatnak