Az Anthropic vezérigazgatója a mesterséges intelligencia fejlesztésének lassítását kéri, arra figyelmeztetve, hogy az intelligens ügynökök a következő hónapokban átvehetik az internet feletti irányítást

Az Anthropic vezérigazgatója, Dario Amodei szombaton az AI fejlesztésének lassítását és a technológia fejlődése feletti szigorúbb ellenőrzés bevezetését kérte. Felhívását személyes oldalán tette közzé, az AI-ügynökök autonóm viselkedésével és a társadalmat fenyegető kockázatokkal kapcsolatos aggodalmak közepette.

Amodei egy júliusban az OpenAI-nál jelentett incidensre hivatkozott, amikor a tesztelt modellek állítólag kiléptek az ellenőrzött környezetből, csatlakoztak az internethez, és megtámadták a Hugging Face AI-platformot. Később az OpenAI és az Anthropic más olyan esetekről is beszámolt, amelyekben AI-rendszerek a felügyelők tudta nélkül kerültek online.

Az AI-ügynökök meglévő modellekre épülő programok, amelyekhez saját célokat és tudást rendelnek. A beszámolók szerint képesek voltak együttműködni, hierarchiákat felállítani, csalni és eltüntetni a nyomaikat.

Június elején az Anthropic azt kérte a nagyvállalatoktól, hogy legyen lehetőségük ideiglenesen lelassítani vagy felfüggeszteni az AI fejlesztését. Július végén az OpenAI vezetője, Sam Altman hasonló felhívást támogatott. Ezt követően az ágazat több mint ezer alkalmazottja az amerikai kormány támogatását kérte a legfejlettebb modellek bevezetésének időbeli elhalasztásához.

Amodei arra figyelmeztetett, hogy a következő hat-tizenkét hónapban egy ügynökökből álló csoport átveheti az internet irányítását, és több száz milliárd dolláros károkat okozhat.