Váratlan felhívás a Microsoft vezérigazgatójától: Satya Nadella egy „vészfék” bevezetését és független ellenőrzést kér a fejlett mesterségesintelligencia-rendszerekhez

A Microsoft vezérigazgatója, Satya Nadella szombaton, az X platformon közzétett üzenetében független ellenőrzések és egy „vészfék” bevezetését sürgette a fejlett mesterségesintelligencia-rendszerekhez. A mechanizmus lehetővé tenné a felhatalmazott személyek számára, hogy egy modellt akár egy feladat végrehajtása közben is megszakítsanak vagy leállítsanak.

Nadella szerint a nemdeterminisztikus modelleket – amelyek műveletei nem minden helyzetben jelezhetők előre – determinisztikus rendszerekkel, emberi felügyelettel és szilárd működési eljárásokkal kell körülvenni. Azt javasolta, hogy a biztonság szempontjából az AI-rendszereket, köztük a tulajdonosi és a nyilvánosan hozzáférhető paraméterekkel rendelkező rendszereket is, potenciális belső fenyegetésként kezeljék.

Az ajánlott intézkedések között szerepel a folyamatos megfigyelés, az AI-műveleteiről vezetett, könnyen érthető nyilvántartás, a folyamatos tesztelés, a független auditok, a veszélyes komponensek elkülönítése és az incidensek jelentése. Nadella arra figyelmeztetett, hogy a biztonság nem függhet pusztán a modellbe vetett bizalomtól, hanem ellenőrizhető technikai és intézményi mechanizmusokra kell épülnie.

A felhívás a mesterséges intelligencia felgyorsult fejlődésével kapcsolatos, egyre gyakoribb figyelmeztetések közepette hangzott el. Az iparág képviselői, köztük Sam Altman, Dario Amodei, Bill Gates és Elon Musk, szigorúbb védelmi intézkedéseket sürgettek, miközben az amerikai kormányzat ragaszkodik ahhoz, hogy az Egyesült Államok megőrizze technológiai előnyét Kínával szemben.