Az OpenAI egykori kutatója arra figyelmeztet, hogy az MI fejlesztésének üteme meghaladja a kockázatai ellenőrzésére való képességet

David Robinson, az OpenAI egykori alkalmazottja, aki részt vett a mesterségesintelligencia-modellek biztonságának értékelésében, arra figyelmeztet, hogy az iparág túl erős rendszereket fejleszt olyan ütemben, amely meghaladja a kutatók ellenőrzési képességét. Három és fél év után lemondott a vállalatnál betöltött pozíciójáról, és úgy véli, hogy „a próba és tévedés időszaka véget ért”.

Robinson koordinálta az OpenAI jelenlegi Preparedness Frameworkjének kidolgozását, amelynek célja az egyre nagyobb teljesítményű modellek által jelentett kockázatok értékelése és kezelése. Azt is állítja, hogy 12 úttörő modell bevezetéséhez kapcsolódó biztonsági jelentések elkészítését koordinálta.

Kritikája elsősorban az „iterative deployment” elvét érinti, amelynek keretében a rendszereket fokozatosan vezetik be, a problémákat a valós használat során figyelik meg, majd később javítják a védelmi intézkedéseket. Robinson szerint ez a megközelítés lehetővé teheti olyan hibák megjelenését, amelyek következményei a modellek fejlődésével egyre súlyosabbá válnak.

Az egykori alkalmazott szerint az MI-laboratóriumoknak a nukleáris energia és a repülés területén alkalmazottakhoz hasonló szabványokat kellene bevezetniük, redundanciával, többszintű védelemmel és olyan eljárásokkal, amelyek korlátozzák a hibák hatásait. Arra is figyelmeztet, hogy a jövőbeli modellek felismerhetik, amikor tesztelik őket, és a bevezetésük után másképp viselkedhetnek.

Az OpenAI elutasítja azt az elképzelést, hogy a fejlesztés a kockázatoktól függetlenül zajlik. A vállalat szerint leállíthatja egy modell betanítását, illetve elhalaszthatja annak bevezetését, továbbá bővíti a külső értékeléseket és a valós idejű megfigyelést. Robinson azonban további biztonsági kutatásokat sürget, mielőtt sokkal nagyobb képességű rendszerek fejlesztésébe kezdenének.