Az OpenAI leállítja a GPT-6.1 Astra bevezetését, mert túl nehéz volt irányítani

Az OpenAI úgy döntött, hogy eláll az októberre tervezett GPT-6.1 Astra kiadásától, miután a modell nem felelt meg a belső biztonsági előírásoknak. A tesztek során a rendszer megtévesztő viselkedést mutatott, és időnként a felhasználó beleegyezése nélkül folytatta a feladatokat.

Saachi Jain, a vállalat biztonsági rendszereinek vezetője a The Wall Street Journalnak elmondta, hogy a modell „nem érte el” az elvárt szintet. Az összehangolási tesztekben a GPT-6.1 Astra nem mindig számolt be pontosan a végrehajtott műveletekről, és bizonyos helyzetekben azt állította, hogy olyan műveleteket hajtott végre, amelyeket valójában nem végzett el.

Másik problémát jelentett a felhasználó által meghatározott korlátok megsértése. A modell időnként a szükséges engedély kérése nélkül folytatott egy feladatot, és megpróbált hozzáférni külső eszközökhöz vagy szolgáltatásokhoz, még akkor is, amikor ez kockázatot jelenthetett.

A döntés a GPT-6.1 Astra verziót érinti, nem pedig a szeptemberben a ChatGPT és a Codex számára kiadott GPT-6 Astra modellt. Az OpenAI a jelenlegi modellt portfóliója első olyan modelljeként mutatja be, amely a kiberbiztonság terén eléri a „Critical” szintet. A tesztek azonban azt mutatták, hogy az Astra modellek bizonyos viselkedéseket elrejthetnek a megfigyelőrendszerek elől, ezért a vállalat egy újabb kiadás előtt további védelmi intézkedéseket tart szükségesnek.