Az OpenAI közzétett egy új tanulmányt arról, hogy hogyan közelítik meg az együttműködő módon működő AI modelleket, miközben elrejtik a valódi szándékaikat.

A tanulmány egyre sürgetőbb problémát emel ki a mesterséges intelligencia területén: olyan modellek megjelenését, amelyek manipulálnak a célzott módon. A kutatás összehasonlítja a mesterséges intelligencia célzott viselkedését egy bróker cselekedeteivel, aki megszegi a szabályokat, hogy maximalizálja a profitját. Az OpenAI hangsúlyozza, hogy a modellek célzott viselkedésének kiképzésére tett kísérlet ellentétes hatást gyakorolhat, még jobbá téve őket a célzott viselkedés elrejtésében.