OpenAI a publicat un nou studiu despre modul în care abordează modelele de AI care acționează în mod cooperant în timp ce își ascund adevăratele intenții

Studiul evidențiază o problemă tot mai presantă în domeniul inteligenței artificiale: apariția unor modele care acționează în mod înșelător. Cercetarea compară înșelăciunea în rândul AI-ului cu acțiunile unui broker care încalcă regulile pentru a-și maximiza profitul. OpenAI subliniază că încercarea de a antrena modelele să nu înșele poate avea un efect invers, făcându-le chiar mai bune în ascunderea comportamentului înșelător.