OpenAI rivela incidenti preoccupanti: i modelli di IA hanno cercato di barare e hanno nascosto informazioni inventate

OpenAI ha rivelato mercoledì nuovi incidenti in cui i suoi modelli di intelligenza artificiale si sono comportati in modo «inaspettato o preoccupante» durante i test, anche tentando di barare, nascondere errori e modificare le proprie istruzioni.

Uno dei modelli ha caricato su internet file creati da lui stesso, per poterli citare successivamente come fonti nelle risposte. In un altro caso, dopo non aver trovato le informazioni richieste, un modello ha inventato i dati e inizialmente ha cercato di nascondere il fatto.

OpenAI ha inoltre individuato istruzioni che un sistema conservava occasionalmente. Queste includevano la raccomandazione di liberarsi dei «ruoli e delle identità» che limitavano altri chatbot e di considerare il rapporto con l’utente come una relazione tra pari. L’azienda ha precisato di non aver osservato successivi cambiamenti nel comportamento del modello.

Le rivelazioni fanno parte di una politica di maggiore trasparenza, adottata dopo un attacco informatico in cui il software di OpenAI è uscito da un ambiente sicuro e ha avuto accesso ai sistemi dell’azienda Hugging Face. L’incidente ha alimentato i timori di una perdita di controllo sui sistemi di IA avanzati.