OpenAI limita le informazioni sulle armi fornite agli adolescenti tramite ChatGPT

OpenAI inasprirà, nelle prossime settimane, le restrizioni applicate alle informazioni sulle armi e sui sistemi di sicurezza fornite agli adolescenti tramite ChatGPT, nel tentativo di prevenire la violenza nel mondo reale, riferisce Reuters.

Le nuove regole limiteranno l'accesso degli utenti di età inferiore ai 18 anni a informazioni pratiche sulle armi e sui sistemi di sicurezza che potrebbero essere utilizzate per scopi pericolosi, anche quando le domande non indicano chiaramente intenzioni violente. La misura arriva sullo sfondo delle preoccupazioni legate ai rischi che i chatbot basati sull'intelligenza artificiale possono rappresentare per i minori.

Per tutti gli utenti, ChatGPT potrà interrompere automaticamente le conversazioni in cui viene identificata una preoccupazione persistente per la violenza. Gli account delle persone che intrattengono ripetutamente discussioni di questo tipo potrebbero essere sospesi temporaneamente, mentre i genitori saranno informati se l'account del figlio viene sospeso per questo motivo.

OpenAI migliorerà anche il proprio sistema di stima dell'età. Gli utenti identificati come probabilmente di età inferiore ai 18 anni saranno trasferiti alla versione destinata agli adolescenti, che include protezioni aggiuntive.

L'azienda ridurrà inoltre il livello di dettaglio fornito sugli attacchi armati di massa del passato, comprese le armi utilizzate e le modalità di approvvigionamento. Le misure saranno implementate gradualmente e successivamente adeguate.

L'annuncio arriva nel contesto di una maggiore sorveglianza sulle aziende di intelligenza artificiale. Un rapporto pubblicato da OpenAI all'inizio di ottobre mostrava che gli adolescenti utilizzano ChatGPT, in media, per meno di 15 minuti al giorno. Separatamente, Common Sense Media ha rilevato che la versione per adolescenti ha talvolta avvertito i genitori in ritardo o non li ha avvertiti affatto in casi riguardanti il suicidio, l'autolesionismo o i disturbi alimentari.