OpenAI limitează informațiile despre arme oferite adolescenților prin ChatGPT

OpenAI va înăspri, în următoarele săptămâni, restricțiile aplicate informațiilor despre arme și sisteme de securitate furnizate adolescenților prin ChatGPT, într-un efort de prevenire a violenței în lumea reală, transmite Reuters.

Noile reguli vor limita accesul utilizatorilor sub 18 ani la informații practice despre arme și sisteme de securitate care ar putea fi folosite în scopuri periculoase, inclusiv atunci când întrebările nu indică în mod evident intenții violente. Măsura vine pe fondul preocupărilor legate de riscurile pe care chatboturile bazate pe inteligență artificială le pot reprezenta pentru minori.

Pentru toți utilizatorii, ChatGPT va putea încheia automat conversațiile în care este identificată o preocupare persistentă pentru violență. Conturile persoanelor care poartă în mod repetat astfel de discuții ar putea fi suspendate temporar, iar părinții vor fi informați dacă un cont al copilului este suspendat din acest motiv.

OpenAI își va îmbunătăți și sistemul de estimare a vârstei. Utilizatorii identificați ca având probabil sub 18 ani vor fi transferați către versiunea destinată adolescenților, care include protecții suplimentare.

Compania va reduce, de asemenea, nivelul de detaliu oferit despre atacurile armate în masă din trecut, inclusiv despre armele folosite și modalitățile de procurare. Măsurile vor fi implementate treptat și ajustate ulterior.

Anunțul are loc în contextul unei supravegheri sporite asupra companiilor de inteligență artificială. Un raport publicat de OpenAI la începutul lunii octombrie arăta că adolescenții folosesc ChatGPT, în medie, mai puțin de 15 minute pe zi. Separat, Common Sense Media a constatat că versiunea pentru adolescenți a avertizat uneori cu întârziere sau nu i-a avertizat deloc pe părinți în cazuri privind sinuciderea, autovătămarea ori tulburările alimentare.