OpenAI, Anthropic și Google DeepMind colaborează pentru siguranța inteligenței artificiale

OpenAI colaborează cu Anthropic și Google DeepMind pentru îmbunătățirea siguranței inteligenței artificiale, a declarat Chris Lehane, directorul de politici globale al producătorului ChatGPT, citat de Bloomberg și Reuters. Inițiativa urmărește crearea unui mecanism de evaluare și supraveghere a noilor modele AI, pe fondul preocupărilor privind riscurile dezvoltării accelerate a tehnologiei.

Propunerea a fost lansată de Demis Hassabis, directorul Google DeepMind, care a sugerat înființarea unei entități inspirate de Autoritatea de reglementare a industriei financiare din SUA (FINRA). Organismul ar urma să fie finanțat de companiile din domeniu și să aibă un consiliu format din experți independenți și reprezentanți ai comunității open-source.

Potrivit planului, principalele companii AI ar trebui să își supună noile modele unor evaluări de siguranță înainte de lansarea pe piață. Organismul ar putea coordona inclusiv o încetinire a dezvoltării, dacă evaluarea riscurilor nu ar ține pasul cu progresul tehnologic.

În Statele Unite, participarea la procesul de evaluare introdus de administrația Trump la începutul lunii august este voluntară. Companiile susțin necesitatea unor reguli, în timp ce administrația americană se teme că restricțiile ar putea avantaja China. O astfel de structură ar necesita probabil o bază legală pentru a evita problemele antitrust.