Apel neașteptat din partea șefului Microsoft: Satya Nadella cere introducerea unei „frâne de urgență” și controale independente pentru sistemele avansate de inteligență artificială

Directorul general al Microsoft, Satya Nadella, a cerut sâmbătă, într-un mesaj publicat pe platforma X, introducerea unor controale independente și a unei „frâne de urgență” pentru sistemele avansate de inteligență artificială. Mecanismul ar permite persoanelor autorizate să întrerupă sau să oprească un model chiar în timpul executării unei sarcini.

Nadella a susținut că modelele nedeterministe, ale căror acțiuni nu pot fi anticipate în toate situațiile, trebuie înconjurate de sisteme deterministe, supraveghere umană și proceduri operaționale solide. El a propus ca sistemele AI, inclusiv cele proprietare și cele cu parametri accesibili public, să fie tratate din perspectiva securității ca potențiale amenințări interne.

Printre măsurile recomandate se numără monitorizarea permanentă, evidențe ușor de înțeles ale acțiunilor AI, testarea continuă, audituri independente, izolarea componentelor periculoase și raportarea incidentelor. Nadella a avertizat că siguranța nu trebuie să depindă doar de încrederea acordată unui model, ci de mecanisme tehnice și instituționale verificabile.

Apelul vine pe fondul avertismentelor tot mai numeroase privind dezvoltarea accelerată a inteligenței artificiale. Reprezentanți ai industriei, precum Sam Altman, Dario Amodei, Bill Gates și Elon Musk, au cerut măsuri de protecție mai stricte, în timp ce administrația americană insistă asupra menținerii avantajului tehnologic al SUA față de China.