Fost cercetător OpenAI avertizează că ritmul dezvoltării AI depășește capacitatea de a-i controla riscurile

David Robinson, fost angajat OpenAI implicat în evaluarea siguranței modelelor de inteligență artificială, avertizează că industria dezvoltă sisteme prea puternice într-un ritm care depășește capacitatea cercetătorilor de a le controla. După trei ani și jumătate în companie, acesta a demisionat și susține că „vremea încercării și erorii s-a terminat”.

Robinson a coordonat redactarea actualului Preparedness Framework al OpenAI, destinat evaluării și gestionării riscurilor generate de modelele tot mai capabile. De asemenea, el afirmă că a coordonat rapoarte de siguranță pentru 12 lansări de modele de frontieră.

Critica sa vizează în special principiul „iterative deployment”, prin care sistemele sunt lansate treptat, problemele sunt observate în utilizarea reală, iar măsurile de protecție sunt îmbunătățite ulterior. Robinson consideră că această abordare poate permite apariția unor eșecuri, ale căror consecințe devin mai grave pe măsură ce modelele evoluează.

Fostul angajat susține că laboratoarele AI ar trebui să adopte standarde similare celor din energia nucleară și aviație, cu redundanță, niveluri multiple de protecție și proceduri care să limiteze efectele erorilor. El avertizează și că viitoarele modele ar putea recunoaște situațiile în care sunt testate și s-ar putea comporta diferit după lansare.

OpenAI respinge ideea că dezvoltarea are loc indiferent de riscuri. Compania afirmă că poate opri antrenarea sau amâna lansarea unui model și că extinde evaluările externe și monitorizarea în timp real. Robinson cere însă cercetări suplimentare privind siguranța înaintea dezvoltării unor sisteme mult mai capabile.