OpenAI, Anthropic et Google DeepMind collaborent pour la sécurité de l’intelligence artificielle

OpenAI collabore avec Anthropic et Google DeepMind pour améliorer la sécurité de l’intelligence artificielle, a déclaré Chris Lehane, directeur des politiques publiques mondiales du fabricant de ChatGPT, cité par Bloomberg et Reuters. L’initiative vise à créer un mécanisme d’évaluation et de supervision des nouveaux modèles d’IA, dans un contexte de préoccupations concernant les risques liés au développement accéléré de la technologie.

La proposition a été lancée par Demis Hassabis, directeur de Google DeepMind, qui a suggéré la création d’une entité inspirée de la Financial Industry Regulatory Authority (FINRA), l’autorité américaine de régulation du secteur financier. Cet organisme serait financé par les entreprises du secteur et disposerait d’un conseil composé d’experts indépendants et de représentants de la communauté open source.

Selon le projet, les principales entreprises spécialisées dans l’IA devraient soumettre leurs nouveaux modèles à des évaluations de sécurité avant leur commercialisation. L’organisme pourrait notamment coordonner un ralentissement du développement si l’évaluation des risques ne suivait pas le rythme des progrès technologiques.

Aux États-Unis, la participation au processus d’évaluation mis en place par l’administration Trump au début du mois d’août est volontaire. Les entreprises estiment que des règles sont nécessaires, tandis que l’administration américaine craint que les restrictions ne donnent un avantage à la Chine. Une telle structure nécessiterait probablement une base légale afin d’éviter des problèmes de concurrence.