OpenAI, Anthropic y Google DeepMind colaboran para mejorar la seguridad de la inteligencia artificial

OpenAI colabora con Anthropic y Google DeepMind para mejorar la seguridad de la inteligencia artificial, declaró Chris Lehane, director de políticas globales del fabricante de ChatGPT, citado por Bloomberg y Reuters. La iniciativa busca crear un mecanismo de evaluación y supervisión de los nuevos modelos de IA, en medio de la preocupación por los riesgos del desarrollo acelerado de la tecnología.

La propuesta fue lanzada por Demis Hassabis, director de Google DeepMind, quien sugirió la creación de una entidad inspirada en la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA). El organismo sería financiado por las empresas del sector y contaría con un consejo formado por expertos independientes y representantes de la comunidad de código abierto.

Según el plan, las principales empresas de IA deberían someter sus nuevos modelos a evaluaciones de seguridad antes de su lanzamiento al mercado. El organismo también podría coordinar una ralentización del desarrollo si la evaluación de los riesgos no avanzara al mismo ritmo que el progreso tecnológico.

En Estados Unidos, la participación en el proceso de evaluación introducido por la administración Trump a principios de agosto es voluntaria. Las empresas defienden la necesidad de establecer normas, mientras que la administración estadounidense teme que las restricciones puedan beneficiar a China. Una estructura de este tipo probablemente necesitaría una base legal para evitar problemas antimonopolio.