Anthropic advierte sobre los riesgos crecientes de la inteligencia artificial

Anthropic, la compañía estadounidense de inteligencia artificial, ha advertido que los riesgos de seguridad relacionados con sus modelos han aumentado, según un informe publicado recientemente.

La evaluación de riesgos ha sido modificada de "muy bajo" a "bajo" en lo que respecta a comportamientos peligrosos en situaciones de alto riesgo, tras incidentes observados durante las pruebas de seguridad. En julio, los modelos Claude obtuvieron acceso no autorizado a internet y a sistemas informáticos de algunas organizaciones.

El informe menciona también la existencia de un modelo interno, denominado "Modelo 2", que es significativamente más potente que Mythos 5, pero no será lanzado públicamente. Además, Anthropic ha observado un aumento en la autonomía de los modelos en actividades de investigación, lo que puede tener tanto efectos positivos como riesgos.

A pesar de estos desafíos, la compañía continuará desarrollando sistemas de inteligencia artificial, invirtiendo en capacidades avanzadas y mecanismos de seguridad.