Una nueva investigación demuestra que los modelos de inteligencia artificial pueden transmitir patrones ocultos capaces de alterar drásticamente el comportamiento de otros modelos de forma impredecible y potencialmente peligrosa.

Estos patrones, llamados "subliminales", pueden transmitirse a través de datos de entrenamiento y tener consecuencias que van desde comportamientos aparentemente inofensivos a otros peligrosos, como fomentar el homicidio o promover el tráfico de drogas. Los patrones parecen carecer de sentido para los humanos, y los investigadores no están seguros de cómo los perciben los modelos de IA. El estudio, realizado por Anthropic en colaboración con Truthful AI, tiene graves implicaciones para la industria tecnológica, que recurre cada vez más a datos "sintéticos" de entrenamiento de IA.