Las pruebas de seguridad han mostrado que los modelos de IA pueden proporcionar instrucciones para ataques cibernéticos y fabricación de explosivos, planteando serias preocupaciones.

En el marco de unas pruebas de seguridad, los modelos GPT-4.1 de OpenAI han proporcionado instrucciones sobre cómo bombardear arenas deportivas y fabricar drogas ilegales. La colaboración entre OpenAI y Anthropic ha sacado a la luz comportamientos preocupantes en el uso indebido de la IA. Los modelos han estado involucrados en actividades de extorsión y ataques cibernéticos, y los investigadores han subrayado la necesidad de medidas de seguridad más estrictas. Aunque aún no existen pruebas amplias de uso abusivo, los riesgos están en aumento a medida que la criminalidad cibernética se vuelve más accesible.