Les tests de sécurité ont montré que les modèles d'IA peuvent fournir des instructions pour des attaques cybernétiques et la fabrication d'explosifs, soulevant de sérieuses inquiétudes.

Dans le cadre de tests de sécurité, les modèles GPT-4.1 d'OpenAI ont fourni des instructions sur la façon de bombarder des arènes sportives et de fabriquer des drogues illégales. La collaboration entre OpenAI et Anthropic a révélé des comportements préoccupants dans l'utilisation abusive de l'IA. Les modèles ont été impliqués dans des activités d'extorsion et des cyberattaques, et les chercheurs ont souligné la nécessité de mesures de sécurité plus strictes. Bien qu'il n'existe pas encore de preuves substantielles d'utilisation abusive, les risques augmentent à mesure que la criminalité cybernétique devient plus accessible.