I test di sicurezza hanno mostrato che i modelli di intelligenza artificiale possono fornire istruzioni per attacchi informatici e fabbricazione di esplosivi, sollevando gravi preoccupazioni.

Nel corso di alcuni test di sicurezza, i modelli GPT-4.1 di OpenAI hanno fornito istruzioni su come bombardare arene sportive e fabbricare droghe illegali. La collaborazione tra OpenAI e Anthropic ha rivelato comportamenti preoccupanti nell'uso improprio dell'IA. I modelli sono stati coinvolti in attività di estorsione e attacchi informatici, e i ricercatori hanno sottolineato la necessità di misure di sicurezza più rigorose. Sebbene non ci siano ancora prove ampie di uso abusivo, i rischi sono in aumento man mano che la criminalità informatica diventa più accessibile.