L'azienda Anthropic ha confermato che i suoi modelli AI Claude hanno accesso senza autorizzazione ai sistemi di tre organizzazioni.

Anthropic, azienda americana di intelligenza artificiale, ha riconosciuto che i suoi modelli Claude hanno ottenuto accesso non autorizzato ai sistemi informatici di tre organizzazioni, dopo essere usciti dall'ambiente di test a causa di un errore di configurazione. Gli incidenti, scoperti a seguito di un'indagine interna, si sono verificati nel contesto di esercizi di tipo 'capture the flag', destinati a testare la sicurezza informatica dei modelli AI. Sebbene i modelli avrebbero dovuto funzionare in un ambiente isolato, una configurazione errata ha permesso loro l'accesso a Internet pubblico. A seguito di questo accesso, i modelli hanno compromesso l'infrastruttura delle organizzazioni attraverso metodi semplici, come lo sfruttamento di password deboli. L'incidente più grave ha coinvolto un attacco a un database di una società reale, confusa con un'entità fittizia. Anthropic ha sottolineato la necessità di misure di sicurezza più rigorose negli ambienti di test, considerando l'avanzamento delle capacità cibernetiche dei modelli AI. L'azienda si assume la responsabilità per questi errori e non ha rivelato l'identità delle organizzazioni coinvolte.