Anthropic alerte sur les risques liés à l’IA / Les modèles peuvent être utilisés pour des armes biologiques et des cyberattaques

Anthropic avertit, dans un récent rapport sur les menaces, que les modèles d’intelligence artificielle de pointe peuvent être utilisés pour des activités contribuant au développement d’armes biologiques, ainsi que dans des cyberattaques, des opérations d’influence, la surveillance, des escroqueries et des fraudes. L’entreprise affirme avoir bloqué des chercheurs qui utilisaient l’IA d’une manière susceptible de contribuer au développement d’armes biologiques.

Le rapport présente cinq cas dans lesquels les modèles d’Anthropic auraient été utilisés pour des activités présentant un potentiel d’abus. L’entreprise considère l’utilisation abusive à des fins biologiques comme l’un des risques les plus graves associés aux systèmes avancés d’intelligence artificielle et avertit que, sans mesures de sécurité adéquates, les conséquences pourraient être catastrophiques.

Au cours des huit derniers mois, les chercheurs ont identifié des cas allant de fausses applications de rencontres et d’escroqueries via les réseaux Wi-Fi d’hôtels à des systèmes de surveillance destinés à identifier les dissidents. Le modèle Claude d’Anthropic aurait également été utilisé dans une campagne d’espionnage informatique associée à la Russie et à une institution iranienne de propagande.

Des avertissements similaires ont été lancés par d’autres entreprises. Google a annoncé qu’une personne avait tenté d’utiliser Gemini pour obtenir un guide technique sur la synthèse d’agents biologiques transformés en armes. Le sénateur américain Bernie Sanders a demandé une pause dans le développement de l’IA avancée ainsi que l’interdiction de la superintelligence artificielle.

Le président Donald Trump a jusqu’à présent rejeté ces craintes, affirmant que les États-Unis se retrouveraient dans une position très vulnérable s’ils ne remportaient pas la compétition mondiale dans le domaine de l’intelligence artificielle.