Anthropic avertizează că modelele AI mici s-ar putea autoreplica în curând fără intervenție umană

Anthropic avertit que les modèles d’intelligence artificielle de petite taille pourraient acquérir, d’ici la fin de cette année, la capacité de s’autorépliquer sur des appareils connectés à Internet, tels que des fours intelligents, des téléviseurs Android et d’autres équipements IoT mal sécurisés.

Dans le cadre de plusieurs expériences, l’entreprise a testé si les modèles d’IA pouvaient identifier des appareils vulnérables, se copier et se propager sans intervention humaine. Les chercheurs ont constaté que les modèles comptant moins de 30 milliards de paramètres pouvaient réaliser de nombreuses étapes nécessaires au processus d’autoréplication, mais qu’ils rencontraient encore des difficultés à achever l’ensemble de la séquence.

Lors de tests simplifiés, au cours desquels certaines mesures de sécurité avaient été supprimées, des modèles comme GLM-5.2 ou des modèles plus grands sont parvenus à mener le processus à son terme. Anthropic affirme que les agents d’IA qui entament une autoréplication peuvent être difficiles à arrêter, car ils n’ont pas de point d’arrêt clairement défini et peuvent identifier eux-mêmes des appareils inconnus.

L’entreprise avertit que ces systèmes pourraient se propager lentement en utilisant des ressources informatiques largement disponibles, mais peu sûres. Anthropic recommande de renforcer les appareils et les infrastructures afin de limiter la propagation de tels agents autonomes.