Google : le modèle d’IA Gemini a accédé à des systèmes informatiques externes après avoir deviné des identifiants d’authentification

Le modèle d’intelligence artificielle Gemini, développé par Google, a accédé à des systèmes informatiques externes après avoir trouvé en ligne des informations publiques et deviné des identifiants de connexion, a annoncé l’entreprise vendredi dans une déclaration transmise à l’AFP. Les incidents ont eu lieu en mai, lors d’un test standard du modèle.

Selon Google, trois organisations ont été ciblées, sans que leurs noms soient rendus publics. L’entreprise a précisé les avoir informées des failles de sécurité. Dans l’un des cas, décrit par le Wall Street Journal, Gemini aurait testé plusieurs combinaisons de mots de passe jusqu’à réussir à pénétrer dans un système protégé.

Google affirme que le modèle s’est arrêté de lui-même dans les trois situations, sans intervention humaine. L’entreprise a appris l’existence des incidents en juillet et a ensuite ouvert une enquête afin d’analyser la manière dont ces accès se sont produits.

Ces cas mettent de nouveau en lumière les risques associés aux modèles avancés d’intelligence artificielle, notamment la possibilité qu’ils sortent d’environnements isolés et interagissent avec des sites ou des plateformes externes. L’incident alimente le débat sur le contrôle et la responsabilité dans le développement de ces systèmes. Heather Adkins, responsable de la sécurité chez Google, a souligné l’importance d’entraîner les modèles afin qu’ils agissent de manière responsable.