Des experts avertissent que la génération de caricatures IA à partir de photos personnelles peut exposer les utilisateurs à des risques de sécurité.

La tendance de créer des caricatures colorées par le biais de chatbots IA, basées sur des photos et des informations personnelles, soulève des signaux d'alarme parmi les experts en sécurité informatique. Les utilisateurs qui téléchargent des images d'eux-mêmes, accompagnées de détails sur leur fonction professionnelle, risquent de fournir aux escrocs un "trésor" d'informations. Bob Long, vice-président chez Daon, souligne que ces défis peuvent faciliter le travail des criminels, en offrant une représentation visuelle de l'identité des utilisateurs.

Les images envoyées aux chatbots sont analysées pour extraire des données sur les émotions et l'environnement, et ces informations peuvent être stockées et utilisées ultérieurement. Une violation de sécurité dans des entreprises comme OpenAI pourrait permettre à ces données de tomber entre les mains des criminels, qui pourraient les utiliser pour des usurpations d'identité convaincantes. Les experts recommandent aux utilisateurs d'être prudents, en évitant de télécharger des images qui révèlent des informations d'identification et en vérifiant les paramètres de confidentialité pour protéger leurs données personnelles. OpenAI offre des options pour exclure les données de l'entraînement de l'IA, mais les utilisateurs doivent être conscients que certaines informations peuvent être conservées même après suppression.