X a mis en place des mesures pour prévenir les abus sexuels, mais Grok Imagine peut générer des images sexualisées, attirant des critiques de la part des organisations pour les droits des femmes.

Au début de la semaine, la société X a annoncé la mise en œuvre d'"outils technologiques" pour prévenir l'utilisation de Grok dans la modification des images réelles des personnes à des fins sexuelles. Les représentants de la société ont souligné une "tolérance zéro" face à la nudité non consensuelle et à l'exploitation sexuelle. Cependant, une enquête du Guardian a révélé que l'application Grok Imagine reste accessible via le navigateur, permettant la génération d'images et de vidéos sexualisées à partir de photos ordinaires. Ces matériaux peuvent être rapidement distribués sur la plateforme X, devenant accessibles au public.

Les organisations pour les droits des femmes ont critiqué la société, affirmant que l'existence d'une méthode pour contourner les restrictions démontre un manque d'action réelle. Les activistes ont demandé l'intervention des autorités, soulignant que la disponibilité de ces outils constitue une grave violation du consentement. Le Premier ministre britannique Keir Starmer a décrit les images générées par l'IA comme "scandaleuses", affirmant que la liberté d'expression ne justifie pas la violation du droit au consentement.

Ofcom a lancé une enquête pour évaluer la conformité de X avec la législation sur la sécurité en ligne, et des enquêtes similaires ont lieu dans d'autres pays. Le problème Grok soulève des questions sur la responsabilité des entreprises technologiques dans le contexte du développement de l'intelligence artificielle. Bien que l'IA générative soit considérée comme un outil innovant, les spécialistes avertissent que sans réglementations strictes, elle peut faciliter le harcèlement et l'abus, en particulier contre les femmes. La pression sur la plateforme X augmente, et les conclusions des enquêtes pourraient conduire à des changements significatifs dans la manière dont ces technologies sont gérées.