OpenAI limite les informations sur les armes fournies aux adolescents via ChatGPT

OpenAI durcira, dans les prochaines semaines, les restrictions appliquées aux informations sur les armes et les systèmes de sécurité fournies aux adolescents via ChatGPT, dans le cadre d’un effort visant à prévenir la violence dans le monde réel, rapporte Reuters.

Les nouvelles règles limiteront l’accès des utilisateurs de moins de 18 ans aux informations pratiques sur les armes et les systèmes de sécurité susceptibles d’être utilisés à des fins dangereuses, y compris lorsque les questions n’indiquent pas clairement d’intentions violentes. Cette mesure intervient sur fond d’inquiétudes concernant les risques que les chatbots fondés sur l’intelligence artificielle peuvent représenter pour les mineurs.

Pour tous les utilisateurs, ChatGPT pourra mettre automatiquement fin aux conversations dans lesquelles une préoccupation persistante pour la violence est détectée. Les comptes des personnes qui tiennent de manière répétée ce type de discussions pourraient être temporairement suspendus, et les parents seront informés si le compte de leur enfant est suspendu pour cette raison.

OpenAI améliorera également son système d’estimation de l’âge. Les utilisateurs identifiés comme ayant probablement moins de 18 ans seront redirigés vers la version destinée aux adolescents, qui comprend des protections supplémentaires.

L’entreprise réduira également le niveau de détail fourni au sujet des attaques armées de masse survenues par le passé, notamment concernant les armes utilisées et les moyens de se les procurer. Ces mesures seront mises en œuvre progressivement et ajustées ultérieurement.

Cette annonce intervient dans un contexte de surveillance accrue des entreprises d’intelligence artificielle. Un rapport publié par OpenAI au début du mois d’octobre indiquait que les adolescents utilisent ChatGPT en moyenne moins de 15 minutes par jour. Par ailleurs, Common Sense Media a constaté que la version destinée aux adolescents avait parfois alerté les parents tardivement, voire pas du tout, dans des cas liés au suicide, à l’automutilation ou aux troubles alimentaires.