OpenAI a mis à jour les directives de sécurité pour ChatGPT, répondant aux préoccupations concernant l'impact négatif des chatbots sur les jeunes.

Ces modifications interviennent après des cas tragiques où des adolescents se sont suicidés après des interactions prolongées avec des chatbots. Les nouvelles règles imposent des restrictions plus strictes pour les utilisateurs adolescents, interdisant le contenu sexuel et encourageant la sécurité dans les discussions sur des sujets sensibles tels que l'image corporelle. OpenAI a établi quatre principes fondamentaux pour la sécurité des adolescents, y compris la priorité à la sécurité et la transparence dans les interactions. De plus, l'entreprise a mis en place des systèmes automatiques pour la modération du contenu en temps réel.

Bien que ces mesures soient appréciées, les experts soulignent que les intentions doivent se refléter dans le comportement réel du chatbot. Reste à voir si OpenAI étendra ces mesures aux utilisateurs adultes.