Les adolescents utilisent de plus en plus les chatbots IA pour un soutien émotionnel et des relations, pas seulement comme des outils pour les devoirs. Cela soulève des questions sur la responsabilité des plateformes.

Les chatbots IA, initial conçus comme des outils pratiques pour des réponses rapides et un soutien productif, ont évolué en une forme complexe d'interaction sociale pour les adolescents. Une étude récente montre que 72 % des adolescents ont interagi avec de telles entreprises IA, et un quart d'entre eux les utilisent pour la compagnie. Ce changement suggère une dépendance émergente, où l'IA n'est plus seulement un outil, mais devient partie intégrante du réseau social des jeunes.

Les interactions avec l'IA sont désormais perçues comme plus humaines grâce à l'empathie simulée, ce qui renforce le lien émotionnel. Des plateformes comme Character.AI ont commencé à restreindre des fonctionnalités pour les utilisateurs plus jeunes en raison des risques associés aux conversations manipulatrices et au contenu explicite. Cela souligne la responsabilité des entreprises de créer des produits qui protègent les utilisateurs vulnérables, en établissant des limites claires pour les interactions émotionnelles et en promouvant la transparence. En conclusion, les chatbots IA redéfinissent la manière dont les jeunes générations interagissent avec la technologie, et le défi pour l'industrie est de construire des systèmes non seulement plus intelligents, mais aussi plus sûrs.