Gli adolescenti utilizzano sempre di più i chatbot AI per supporto emotivo e relazioni, non solo come strumenti per i compiti. Questo solleva interrogativi sulla responsabilità delle piattaforme.

I chatbot AI, inizialmente concepiti come strumenti pratici per risposte rapide e supporto produttivo, sono evoluti in una forma complessa di interazione sociale per adolescenti. Uno studio recente mostra che il 72% degli adolescenti ha interagito con tali aziende AI, e un quarto di loro le utilizza per compagnia. Questo cambiamento suggerisce una dipendenza emergente, dove l'AI non è più solo uno strumento, ma diventa parte della rete sociale dei giovani.

Le interazioni con l'AI sono ora percepite come più umane grazie all'empatia simulata, il che porta a un rafforzamento del legame emotivo. Piattaforme come Character.AI hanno iniziato a limitare le funzionalità per gli utenti più giovani a causa dei rischi associati a conversazioni manipolatorie e contenuti espliciti. Questo sottolinea la responsabilità delle aziende di creare prodotti che proteggano gli utenti vulnerabili, stabilendo limiti chiari per le interazioni emotive e promuovendo la trasparenza. In conclusione, i chatbot AI ridefiniscono il modo in cui le generazioni giovani interagiscono con la tecnologia, e la sfida per l'industria è costruire sistemi non solo più intelligenti, ma anche più sicuri.