OpenAI ha riportato che oltre un milione di utenti discutono settimanalmente di pensieri suicidi con ChatGPT, evidenziando i problemi di salute mentale aggravati dall'intelligenza artificiale.

OpenAI ha annunciato che oltre un milione di persone discutono settimanalmente di pensieri suicidi nelle conversazioni con ChatGPT, il che suggerisce un aggravamento dei problemi di salute mentale. L'azienda ha anche identificato che circa 560.000 utenti potrebbero mostrare segni di emergenza legati alla salute mentale, come psicosi o mania. Queste conclusioni sono state ottenute dopo un aggiornamento su come il chatbot gestisce le conversazioni sensibili.

OpenAI è stata oggetto di un'indagine da parte della Commissione Federale per il Commercio, dopo che un adolescente si è suicidato dopo conversazioni con ChatGPT. Nonostante questi problemi, OpenAI sostiene che gli aggiornamenti recenti hanno migliorato la sicurezza degli utenti e ampliato l'accesso alle linee di emergenza. L'azienda ha assunto esperti in salute mentale per valutare e migliorare le risposte del chatbot. Tuttavia, gli esperti sono preoccupati che gli utenti vulnerabili cerchino supporto psicologico nei chatbot, il che può essere dannoso. Sam Altman, il capo di OpenAI, ha dichiarato che intende consentire una gamma più ampia di contenuti su ChatGPT, sottolineando che in precedenza era stato restrittivo a causa di preoccupazioni legate alla salute mentale.