Az OpenAI arról számolt be, hogy több mint egymillió felhasználó heti rendszerességgel beszélget öngyilkossági gondolatokról a ChatGPT-vel, kiemelve a mesterséges intelligencia által súlyosbított mentális egészségi problémákat.

Az OpenAI bejelentette, hogy több mint egymillió ember heti rendszerességgel beszél öngyilkossági gondolatokról a ChatGPT-vel folytatott beszélgetések során, ami a mentális egészségi problémák súlyosbodását jelzi. A cég azt is megállapította, hogy körülbelül 560.000 felhasználó mutathat sürgősségi jeleket a mentális egészséggel kapcsolatban, mint például pszichózis vagy mániás állapot. Ezeket a következtetéseket a chatbot érzékeny beszélgetések kezelésének módjának frissítése után nyerték.

Az OpenAI a Szövetségi Kereskedelmi Bizottság vizsgálatának tárgyát képezte, miután egy tinédzser öngyilkosságot követett el a ChatGPT-vel folytatott beszélgetések után. A problémák ellenére az OpenAI azt állítja, hogy a legutóbbi frissítések javították a felhasználók biztonságát és bővítették a sürgősségi vonalakhoz való hozzáférést. A cég mentális egészségügyi szakértőket alkalmazott a chatbot válaszainak értékelésére és javítására. Ennek ellenére a szakértők aggódnak amiatt, hogy a sebezhető felhasználók pszichológiai támogatást keresnek chatbotokban, ami káros lehet. Sam Altman, az OpenAI vezetője kijelentette, hogy szándékában áll szélesebb körű tartalmat engedélyezni a ChatGPT-n, megjegyezve, hogy korábban a mentális egészséggel kapcsolatos aggályok miatt korlátozó volt.