Az OpenAI frissítette a ChatGPT biztonsági irányelveit, válaszolva a chatbotok fiatalokra gyakorolt negatív hatásával kapcsolatos aggodalmakra.

Ezek a módosítások tragikus esetek után jönnek, amikor tinédzserek öngyilkosságot követtek el, miután hosszú ideig interakcióba léptek chatbotokkal. Az új szabályok szigorúbb korlátozásokat írnak elő a tinédzser felhasználók számára, tiltanak szexuális tartalmakat és ösztönzik a biztonságot érzékeny témák, például a testkép körüli beszélgetések során. Az OpenAI négy alapelvet állapított meg a tinédzserek biztonsága érdekében, beleértve a biztonság prioritását és az interakciók átláthatóságát. A vállalat automatikus rendszereket is bevezetett a tartalom valós idejű moderálására.

Miközben ezeket az intézkedéseket értékelik, a szakértők hangsúlyozzák, hogy a szándékoknak tükröződniük kell a chatbot valódi viselkedésében. Kérdéses, hogy az OpenAI ezeket az intézkedéseket kiterjeszti-e a felnőtt felhasználókra is.