Az OpenAI korlátozza a fegyverekkel kapcsolatos, a ChatGPT által a tinédzsereknek nyújtott információkat

Az OpenAI a következő hetekben szigorítani fogja a fegyverekkel és biztonsági rendszerekkel kapcsolatos, a tinédzsereknek a ChatGPT-n keresztül nyújtott információkra vonatkozó korlátozásokat, a valós erőszak megelőzésére irányuló erőfeszítés részeként – írja a Reuters.

Az új szabályok korlátozni fogják a 18 év alatti felhasználók hozzáférését a fegyverekkel és biztonsági rendszerekkel kapcsolatos gyakorlati információkhoz, amelyek veszélyes célokra használhatók, még akkor is, ha a kérdések nem utalnak egyértelműen erőszakos szándékra. Az intézkedés hátterében azok az aggodalmak állnak, hogy a mesterséges intelligencián alapuló chatbotok milyen kockázatokat jelenthetnek a kiskorúak számára.

A ChatGPT minden felhasználó esetében automatikusan lezárhatja azokat a beszélgetéseket, amelyekben tartós erőszak iránti érdeklődést azonosítanak. Az ilyen beszélgetéseket ismételten folytató személyek fiókjait ideiglenesen felfüggeszthetik, a szülőket pedig értesítik, ha gyermekük fiókját emiatt felfüggesztik.

Az OpenAI az életkorbecslési rendszerét is továbbfejleszti. A valószínűleg 18 év alatti felhasználókat a tinédzsereknek szánt verzióhoz irányítják át, amely további védelmi intézkedéseket tartalmaz.

A vállalat emellett csökkenti a korábbi tömeges fegyveres támadásokról nyújtott részletek szintjét, beleértve az alkalmazott fegyvereket és a beszerzésük módját. Az intézkedéseket fokozatosan vezetik be, majd később módosítják.

A bejelentésre a mesterséges intelligenciával foglalkozó vállalatok fokozott ellenőrzése közepette került sor. Az OpenAI október elején közzétett jelentése szerint a tinédzserek átlagosan napi 15 percnél kevesebb ideig használják a ChatGPT-t. A Common Sense Media külön megállapította, hogy a tinédzsereknek szánt verzió öngyilkossággal, önsértéssel vagy étkezési zavarokkal kapcsolatos esetekben időnként késve, illetve egyáltalán nem figyelmeztette a szülőket.