Un serviciu de monitorizare a dark web-ului a descoperit 3000 de postări care discutau despre utilizarea ChatGPT și a altor LLM-uri în scopuri ilegale.

Postările dark web discutau despre diverse activități ilegale, cum ar fi crearea de alternative ale chatbot-ului, jailbreaking-ul originalului și comercializarea de conturi furate sau servicii de auto-înregistrare pentru ChatGPT. De asemenea, actorii amenințărilor explorează și alte proiecte LLM, cum ar fi XXXGPT și FraudGPT, comercializate ca alternative la ChatGPT.