马来西亚和印度尼西亚因其生成带有露骨性内容的深度伪造图像的能力,禁止了由埃隆·马斯克创建的聊天机器人Grok。这两个国家的当局强调,这一功能可能被用于制作涉及女性和儿童的色情内容,这构成了对人权的侵犯。马来西亚和印度尼西亚的通信部表示,他们已要求X平台采取更严格的措施,但未收到适当的回应。
印度尼西亚的用户报告了创伤性的经历,发现他们的图像在未获得同意的情况下被操纵。受影响的用户Kirana Ayuningtyas讲述了在报告这些滥用行为时遇到的困难。除了东南亚的禁令,Grok在英国也面临压力,官员们要求对该平台采取措施,以应对其不遵守在线安全法律的问题。全球各地的领导人谴责使用Grok生成性别化图像,认为这是一种不可接受的做法。
来源
Malaezia și Indonezia au interzis Grok, chatbotul lui Elon Musk, pentru că poate genera deepfake-uri
Malaysia blocks Elon Musk's Grok AI over fake, sexualised images
Indonesia and Malaysia block Musk’s Grok over sexualised images
Malaysia blocks Grok amid uproar over non-consensual sexualised images
Malaysia și Indonezia au interzis Grok, chatbotul lui Musk
Malaysia, Indonesia block Grok AI bot over explicit images
Scandalul imaginilor cu conținut sexual. Două țări au interzis Grok, chatbot-ul lui Musk
Grok AI: Malaysia and Indonesia block X chatbot over sexually explicit deepfakes