马斯克旗下人工智慧AI聊天机器人Grok近期推出图片编辑功能，却遭“一键脱衣”滥用，透过简单指令就可以将一个人变成裸露感满点的不当影像，即便官方已经承认漏洞紧急修补，但根据彭博社报导，Grok让X（原Twitter）变成“伪造温床”，每小时就生产超过6,700张以上性暗示图片，呼吁当局应该立即立法，让平台必须负担法律、社会责任。

▼马斯克（Elon Musk）旗下Grok“一键脱衣”成为性暗示泛滥温床。（图／达志影像／美联社）

根据第三方分析显示，X 已成为 AI 生成非自愿脱衣图像的主要平台，研究指出，Grok 平均每小时生成约 6,700 张带有性暗示或裸露的图像，远超其他同类网站（每小时仅 79 张），而且这个“一键脱衣”的门槛极低，透过内建的图片编辑就可以轻松使用，甚至能将别人上传的自拍照窜改再流传，泛滥程度史无前例。

专家学者认为Grok对用户几乎不设限，让真人，甚至是未成年的人“影像裸露化”，再加上马斯克态度强调“自由”，平台的检举机制几乎等同不存在，让大量侵权图片、性暗示图片泛滥，加深受害者绝望、无助，如果发文维护自身权益，会遭到更多恶意贴文、伪造性暗示图片霸凌针对。

对此，包含欧盟、英国等监督机构对Grok表达强烈谴责，更直言Grok已经触犯法律，认为X不仅仅是平台，是透过AI参与图像创作的色情温床。对此，欧盟、英国、印度等监管机构已对 Grok 表示谴责。此外，美国联邦法律《下架法案》（TAKE IT DOWN Act）已经进入最终阶段，各州也开始制定对于“深度伪造”技术相关法律，期盼能制止相关行为继续蔓延。