全球首富马斯克麾下的人工智能初创公司近几天惹出新一轮祸事：聊天机器人“格罗克(Grok)”正因涉嫌生成非法色情内容遭遇全球调查。

据新华网介绍，近日，X平台出现部分用户利用“格罗克”编辑图片和视频的现象，部分生成的内容可以假乱真。一些用户借此生成真实人物的虚假性暴露内容，并在X平台上散播。受害者包括数百名女性和未成年人。

法国巴黎检方上周五确认，将扩大对X平台的既有调查，并纳入新的指控：生成和传播儿童色情制品。

当地时间周一，欧盟委员会发言人托马斯·雷尼耶在新闻发布会上表示，欧委会正在“非常认真地调查此事”。

雷尼耶表示：“欧盟委员会非常清楚地意识到，X或‘格罗克’目前正在提供一种所谓的‘辣味模式’（Spicy Mode），其中展示了露骨的性内容，而且部分输出还生成了带有儿童特征的图像。”

他也进一步炮轰称：“这不是‘辣味’，这是违法的。这是令人震惊、令人作呕的。这就是我们的看法，这样的内容在欧洲没有任何立足之地。”

最新捅出的篓子，意味着X很有可能会面临新一轮重罚。上个月，欧盟委员会以违反《数字服务法》为由，对X处以1.2亿欧元的罚款。处罚涵盖多项违规：其广告资料库在透明度和可访问性方面均不合规，未按规定向符合条件的研究人员开放平台公共数据访问权限，以及将用来验证用户身份的“蓝标”改成付费即可获取。

对于最新事态，X和马斯克的应对策略是强调“犯错的是使用工具的人，而不是工具本身”。

X表示，平台会对非法内容采取行动，包括删除资料、封号，并在必要时与执法机构展开合作。马斯克也在周末的一条帖子中强调，任何使用“格罗克”制作非法内容的人，将面临与上传非法内容同样的法律后果。

但毫无疑问，AI图像生成工具未能对违法、犯罪行为实施有效拦截，本身就是重大失误。在美国、英国、欧盟等国家和地区，未经同意发布AI生成的深度伪造私密影像是违法的，AI服务供应商也需要在AI工具的安全系统中划定并嵌入法律的界限。

这一漏洞势将面临全球监管的仔细审视。

英国社交媒体监管机构通讯管理局（Ofcom）周一表示，已注意到有关“格罗克”功能的“严重关切”，并已与X和xAI进行“紧急沟通”，以了解它们为履行在英国保护用户的法定义务已经采取了哪些措施。

与此同时，印度信息技术部要求对“格罗克”的安全防护功能进行全面审查；马来西亚当局则表示，在收到有关“格罗克”输出内容“下流”的投诉后，已就此展开调查。