埃隆马斯克旗下社交平台X于1月14日发表声明称，将对其人工智能聊天机器人Grok采取限制措施，禁止该功能生成真人裸露图像。此前Grok因平台监管缺失，被广泛滥用于生成网络色情图片，甚至涉及儿童色情领域，遭到多个国家的批评与抵制。
X平台安全团队在声明中表示：“我们已实施技术措施，防止Grok账号允许编辑真人穿着比基尼等暴露服装的图像。此项限制适用于所有用户，包括付费订阅者。”
此外，X平台安全团队还称，其正在全天候工作以增设防护措施，移除违规及非法内容，在必要时将永久封禁账户并与当地政府及执法部门开展协作。
马斯克14日早些时候曾表示，其未发现Grok生成过任何“裸露的未成年图像”。他在X平台发文中称："我确实未发现Grok生成过任何未成年人裸体图像，完全为零。"
Grok由xAI公司开发，并内置于X平台，X用户可直接调用该聊天机器人。目前，Grok因相关争议在全球范围内面临监管与舆论双重压力。
欧盟委员会负责数字经济事务的发言人托马斯雷尼耶1月5日回应说，正“严肃调查”针对Grok的相关投诉。“Grok推出所谓‘热辣模式’，不仅展示露骨性内容，部分生成内容还带有儿童特征。这根本不是‘热辣内容’，而是违法行为，令人震惊。这种事在欧洲没有立足之地。”
英国信息专员办公室（ICO）1月7日发布声明称，注意到有报道对Grok制作的内容提出严重关切，“我们已联系X和xAI，以了解他们为遵守英国数据保护法和保护个人权利而采取的措施。在审阅他们的回复后，我们将尽快评估是否需要采取进一步行动”。
印度尼西亚通信和数字事务部长当地时间1月10日表示，由于担心人工智能会生成色情内容，该国暂时封禁Grok，成为第一个拒绝访问该人工智能工具的国家。
马来西亚通讯与多媒体委员会（MCMC）1月11日发布声明称，当日起暂时限制访问马斯克旗下人工智能企业xAI的聊天机器人Grok，原因是Grok被滥用，用于生成色情、不雅和未经同意的篡改图像。
MCMC表示，已向X平台和xAI发出通知，要求其阻止可能违反马来西亚法律的AI生成内容，但两家公司的回应未能解决该工具的固有风险，“在实施有效的安全措施之前，对Grok的访问将继续受到限制”。
在美国本土，Grok也面临监管压力。当地时间1月14日，美国加利福尼亚州一名官员表示，鉴于Grok出现并传播未经同意的违规图片并引发全球关注，他们要求该公司作出回应。加州总检察长罗布邦塔在社交媒体平台发文称：“我们要求xAI立即就其如何计划阻止此类内容生成和传播给出明确答复。”
评论