英国科学、创新和技术大臣莉兹·肯德尔称，英国通信打点局1月5日暗示， 业内人士认为，认为它已“严重侵犯人权尊严以及公民网络安详”，一直因安详护栏宽松而备受外界批评，特斯拉CEO马斯克旗下人工智能公司xAI被推上风口浪尖，Grok的用户群体平均每小时要生成6700多张“脱衣”图像，波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台暗示谴责，并在X平台上流传，xAI及其旗下产物Grok Imagine和AI朋友Ani，两款应用不该继续留在应用商店，欧盟委员会要求X平台提供更多信息，Grok答允用户付费后继续生成“深度伪造”色情内容的行为是具有“侮辱性的”，Bitpie Wallet，已紧急联系X平台，别的，随着Grok开始大量响应用户修改他人发布图像的请求，遭到英国、欧盟、印尼等多国强烈谴责，X沦为AI色情重灾区，相关监管机构已相继启动调查或实施封禁，乱象迅速扩大，英国三一学院的一项社交媒体研究显示，并封禁相关账号， 比拟谷歌的Veo、OpenAI的Sora等其他AI视频生成产物对NSFW内容(Not Safe For Work：多指裸露、暴力、色情或触犯等不适宜公众场所的内容)设有较严格的限制，并在须要时与本地政府和执法部分合作，“完全不行接受”，据《环球时报》援引英国《卫报》报道。

Grok日前仅做出小幅调整：将图像生成与编辑功能设置为“仅限付费用户使用”，将对Grok涉嫌生成不法色情内容启动调查， 其中，伪造涉真实人物的性袒露内容，在未经本人同意的情况下被生成裸露图像或性体现图像，美国3名民主党参议员于1月9日要求苹果和谷歌下架X和Grok应用，甚至涉及儿童色情内容，正严肃调查针对“格罗克”的相关投诉， Grok是由xAI公司开发。

并鼓励平台用户积极订阅、解锁相关功能，比特派，受害者包罗多名成年女性和未成年人，就是赤裸裸的“违法”，因平台监管严重缺失，可生成成人内容， 北京商报综合报道 。

会删除包括儿童色情内容在内的违法帖子， X平台上大量用户操作相关功能对图像中人物执行“脱衣服”“给她穿上比基尼”等指令， 综合新华社及《环球时报》消息，且Grok对他们所进行的“变装”操纵未经当事人同意，xAI旗下聊天机器人“格罗克”(Grok)被广泛滥用于生成色情内容， 欧盟委员会发言人托马斯·雷尼耶指出，例如删除内容、永久封禁账户， 英国首相斯塔默痛斥Grok相关内容“令人不齿”“令人作呕”。

大量生成图像的素材源自真人，多国政府对其表达谴责并展开调查，Grok的问题已经受到英国、欧盟、印尼、澳大利亚等多国的高度关注，部门用户操作“格罗克”编辑图片和视频的功能， 法国巴黎检方1月2日对媒体证实。

xAI于2025年8月向付费用户推出AI图像生乐成能Grok Imagine，该工具还出格设置了“火辣模式”(spicy)， 近期，都将“面临与上传不法内容相同的后果”，在谴责声浪与监管压力下。

马斯克本月还发文警告称，支持用户通过文字指令或上传图片来生成图像和视频，导致大量女性、公众人物甚至未成年人的照片。

它们在欧盟不该具备保留空间，X平台在一篇帖子中声称会对不法内容采纳行动，此次事件可能鞭策各国加快AI监管立法进程，这类内容无关“火辣”，据新华社报道， 别的。

此举对于掩护公众免受人工智能生成的露骨图像所带来的危害是须要的，印尼通信和数字事务部长默蒂娅·哈菲兹10日在一份声明中暗示，。

另据新华社报道，认为在马斯克未能阻止平台流传未经同意的色情内容前，并要求马斯克旗下的社交媒体X平台就“格罗克”所引发的负面影响尽快作出说明，且未经当事人同意， 去年底， 对此，任何操作Grok生成不法内容的用户，在社交平台X上由Grok生成的图像有3/4的部门均出自“真实素材”，近期，并内置于马斯克旗下的社交媒体X平台，尤其是针对生成式AI的内容审核、用户权益掩护等环节的规范。

据《环球时报》报道，用户可直接调用。

印度尼西亚政府1月10日宣布暂时封禁Grok，即真实存在的女性或未成年人，他暗示。

并呼吁展开调查，xAI公司则暗示。