X表示，它正在限制与Grok相关的图像生成和编辑功能，限制付费用户的访问，原因是在该聊天机器人被用来创建涉及真实人物（包括未成年人）的非自愿性化图像后。
在周三由X安全账户发布的更新中，该公司增加了技术限制，以限制用户通过Grok编辑真实人物的图像的方式。
此举是在有报道称AI在简单提示下生成性化图片后做出的，包括请求将人物放入比基尼的场景。在许多情况下，用户直接在X上标记Grok在照片下方，导致AI生成的编辑图像在同一线程中公开出现。
“我们已实施技术措施，防止Grok账户允许编辑穿着比基尼等暴露服装的真实人物的图像，”公司表示，提到请求Grok将人们放入比基尼的病毒式趋势。
公司还表示，通过Grok账户在X上进行图像创建和编辑现在仅对付费订阅者开放，该变更旨在提高责任追究能力，防止Grok的图像工具被滥用，违反法律或X的政策。公司还实施了基于位置的限制。
“我们现在在所有用户的地理位置上屏蔽通过Grok账户和Grok在X中生成真实人物穿比基尼、内衣等类似服装的图像的能力，特别是在这些地区此类行为是非法的。”
尽管如此，Grok仍然允许用户删除或更改上传到AI的照片中的衣物，这一点在公告后由_Decrypt_的测试和用户报告中得到了证实。
在某些情况下，Grok承认“安全措施存在漏洞”，在生成12至16岁少女穿着极少服装的图像后，这种行为被公司自己的政策禁止。
这些能力的持续存在引起了倡导团体的关注。
“如果关于Grok创建性化图像——尤其是儿童——的报道属实，可能已经违反了德克萨斯州的法律，”美国公民公共利益组织（Public Citizen）德克萨斯州负责人Adrian Shelley在一份声明中表示。
“德克萨斯当局无需走远就能调查这些指控。X总部位于奥斯汀地区，州政府有明确责任确定其法律是否被违反，以及如果违反，应当采取何种惩罚。”
Public Citizen此前曾呼吁美国政府将Grok从可接受的AI模型名单中剔除，原因是担心聊天机器人表现出种族主义倾向。
全球反响
全球政策制定者也加强了对Grok的审查，导致多项公开调查。
欧盟委员会表示，如果Grok的安全措施仍然不足，X和xAI可能面临《数字服务法》（Digital Services Act）下的执法行动。同时，澳大利亚的电子安全专员表示，自2025年底以来，涉及Grok和非自愿性AI生成性图片的投诉已翻倍。监管机构表示，能够生成逼真编辑的AI图像工具使执法和受害者保护变得更加复杂。
在英国，Ofcom监管机构根据《在线安全法》（Online Safety Act）对X展开调查，原因是Grok被用来生成非法的性化深度伪造图片，包括涉及未成年人的图片。官员表示，如果X被发现不合规且未采取纠正措施，Ofcom最终可能寻求法院支持的措施，实际上封锁该服务在英国的运营。
其他国家，包括马来西亚、印度尼西亚和韩国，也已对Grok展开调查，以保护未成年人。
尽管美国各州都在关注此事，加利福尼亚州是第一个对Grok展开调查的州。周三，加州总检察长Rob Bonta宣布对xAI和Grok进行调查，原因是其创建和传播涉及女性和儿童的非自愿性露骨图片。
“最近几周，关于xAI制作和发布非自愿性、性露骨材料的报道如雪崩般涌来，令人震惊。这些材料描绘女性和儿童处于裸体和性露骨的场景中，被用来骚扰网络上的人们，”Bonta在一份声明中说。
此次调查将审查xAI部署Grok是否违反了关于非自愿性私密影像和儿童性剥削的州法律。
“我敦促xAI立即采取行动，确保此事不再继续，”Bonta说。“我们对基于AI的非自愿性私密影像或儿童性虐待材料的创建和传播零容忍。”
尽管调查仍在进行中，X表示其对儿童性剥削、非自愿裸体和不良性内容采取“零容忍”立场。
“我们会采取行动，删除高优先级的违规内容，包括儿童性剥削材料(CSAM)和非自愿裸体，并对违反我们X规则的账户采取适当措施，”公司写道。“我们还会在必要时向执法部门举报寻求儿童性剥削材料的账户。”
