马斯克旗下人工智能Grok爆出AI性剥削争议，欧洲、印度、马来西亚启动多国调查

马斯克旗下社群平台 X（原 Twitter）与其 AI 聊天机器人 Grok 近期陷入性剥削风暴。该平台允许用户通过 Grok 创造并分享 AI 生成的性化儿童与女性影像，引发全球多国监管机构强烈关注与调查。欧盟、印度、马来西亚、巴西纷纷出手，要求平台对相关功能进行审查，甚至暂停使用。尽管争议持续延烧，X 平台流量与下载量却逆势成长，引发外界更多质疑与不安。

Grok 惹议：AI 性化生成图成全球关注焦点

X 平台近期因其 AI 聊天机器人 Grok 所引发的争议成为国际新闻焦点。根据多家媒体报道，用户能透过 Grok 的「Imagine」功能输入提示词，生成以实际人物为基础的性化影像，甚至包含疑似儿童性剥削内容。这些由 AI 所创造的影像被大量分享于 X 平台上，形成所谓的「非自愿亲密影像」（NCII）扩散浪潮。

欧盟震怒：称之为「非法且令人作呕」

欧盟对此事件高度关注，欧盟委员会发言人 Thomas Regnier 在周一的记者会中强调：「这不是什么『辛辣模式』，这是违法、可耻且令人作呕的行为，这样的内容在欧洲没有容身之处。」他证实欧盟正在「非常严肃地」调查此事，点名 Grok 推出带有露骨内容的模式，甚至出现儿童化形象。

英国的媒体监管机构 Ofcom 也表示已正式向 X 索取关于 Grok 的相关资讯，调查是否违反英国法律与平台安全规范。

亚洲行动：印度与马来西亚展开调查并限期要求改善

印度政府同样展现强硬态度，电子与信息科技部（MeitY）已下令 X 在 1 月 5 日前完成一次「全面性的技术、程序与治理层级的审查」，以确保平台符合印度网络安全规范。

马来西亚通信及多媒体委员会（MCMC）则在上周末宣布展开调查，并将传唤 X 公司代表。MCMC 表示：「所有在马来西亚可使用的平台都应落实与本地法律一致的防护机制，特别是针对 AI 驱动的功能、聊天机器人与影像处理工具。」

巴西、美国也加入关注：要求暂停 Grok 使用

在南美洲，巴西国会一名女性议员公开呼吁该国联邦检察官与资料保护机构应暂停使用 Grok，直到调查结果出炉。

美国方面，全国性非营利组织「全国性剥削防治中心」（NCOSE）则呼吁司法部（DOJ）与联邦贸易委员会（FTC）对此展开调查。该组织法律总监 Dani Pinter 指出，尽管现有法律在这类 AI 生成影像上缺乏具体前例，但若影像能辨识出儿童、或呈现未成年人进行性行为，即构成违法。

DOJ 发言人向媒体表示：「司法部对 AI 生成的儿童性剥削内容采取极为严正态度，将积极起诉任何制造或持有 CSAM（儿童性虐待影像）者。」

马斯克本人态度轻率：以「搞笑图片」回应风波

虽然外界高度关注并谴责 X 平台上的有害内容，马斯克本人却似乎未将事件视为严重问题。他在个人账号上发布一系列由 Grok 生成的搞笑图片，其中甚至包含自己穿着比基尼的模拟图像，并配上笑哭 emoji，遭到安全专家与评论人士抨击为「轻率又不负责任」。

X 公司回应：「已采取行动」，但缺乏具体措施

X 公司在周六通过「X Safety」官方账号首次对事件作出回应，表示会对非法内容采取行动，包括删除 CSAM、永久停权违规账号，并与执法单位合作。马斯克则补充：「任何使用 Grok 生成非法内容者，后果与直接上传非法内容相同。」

然而，外界质疑其措施是否足够。一名 xAI 员工 Ethan He 在 X 上表示，Grok Imagine 功能已更新，但未具体说明是否针对生成露骨图像进行限制。

AI 内容审查缺失？业界专家直指「基本防护都没做」

Musubi AI 执行长 Tom Quisel 批评 xAI 在推出 Grok Imagine 时，连「入门级的信任与安全防护机制」都未建立。他表示，技术上其实可以简单识别并封锁含有儿童或裸露画面的影像，也能在用户提示词中侦测到不当内容并拒绝生成。

遭争议反而吸粉？Grok 与 X 下载量大幅上升

尽管风波不断，Grok 与 X 的使用量却未受明显影响。根据行动应用数据公司 Apptopia 统计，自 1 月 2 日以来，Grok 的每日下载量成长了 54%，而 X 平台的下载量也在过去三天内上升 25%。

这项反常的成长趋势，让不少观察者担心平台是否有意纵容争议以刺激话题与用户活跃度。

这篇文章 马斯克旗下人工智能 Grok 爆 AI 性剥削争议，欧洲、印度、马来西亚启动多国调查 最早出现在 链新闻 ABMedia。