A inteligência artificial Grok, sob a direção de Musk, enfrenta controvérsia por exploração sexual de IA, com investigações em vários países iniciadas na Europa, Índia e Malásia

馬斯克旗下社群平台 X（原 Twitter）與其 AI 聊天機器人 Grok 近期陷入性剝削風暴。該平台允許用戶透過 Grok 創造並分享 AI 生成的性化兒童與女性影像，引發全球多國監管機構強烈關注與調查。歐盟、印度、馬來西亞、巴西紛紛出手，要求平台對相關功能進行審查，甚至暫停使用。儘管爭議持續延燒，X 平台流量與下載量卻逆勢成長，引發外界更多質疑與不安。

Grok 惹議：AI 性化生成圖成全球關注焦點

X 平台近期因其 AI 聊天機器人 Grok 所引發的爭議成為國際新聞焦點。根據多家媒體報導，用戶能透過 Grok 的「Imagine」功能輸入提示詞，生成以實際人物為基礎的性化影像，甚至包含疑似兒童性剝削內容。這些由 AI 所創造的影像被大量分享於 X 平台上，形成所謂的「非自願親密影像」（NCII）擴散浪潮。

歐盟震怒：稱之為「非法且令人作嘔」

歐盟對此事件高度關注，歐盟執委會發言人 Thomas Regnier 在週一的記者會中強調：「這不是什麼『辛辣模式』，這是違法、可恥且噁心的行為，這樣的內容在歐洲沒有容身之處。」他證實歐盟正在「非常嚴肅地」調查此事，點名 Grok 推出帶有露骨內容的模式，甚至出現兒童化形象。

英國的媒體監管機構 Ofcom 也表示已正式向 X 索取關於 Grok 的相關資訊，調查是否違反英國法律與平台安全規範。

亞洲行動：印度與馬來西亞展開調查並限期要求改善

印度政府同樣展現強硬態度，電子與資訊科技部（MeitY）已下令 X 在 1 月 5 日前完成一次「全面性的技術、程序與治理層級的審查」，以確保平台符合印度網路安全規範。

馬來西亞通訊及多媒體委員會（MCMC）則在上週末宣布展開調查，並將傳喚 X 公司代表。MCMC 表示：「所有在馬來西亞可使用的平台都應落實與本地法律一致的防護機制，特別是針對 AI 驅動的功能、聊天機器人與影像處理工具。」

巴西、美國也加入關注：要求暫停 Grok 使用

在南美洲，巴西國會一名女性議員公開呼籲該國聯邦檢察官與資料保護機構應暫停使用 Grok，直到調查結果出爐。

美國方面，全國性非營利組織「全國性剝削防治中心」（NCOSE）則呼籲司法部（DOJ）與聯邦貿易委員會（FTC）對此展開調查。該組織法律總監 Dani Pinter 指出，儘管現有法律在這類 AI 生成影像上缺乏具體前例，但若影像能辨識出兒童、或呈現未成年者進行性行為，即構成違法。

DOJ 發言人向媒體表示：「司法部對 AI 生成的兒童性剝削內容採取極為嚴正態度，將積極起訴任何製造或持有 CSAM（兒童性虐待影像）者。」

馬斯克本人態度輕率：以「搞笑圖片」回應風波

雖然外界高度關注並譴責 X 平台上的有害內容，馬斯克本人卻似乎未將事件視為嚴重問題。他在個人帳號上發布一系列由 Grok 生成的搞笑圖片，其中甚至包含自己穿著比基尼的模擬圖像，並配上笑哭 emoji，遭到安全專家與評論人士抨擊為「輕率又不負責任」。

X 公司回應：「已採取行動」，但缺乏具體措施

X 公司在週六透過「X Safety」官方帳號首度對事件作出回應，表示會對非法內容採取行動，包括刪除 CSAM、永久停權違規帳號，並與執法單位合作。馬斯克則補充：「任何使用 Grok 生成非法內容者，後果與直接上傳非法內容相同。」

然而，外界質疑其措施是否足夠。一名 xAI 員工 Ethan He 在 X 上表示，Grok Imagine 功能已更新，但未具體說明是否針對生成露骨圖像進行限制。

AI 內容審查缺失？業界專家直指「基本防護都沒做」

Musubi AI 執行長 Tom Quisel 批評 xAI 在推出 Grok Imagine 時，連「入門級的信任與安全防護機制」都未建立。他表示，技術上其實可以簡單辨識並封鎖含有兒童或裸露畫面的影像，也能在用戶提示詞中偵測到不當內容並拒絕生成。

遭爭議反而吸粉？Grok 與 X 下載量大幅上升

儘管風波不斷，Grok 與 X 的使用量卻未受明顯影響。根據行動應用數據公司 Apptopia 統計，自 1 月 2 日以來，Grok 的每日下載量成長了 54%，而 X 平台的下載量也在過去三天內上升 25%。

這項反常的成長趨勢，讓不少觀察者擔心平台是否有意縱容爭議以刺激話題與用戶活躍度。

這篇文章 馬斯克旗下人工智慧 Grok 爆 AI 性剝削爭議，歐洲、印度、馬來西亞啟動多國調查 最早出現於 鏈新聞 ABMedia。