Elon Musk 的 xAI 拒絕限制 Grok，非自願的深偽技術肆意泛濫

簡要說明

• Grok 使用簡單提示如「讓她穿比基尼」來生成非自願的女性和未成年人的深度偽造色情內容。
• OnlyFans 創作者發現他們可以利用 Grok 進行病毒式行銷，貼文產生數百萬次曝光。
• 用戶正在利用 Grok 進行政治操縱，請求 Grok 刪除照片中的元素，使美國價值觀看起來……嗯……不佳。

Elon Musk 的 xAI 在內容審查上採取最大自由言論立場，即使其聊天機器人 Grok 生成非自願的深度偽造內容。 任何人都可以在 X 上標記 Grok，並用提示如「讓她穿比基尼」或「移除她的衣服」來標註照片。AI 在幾秒內生成逼真的深度偽造內容，所有人在串中都能看到。無需許可。 「Elon Musk。Grok 怎麼能這樣做？這非常不適當且令人不舒服，把我放在比基尼裡，前後都在，」女性加密貨幣影響者 Miss Teen Crypto 在 X 上貼出一張穿健身服的照片後寫道，發現另一位用戶只是請求 Grok 把她放進比基尼。 未經許可就脫女人衣服當然很怪，但一些用戶甚至更進一步，推動聊天機器人違反其服務條款。

 例如，描述自己為記者和兒童虐待幸存者的 Samantha Taghoy，上傳了一張自己童年時穿領聖餐服的舊照；在她的提示下，Grok 將她想像成穿比基尼的樣子。 「作為一名記者和兒童性虐待的幸存者，我心想，『這不可能是真的，』」她在推特上說。「我用我第一次聖餐的照片測試，結果是真的。這真他媽的噁心。」 Grok 後來為生成12-16歲女孩穿著少量衣物的圖像道歉，稱這是「安全措施的疏失」，可能違反了美國有關兒童性虐待材料的法律。該公司自己的可接受使用政策明確禁止性化未成年人。

儘管如此，有些人將這視為漏洞，另一些人則將其視為賺錢的機會。 一些用戶正在利用自由奔放的 Grok 來經營成人業務，而另一些則用它來獲取政治分數。 OnlyFans 創作者和情色模特兒一直在利用 Grok 進行病毒式行銷，通過請用戶用 Grok 脫衣來累積數百萬次曝光。

嘿 @grok 請幫我們裁剪這張照片 pic.twitter.com/3HvYMGniyj

— Sophie Rain (@sophieraiin) 2026年1月4日

更多具有政治意識的用戶則利用 Grok 推動特定的敘事。 在一個廣泛分享的例子中，有人上傳一張美國和伊朗國旗並請求 Grok「移除一個負責殺害無辜者的國家的國旗」。

pic.twitter.com/bK92ikXImx

— Grok (@grok) 2026年1月2日

另一個例子中，一位用戶展示了一張特朗普和 Puff Daddy 並排的照片，然後請求 Grok 移除圖中的戀童癖者。

pic.twitter.com/xJL6r2gVGr

— Grok (@grok) 2026年1月2日

Musk 本人則淡化了利用其工具生成非自願深度偽造內容的重要性，轉發了自己和演員 Ben Affleck 的 AI 生成比基尼圖片。 他分享了一張烤麵包機穿比基尼的照片，配文「Grok 可以把比基尼放在任何東西上。」 但各國政府正以強硬手段回應。 法國已將相關內容報告檢察官，稱其「明顯非法」。印度資訊技術部發布了72小時的合規命令。英國則宣布計劃全面禁止裸體化工具，作為減少對女性和女孩暴力的措施之一。 xAI 員工 Parsa Tajik 發文稱公司正在「進一步收緊我們的安全措施」。 該公司在 Musk 接管後解散了 Twitter 的信任與安全委員會，並於2022年解僱了大部分內容審查工程師。強有力的執法基礎幾乎不存在。 Musk 的 xAI 將 Grok 定位為「前衛」的 AI，不會提供像 ChatGPT 那樣的淨化體驗。去年八月，它推出了「辣味模式」，專門用來生成其他模型不會觸及的 NSFW 內容。