歐盟委員會於週一正式展開調查，質疑X是否違反歐盟數位規則，涉嫌未能阻止其Grok AI聊天機器人生成和傳播非法內容，包括兒童色情圖片。 委員會在週一的聲明中表示，調查將評估該公司在部署Grok的圖像生成功能前是否妥善評估並降低風險。 委員會還指出，風險已經通過非法性內容的實際生成和傳播而實現，讓歐盟公民面臨嚴重危害。
這是在國際社會對Grok在創造非自願深偽內容角色的日益關注之際。 兩週前，X實施限制，將圖像生成限制於付費訂閱者，並增加技術屏障以防止用戶數位操縱人物穿著暴露。該公司還在某些法域封鎖了此功能，這些地區此類內容是非法的。 儘管採取了這些措施，研究人員仍發現，在CCDH樣本中約三分之一的兒童性化圖像仍可在X平台上存取。 “通過這次調查，我們將判定X是否已履行其在DSA下的法律義務，或是否將歐盟公民的權利——包括婦女和兒童的權利——視為其服務的附帶損害，”科技主權、安全與民主執行副總裁Henna Virkkunen在聲明中表示。
本月早些時候，歐盟委員會發言人Thomas Regnier在布魯塞爾新聞發布會上譴責X的“辣味模式”功能。 “這不是辣味，這是非法的，令人震驚，令人作嘔。在歐洲沒有這個地位，”Regnier說。 cheqd的聯合創始人兼CEO Fraser Edwards告訴_Decrypt_，“每個創作者都應該能控制他們的肖像在AI生成媒體中的使用方式。” 他表示，“對深偽濫用的反彈凸顯了互聯網本身的基本失敗。” “目前還沒有原生的方法來驗證一個合成內容的創作者身份，或其使用是否經過授權，”Edwards補充說，責任仍然傾向於“由像X這樣的中介機構來承擔，而非產生濫用內容的人。” 如果證實，調查中發現的失誤將構成違反數位服務法第34(1)和(2)條、第35(1)條以及第42(2)條，這些條款要求平台評估並降低系統性風險，包括非法內容傳播和與性別暴力相關的負面影響。 歐盟的調查擴展了2023年底的DSA案件，該案件因欺騙性設計、廣告透明度不足和研究人員訪問限制，於12月對X處以1億四千萬美元（1.2億歐元）的罰款。 委員會已將調查範圍擴展到Grok，包括之前對聊天機器人生成的反猶太內容的關注。
_Decrypt_已聯繫xAI尋求進一步評論。
