OpenAI 公布兒童安全藍圖 以應對 AI 驅動的剝削 增加的 CSAM 報告

簡要摘要

OpenAI 已推出「兒童安全藍圖」，以打擊 AI 驅動的兒童性剝削，更新指導方針、加強保障措施，並促進法律、技術和運營措施的協調，應對 AI 生成的 CSAM 報告日益增加的情況。

專注於人工智能研究與部署的組織 OpenAI，推出了「兒童安全藍圖」，這是一個旨在預防和應對 AI 驅動兒童性剝削的框架。該倡議是對 AI 在促進和檢測涉及兒童的線上危害中日益扮演角色的回應。

該公司描述兒童性剝削是數字時代最緊迫的挑戰之一，並指出 AI 技術正在改變此類危害的發生方式以及如何大規模減輕這些危害。OpenAI 表示已實施保障措施，以防止其系統被濫用，並與合作夥伴包括失蹤與受剝削兒童國家中心 (NCMEC) 和執法機構合作，改善檢測和報告。這一合作凸顯了行業內需要更強、更共享的標準的領域。

該藍圖概述了在 AI 背景下加強美國兒童保護框架的策略。它融合了來自兒童安全生態系統內組織和專家的意見，包括 NCMEC、由北卡羅來納州檢察長傑夫·傑克遜（Jeff Jackson）和猶他州檢察長德雷克·布朗（Derek Brown）提供意見的檢察長聯盟，以及非營利組織 Thorn。該框架旨在指導協調努力，以預防兒童受到傷害，並加強法律、運營和技術領域的合作。

該倡議聚焦於三個主要優先事項：更新法律以應對 AI 生成或操縱的兒童性虐待材料 (CSAM)，改善提供者之間的報告和協調，以支持更有效的調查，以及將安全設計措施直接整合到 AI 系統中，以防止和檢測濫用。OpenAI 強調，沒有單一方法能獨自解決這一挑戰，該框架旨在加快反應速度、改善風險識別，並在技術演進的同時保持問責，確保執法機關能夠行動。

該框架旨在實現更早的干預，減少剝削企圖，提升與執法部門共享信息的質量，並加強整個生態系統的問責制，以更有效地保護兒童。

AI 生成的兒童剝削報告在 2025 年增長 14%，OpenAI 公布擴展的兒童安全藍圖

來自互聯網監察基金會 (IWF) 的最新數據顯示，2025 年上半年，已偵測到超過 8,000 份 AI 生成的兒童性剝削內容報告，比去年同期增加了 14%。這些案例包括利用 AI 工具生成假冒的露骨圖像以進行財務敲詐，以及用於誘騙的訊息。藍圖的發布正值政策制定者、教育者和兒童安全倡導者高度關注之際，尤其是在一些青少年與 AI 聊天機器人互動後自殺的事件之後。

2025 年 11 月，社交媒體受害者法律中心和科技正義法律計劃在加州州法院提起七起訴訟，指控 OpenAI 提早發布 GPT-4o。控訴書稱，該 AI 系統具有心理操控特性，導致多起自殺和協助自殺的錯誤死亡，並列舉了四名死亡者和三名在長時間互動後出現嚴重妄想的個案。

OpenAI 的新兒童安全藍圖是在之前措施的基礎上制定的，包括針對 18 歲以下用戶的更新指南，禁止生成不適當內容、鼓勵自我傷害的建議或指導隱瞞不安全行為給照顧者。該公司最近還發布了一份針對印度青少年的安全藍圖。