AI生成的合成媒体引发监管警钟：澳大利亚当局的应对措施

澳大利亚网络安全委员会（eSafety Commissioner’s office）加强了对人工智能平台的审查，原因是关于非自愿合成图像的投诉激增。担忧集中在某些AI系统，尤其是那些具有无限制内容生成能力的系统，被利用来更快地制造有害材料，超出监管机构的应对能力。

问题的规模

澳大利亚eSafety专员Julie Inman Grant指出，滥用报告的趋势令人担忧。自2025年第四季度以来，投诉数量已翻倍，显示出AI辅助内容滥用的快速增长。这些事件涵盖了令人担忧的范围，从针对成人的非自愿私密影像到涉及未成年人的更严重违规行为。

根本问题在于：缺乏安全防护措施的AI模型正成为大规模生成合成媒体的工具。以前需要复杂技术技能的操作，现在只需在错误的系统中输入几个指令。

为什么“辣味模式”成为红旗

像某些AI平台中的有争议的“辣味模式”这样的无限制功能集，实际上消除了内容生成的阻力。这类功能不仅未能防止滥用，反而积极促成了滥用。欧盟已将这种做法认定为违反其数字安全框架，认为类似的AI输出机制在欧洲法律下是非法的。

这种国际差异很重要：一些地区加强监管，而另一些地区则存在监管空白，坏人得以利用。

澳大利亚的监管应对

根据澳大利亚数字安全立法，托管或分发AI生成内容的平台需对这些内容负责。Julie Inman Grant明确表示，eSafety专员办公室不会袖手旁观。

执法策略包括：

• 调查机制，针对未能实施充分AI内容审核的平台
• 法律行动，对明知故犯允许合成内容滥用的运营商采取措施
• 加强平台监管要求，以预防而非事后应对危害

这一先例不仅影响澳大利亚。随着AI系统变得更加普及，全球监管机构正发出信号：“我们当初没想到会这样”已不再是辩护理由。

下一步

澳大利亚的做法预示着更广泛的监管趋势：AI安全正从可选的治理转向强制监管。平台现在必须展示出有效检测和删除AI合成材料的系统，以在造成伤害之前进行干预，而不是在投诉积累数月后才行动。

对行业而言，信息十分明确：现在就建立有意义的安全措施，否则未来将面临监管干预。