Anthropic和OpenAI在AI竞争加速背景下调整安全规则表述

Odaily星球日报讯 Anthropic 已从其负责任扩展政策中移除一项核心安全承诺，不再承诺在风险缓解措施未完全到位时暂停训练。Anthropic 首席科学官 Jared Kaplan 对 TIME 表示，在 AI 快速发展的背景下，若竞争对手持续推进，单方面作出停训承诺并无实际意义。

OpenAI 同样修改了其使命声明，在 2024 年 IRS 文件中删除了“safely”一词，此前表述为构建“safely benefits humanity”的通用 AI，现改为“确保通用 AI 惠及全人类”。

RAND Corporation 高级政策研究员 Edward Geist 表示，早期 AI 安全倡导者所设想的高级 AI 与当前大语言模型存在本质差异，术语变化也反映出企业希望向投资者和政策制定者传递其不会因安全顾虑而在经济竞争中退缩的信号。

Anthropic 近期完成 300 亿美元融资，估值约 3800 亿美元；OpenAI 正推进一轮由 Amazon、Microsoft 和 Nvidia 支持的最高达 1000 亿美元的融资。与此同时，Anthropic 因拒绝向五角大楼全面开放 Claude 访问权限，与美国国防部长 Pete Hegseth 产生公开分歧，其国防合同面临不确定性。（Decrypt）