Anthropic 和 OpenAI 在 AI 競爭加速背景下調整安全規則表述

Odaily星球日報訊 Anthropic 已從其負責任擴展政策中移除一項核心安全承諾，不再承諾在風險緩解措施未完全到位時暫停訓練。Anthropic 首席科學官 Jared Kaplan 對 TIME 表示，在 AI 快速發展的背景下，若競爭對手持續推進，單方面作出停訓承諾並無實際意義。

OpenAI 同樣修改了其使命聲明，在 2024 年 IRS 文件中刪除了“safely”一詞，此前表述為構建“safely benefits humanity”的通用 AI，現改為“確保通用 AI 惠及全人類”。

RAND Corporation 高級政策研究員 Edward Geist 表示，早期 AI 安全倡導者所設想的高級 AI 與當前大語言模型存在本質差異，術語變化也反映出企業希望向投資者和政策制定者傳遞其不會因安全顧慮而在經濟競爭中退縮的信號。

Anthropic 近期完成 300 億美元融資，估值約 3800 億美元；OpenAI 正推進一輪由 Amazon、Microsoft 和 Nvidia 支持的最高達 1000 億美元的融資。與此同時，Anthropic 因拒絕向五角大樓全面開放 Claude 訪問權限，與美國國防部長 Pete Hegseth 產生公開分歧，其國防合同面臨不確定性。（Decrypt）