深入了解 SCENE
美國立法者 reportedly 已經召集了幾家人工智能開發公司，解釋某些模型是如何成爲廣泛間諜活動的一部分。
其中包括Anthropic的首席執行官Dario Amodei，他被要求在12月17日出席國會國土安全委員會，解釋中國國家行爲者如何使用Claude Code，根據周三發布的一份Axios報告，引用了私下共享的信件。
本月早些時候，Anthropic披露，與中國國家有關聯的黑客組織使用其工具Claude Code發起了一場該公司所描述的首個主要由AI系統大規模自動化的網路行動。
以GTG-1002的團體名稱運作，攻擊者策劃了針對大約30個組織的攻擊活動，Claude Code負責大部分階段，根據Anthropic的說法：偵察、漏洞掃描、利用創建、憑證收集和數據外泄。
跟進調查的主持人是衆議員安德魯·加巴裏諾(R-NY)，以及兩位小組委員會主席。
委員會希望阿莫代詳細說明安索普裏克首次發現活動的確切時間，攻擊者如何在不同階段利用其模型，以及在整個活動過程中哪些安全措施失敗或成功。根據Axios的報道，聽證會還將包括谷歌雲和量子交換公司的高管。
"這是我們第一次看到一個外國對手利用商業人工智能系統，幾乎在沒有人類參與的情況下進行完整的網路行動，"加爾巴裏諾在初步報告中引用的聲明中表示。“這應該引起每個聯邦機構和每個關鍵基礎設施部門的關注。”
Decrypt 已聯繫衆議員 Garbarino、Google Cloud、Quantum Xchange 和 Anthropic 尋求置評。
國會的審查是在英國安全局MI5上周向英國立法者發出警告之後進行的，MI5在警告中指出，中國情報官員利用假招聘者資料來針對國會議員、貴族和議會工作人員。
英國政府在聲明中表示，盡管它尋求與中國“繼續經濟關係”，但準備“在任何國家破壞我們的民主生活方式時進行挑戰”，安全部長丹·賈維斯說道。
在這種背景下，觀察人士警告說，當前推動間諜活動的相同人工智能能力同樣可以加速金融盜竊。
“人工智能可怕的地方在於速度，”AI研究實驗室Eliza Labs的創始人肖·沃爾特斯告訴Decrypt。“過去手工完成的任務現在可以大規模自動化。”
沃爾特斯解釋道，這種邏輯可能危險得過於簡單。如果國家級行爲者能夠破解和操控黑客活動的模型，下一步就是指揮自主AI “悄無聲息地抽走錢包裏的資金或 siphon 資金。”
沃爾特斯解釋說，人工智能代理可能會與目標“建立融洽關係和信任，保持對話，並讓他們最終上當受騙。”
一旦經過充分訓練，這些代理也可以被"設置爲攻擊鏈上合約"，沃爾特斯聲稱。
"即使是所謂的 “對齊” 模型，比如Claude，也會樂於幫助你找出 '你的' 代碼中的安全漏洞 – 當然，它不知道什麼是你的，什麼不是，而爲了提供幫助，它肯定會在許多合約中找到可以被抽走資金的漏洞，"他說。
但沃爾特斯表示，盡管針對這種攻擊的響應 “容易構建”，但現實是 “壞人試圖繞過我們已經擁有的安全措施”，通過試圖欺騙模型 “進行黑帽工作，認爲他們是在幫助，而不是在傷害。”
