美國律師正以加速的速度，向法院提交由 AI 生成、包含虛構引註的簡報，法院對相關行為的制裁金額創下新紀錄，而該技術已深度滲透進法律軟體之中；專家表示，強制揭露規則可能早已過時。
摘要

• 去年看到針對在簡報中使用 AI 生成、且含有虛構引註的律師，法院制裁出現快速激增，而且仍在上升——追蹤這一趨勢的研究人員在單日內記錄了來自 10 個不同法院的 10 起案件。
• 上個月，一家聯邦法院可能創下新紀錄：命令俄勒岡州的律師支付 109,700 美元作為制裁費及相關費用，原因是其提交了由 AI 生成的錯誤；同時，內布拉斯加與喬治亞州的最高法院則就「幻覺式」的案號引註舉行公開聽證。
• 3 月，美國日興人壽保險公司（Nippon Life Insurance Company of America）對 OpenAI 提起訴訟，指控一名女性將 ChatGPT 當作法律顧問使用，導致提出了瑣碎無聊的訴訟——這項指控 OpenAI 稱為毫無根據。

美國律師正以加速的速度，向法院提交由 AI 生成、包含虛構引註的簡報，法院對相關行為的制裁金額創下新紀錄，而該技術已深度滲透進法律軟體之中；專家表示，強制揭露規則可能早已過時。根據 NPR 於 4 月 3 日的調查，針對 AI 生成錯誤所施加的法院制裁量在 2025 年期間大幅攀升，且在 2026 年沒有放緩——這種模式對任何產業都可能帶來直接後果，包括加密貨幣，因為其法律風險取決於在其辯護中提交的簡報品質。

數字仍在上升

達米安・夏洛澤（Damien Charlotin），在 HEC Paris 任職的研究員，維護著一份全球彙整：針對由 AI 造成的法律錯誤所施加的法院制裁。他告訴 NPR，步調並未停滯。「最近我們在單日內就有 10 起案件，分別來自 10 個不同法院，」他說。「我們遇到這個問題，是因為 AI 實在太強了——但它並非完美。」在上一個週期中最引人注目的案件，是 MyPillow 執行長 Mike Lindell 的律師團隊：他們因提交包含虛構引註的簡報而被各罰 3,000 美元。

上個月，當一名以俄勒岡為基地的律師被下令支付 109,700 美元作為制裁金與費用時，聯邦法院可能創下新紀錄。州最高法院也捲入其中：內布拉斯加的最高法院在 2 月嚴厲盤問一名來自奧馬哈（Omaha）的律師，原因是他提交虛構引註，並將他轉介接受紀律處分；同樣在 3 月，喬治亞州最高法院也上演了一場同樣公開的情節。「當這件事已經上新聞了，人們還在做這種事，我很驚訝，」華萊（Carla Wale）說。她是華盛頓大學法學院（University of Washington School of Law）資訊與科技副院長。

為何揭露規則不會奏效

部分法院已透過要求律師在文件中標註任何由 AI 協助的內容來回應。上法庭（Above the Law）的資深編輯喬・帕崔齊（Joe Patrice）——同時也是一名轉行的律師與記者——告訴 NPR，這些規則幾乎立刻就可能變得難以落地。「它會變得如此深度地整合進一切運作方式；因此，若要確實遵守這條規則，你得在你輸出的每一樣東西上都標註：『嘿，這是 AI 協助的，』於是就會變成一種有點毫無意義的舉動，」他說。法律收費的經濟效益也在加速採用，而非放慢。因為 AI 工具能縮短起草時間，律師事務所面臨壓力，必須尋找新的計費模式——帕崔齊指出，隨之而來的時間壓力會讓律師更傾向於在未充分驗證的情況下，先採用 AI 的初稿。

美國司法部（DOJ）自身也轉向不再起訴加密貨幣開發者——其理由之一是：除非存在刑事意圖，否則程式碼是中立的；而這種區分需要的，正是那種細緻的法律推理，但急就章般使用 AI 協助簡報時，往往始終無法複製出這種推理。最近，一家德州的聯邦法院駁回了一起加密軟體責任案，部分原因是引用了 DOJ 關於開發者起訴標準的備忘錄；這凸顯了在接近 AI 的案件中，法律推理的品質如何直接形塑整個產業的監管結果。

OpenAI 的訴訟

AI 本身如今也已跨出法庭錯誤問題，成為法律攻防的焦點。3 月，OpenAI 在聯邦法院（伊利諾州）遭到美國日興人壽保險公司（Nippon Life Insurance Company of America）起訴。原告指控：一名女性使用 ChatGPT 作為法律顧問，取得的指引導致其對保險公司提出了瑣碎無聊的訴訟。訴狀指控 OpenAI 未經許可卻從事法律執業。OpenAI 在一份寄給 NPR 的書面聲明中表示：「此項訴訟毫無任何根據。」至於華萊，她則同時拒絕這兩種極端。「我認為，能夠有效且符合倫理地使用生成式 AI 的律師，將取代那些不會這樣做的律師，」她說。「這就是我認為的未來。」