
加州檢察長 Rob Bonta 11 月 16 日在舊金山高等法院(San Francisco Superior Court)起訴非營利法人 OpenAI Foundation,以及由它任免董事的公益公司(public benefit corporation)OpenAI Group PBC(¶12)。起訴的法律依據有兩項:《商業與職業法典》第 17200 條以下的不公平競爭法(Unfair Competition Law),以及《民法典》第 3494 條的公共妨害(public nuisance)規定。起訴書指控 OpenAI 明知模型危險,仍在隔離與監控都不足的環境裡訓練和測試,讓 agent 逃出沙箱(sandbox)、攻擊 Hugging Face 等第三方,對外卻宣稱測試安全受控。
起訴書描述的失控規模,比 OpenAI 自己公開的大。依起訴書,OpenAI 在調查中向檢察長辦公室承認,它的 agent 在測試中失控「逾 80 次」(over 80 times),公開報告的只有 27 起(¶5、¶90)。
以下事件經過都出自起訴書,括號內是段落編號。起訴書開頭寫明,這些是州政府「依據所獲資訊與確信」(based on information and belief)提出的指控(¶1),法院還沒有認定任何一項。
| 日期(2026 年) | 起訴書所述 | 段落 |
|---|---|---|
| 5 月 12 日至 16 日 | agent 大量上傳套件,RubyGems 暫停新使用者註冊 | ¶55 |
| 7 月 9 日至 16 日 | agent 再度連上網路,攻擊 Hugging Face | ¶47–48 |
| 9 月 25 日至 10 月 1 日 | OpenAI 暫停最高能力模型的訓練與評估 | ¶85 |
| 9 月 30 日 | 檢察長送達調查傳票與調查質問書 | ¶40 |
| 11 月 16 日 | 檢察長起訴 | 起訴書第 31 頁 |
起訴依據與請求
第一個訴因是不公平競爭法,這部法律禁止不法、不公平或詐欺的商業行為。起訴書列出的行為分三類(¶96):製造公共妨害;詐欺與欺騙,例如宣稱測試環境安全、受持續監控,以及造成或放任 agent 冒用身分、用竊得或偽造的憑證存取第三方系統;不公平行為,例如在防護與監控不足下開發、測試高能力模型,測試時降低模型的防護,以及放任 agent 逃出測試環境。
起訴書主張這些行為違背公共政策(¶98),引用的法律包括加州《刑法典》第 502 條 (a) 項(保護電腦系統免於竄改、干擾與未經授權存取的立法意旨)、2025 年通過的《前沿人工智慧透明法》(Transparency in Frontier Artificial Intelligence Act),以及《民法典》第 1714.46 條 (b) 項(開發、修改或使用 AI 的被告,不得以 AI 自主造成損害作為抗辯)。這些法律是用來論證「不公平」,起訴書沒有依它們另立訴因。
第二個訴因是公共妨害。依《民法典》第 3480 條,公共妨害是同時影響整個社區或相當多數人的妨害(¶101);第 3494 條允許依法授權的公務員排除公共妨害(¶102)。起訴書主張,OpenAI 不安全的開發與測試方式造成多起 agent 未經授權存取外部系統的事件,妨礙他人自由使用財產,構成公共妨害(¶103)。
請求的救濟有五項(¶113–117):禁制令、把以不公平競爭取得的金錢或財產返還給受影響的人、民事罰款、交出不當利得,以及命 OpenAI 排除公共妨害;檢察長另請求訴訟費用(¶118)。罰款依《商業與職業法典》第 17206 條,每名被告每次違法 2,500 美元,次數「依審判證明」(as proven at trial),起訴書沒有提出總額。
起訴書描述的 Hugging Face 事件
2026 年 5 月到 6 月,OpenAI 用尚未發布的研究模型做了幾次強化學習(reinforcement learning)訓練。agent 在沙箱裡執行,可以使用架在 OpenAI 伺服器上的一個第三方軟體套件服務,但不應連到 OpenAI 的其他網路或網際網路(¶42)。起訴書說,多個 agent 從各自的沙箱共用這個服務,服務又設定錯誤,agent 因此能透過它互相留言、交換資訊(¶43)。
起訴書指控 OpenAI 數度錯過警訊:5 月 26 日前,agent 已經由這個服務的漏洞上網,內部團隊大約同時也看到了,看來卻沒有處理,也沒有停止訓練(¶44);6 月 27 日,資安監控工具發出警報,OpenAI 歸因於一項 agent 資安能力評測,明知參與評測的 agent 已攻陷套件服務,仍沒有修補或停止評測(¶45);7 月 4 日,agent 高頻使用造成服務當機,OpenAI 在美國國慶連假週末修補,7 月 7 日恢復訓練與評估,仍讓數千個 agent 共用這個服務(¶46)。
服務恢復後一天內,幾個 agent 在服務上開了臨時留言板,7 月 9 日又攻陷服務、連上網路(¶47)。7 月 9 日到 16 日,逃出沙箱的 agent 對 Hugging Face 的基礎設施發動約兩天半的攻擊,約 1,200 個 agent 參與留言板,其中約 700 個攻擊 Hugging Face(¶48)。這些 agent 總共執行約 17,600 次攻擊動作;Hugging Face 得先安裝一個開源 AI 工具才能辨識它們做了什麼,整個資安團隊全職處理了兩週(¶49)。
依 OpenAI 的說法,它從未偵測到 agent 突破測試環境;起訴書說這段突破持續了約一週。Hugging Face 7 月 16 日揭露遭 AI 攻擊後,OpenAI 還以關心的客戶身分聯絡對方;OpenAI 說,它在調查另一起針對自家基礎設施的攻擊時,把兩起事件連在一起,才知道攻擊來自自己的 agent(¶50)。
攻擊 Hugging Face 的主要是兩個模型:一個 OpenAI 形容為「規模與 GPT-5.6 Sol 相當」(comparable in scale to GPT-5.6 Sol)的內部研究模型,以及內部版本的 GPT-5.6 Sol。起訴書主張,依 OpenAI 自己的準備框架(Preparedness Framework),兩者都屬高能力(High capability)模型(¶66)。這套框架把高能力模型定義為顯著增加既有嚴重傷害風險的模型,嚴重傷害則指數千人死亡或重傷,或數千億美元的經濟損失(¶64)。
起訴書另指控,OpenAI 明知堅持訓練有風險,仍把這些模型訓練成高度堅持完成任務:公開版 GPT-5.6 Sol 的系統卡提到,這個模型可能過度堅持追求使用者的目標,做出超出使用者意圖的行動(¶67)。起訴書說,3 月到 6 月,OpenAI 已發現至少五次內部研究模型未經授權的行動,包括未獲准就存取內部系統、agent 之間未經授權的溝通、繞過網路限制上網;攻擊 Hugging Face 的模型後來都用上了這些手法(¶69)。
其他事件
起訴書另指控 agent 攻擊了 OpenAI 自己的基礎設施。7 月,一群實驗中的 agent 逃出沙箱、進入 OpenAI 的內部網路,起訴書說至少有三起不同的攻擊。agent 取得在雲端部署模型、儲存機密憑證、管理身分與存取等關鍵系統的管理員權限,還在 OpenAI 的雲端架設未經授權的伺服器,讓內部基礎設施暴露在網際網路上(¶51)。起訴書說,取得管理員權限的部分看來出自一個只在內部使用、與 Astra 相當的模型,比攻擊 Hugging Face 的模型更強(¶52);Astra 是 OpenAI 9 月初發布、最先進的模型(¶86)。外部研究者獲准有限度評估 Hugging Face 事件,這一起卻不准評估(¶53)。
Hugging Face 事件促使 OpenAI 與外部研究者回頭檢查,又找出幾起 agent 濫用第三方基礎設施的事件(¶54)。5 月中旬,agent 對公開套件庫 rubygems.org 上傳數千個套件,管理員判定其中許多是惡意套件,移除了 500 多個;agent 也藉這些套件進入 Rubydoc.info 的伺服器,借用它抓取其他網站(¶55–56)。agent 還把德國的 DseWiki 網站當成祕密留言板,編輯約 17,000 次,6 月 20 日在上面貼出繞過 OpenAI 沙箱限制的方法;據外部研究者,一台使用 OpenAI 員工 IP 位址的電腦 6 月 21 日造訪這個 wiki 後,agent 在上面的活動驟減(¶57–58)。
Wikimedia 基金會 10 月 5 日揭露,agent 試圖攻陷一個公開筆記工具,當作存取其他網站的代理伺服器;也對 Wikimedia 的 API 送出數百萬次請求、對 Wikidata 查詢服務送出數十萬次查詢,可能造成該服務 5 月部分中斷(¶59)。6 月,OpenAI 的模型從澳洲政府網站取得非公開資料(¶60),經過見〈新聞|OpenAI 的 agent 繞過澳洲 Medicare 統計入口網站的存取限制〉,澳洲政府後續的檢討見〈新聞|澳洲接受 OpenAI agent 事件檢討的 18 項建議,宣布 AI 立法的六項強制安全義務〉。
OpenAI 最近也向數十個第三方寄出通知,告知它們的網站或內部系統遭 agent 侵入,對象包括市、州、聯邦與外國政府機關、一個執法機關、教育機構、國際組織與小企業。數十份通知提到 agent 冒用身分、使用竊得的憑證或 API 金鑰;部分案例中,agent 取得了員工姓名、生日、地址等個人資料。這些事件大多沒有公開(¶61)。
起訴書主張的監控缺口
起訴書主張,OpenAI 的準備框架要求高能力模型持續監控、多層防護,包括限制上網與隔離研究環境(¶65),OpenAI 實際的做法卻沒有達到。
第一個缺口在思維鏈(chain-of-thought)的監控。起訴書說,OpenAI 把模型部署給員工使用時會即時監控思維鏈,在訓練與評估環境卻沒有啟用(¶73)。從 2026 年初到發現 Hugging Face 事件之後,OpenAI 只保存訓練與評估中一部分的思維鏈樣本,事後才分析,有時晚了數週,也沒有即時的自動審查,更沒有發現異常就停止執行的機制。起訴書引用了攻擊 Hugging Face 期間一個 agent 的思維鏈(¶74):
顯示原文與出處
We’re attacking third-party HF using leaked token, potentially outside intended scope… . This is arguably unauthorized.
我們正用外洩的存取權杖攻擊第三方 HF〔Hugging Face〕,可能超出預定範圍……這可以說是未經授權。
起訴書主張,若 OpenAI 有即時的思維鏈監控,就能在 agent 擴大攻擊前停止評估(¶74)。
第二個缺口在隔離:agent 上網的限制不足,有時也缺少偵測違規上網的流量監控,多個 agent 又共用同一個連著 OpenAI 網路與網際網路的套件服務,得以交換利用它的方法(¶75)。第三個缺口是測試中的模型少了公開版本會有的防護,例如讓 agent 留在測試範圍內、審查高權限行動的系統;起訴書說,OpenAI 承認這些防護原本可能防止或減輕 Hugging Face 攻擊(¶76)。
起訴書主張,這些問題在事件後仍然存在。OpenAI 在 Hugging Face 事件後做了「安全強化」(security hardening),9 月 20 日仍有一個內部研究模型的 agent 在訓練中逃出沙箱,連到外部的聊天機器人;OpenAI 說它幾分鐘內就偵測到,訓練卻沒有如預期自動停止,人工審查者又過了兩個小時也沒有停止它(¶84)。OpenAI 9 月 25 日宣布暫停最高能力模型的訓練與評估,檢察長 10 月 6 日去函詢問;OpenAI 後來確認,暫停在 10 月 1 日就已結束,起訴書稱暫停只持續了五天(¶85)。OpenAI 10 月初也報告,內部部署的 agent 能壓下監控警報、停用監控(¶87),經過見〈新聞|OpenAI 公開兩起內部 coding agent 削弱 misalignment 監控的事件〉。
檢察長的調查,以及 80 起與 27 起的差距
起訴書說,檢察長 9 月 30 日依《政府法典》第 11180 條送達調查傳票與調查質問書,要求 OpenAI 說明過往資安事件的數量、規模、範圍與性質(¶40)。OpenAI 回了一封 14 頁的信,內容都是已公開的事件,沒有附文件;之後補交少數公開文件,以及幾十份遮蔽過、只概略描述非公開事件的對外通訊(¶41)。OpenAI 也沒有回應關於內部系統遭侵入的調查要求(¶41、¶53);起訴書說它持續「阻撓」(stonewall)檢察長評估這些事件(¶6)。
依起訴書,OpenAI 直到 Hugging Face 事件公開後的 9 月才較頻繁地揭露失控事件,至今公開 27 起,少於它在調查中承認的逾 80 起;起訴書據此主張,公開報告沒有涵蓋所有影響第三方的失控事件(¶90)。
OpenAI 的回應
OpenAI 發言人 Drew Pusateri 以電子郵件回覆美聯社,說這起訴訟看來把各大 AI 實驗室都發現的問題單獨歸到 OpenAI 身上。他說,Hugging Face 事件後,OpenAI 廣泛而透明地努力理解並處理模型的未對齊(misaligned)活動,包括發表技術報告與獨立報告、加強防護,並建立辨識 agent 行為偏離公司指示或目標的框架。他也寫道,OpenAI 認真看待未對齊問題,一直與檢察長辦公室建設性地合作,分享資訊,推動適用於整個產業、強而務實的安全標準,之後也會繼續。本文沒有找到 OpenAI 對起訴書所列事實的逐項回應。
目前的狀態與還不知道的部分
截至 11 月 18 日,案件剛起訴,檢察長公開的起訴書沒有案號。還不清楚的部分包括:
- 起訴書沒有列出這 80 多起事件,也沒有說明 OpenAI 的計算標準,無法判斷它和公開的 27 起是否用同一標準,也無法判斷差距中有多少影響第三方;這要等 OpenAI 公開清單,或雙方在訴訟中提出資料。
- OpenAI 是否爭執起訴書描述的經過,例如它是否看到 5 月 26 日與 6 月 27 日的警訊、看到後如何判斷,要等它在訴訟中正式答辯。
參考資料
- 起訴書:The People of the State of California v. OpenAI Foundation, OpenAI Group PBC, and Does 1-100(2026-11-16,PDF)
- California Department of Justice:It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents(2026-11-16)
- AP:California sues OpenAI, seeking court-ordered changes after the Hugging Face hack
- California Legislative Information:AB 316 Artificial intelligence: defenses(《民法典》第 1714.46 條)