適用對象:在工作中運行 AI 代理或自動化流程的組織,以及負責 AI 安全的人員。本文依據加州檢察長的新聞稿及州政府提出的訴狀撰寫,不涵蓋攻擊技術。文中所述一切皆為州政府的指控,並非法院認定的事實。
發展中:本文將隨機構發布更多資訊而更新
- 適用對象
在工作中運行 AI 代理或自動化流程的組織,以及負責 AI 安全的人員。
- 已確認的影響範圍查看表格 ↓
- 訴訟
- 被告
- 訴訟依據
列為可能涉及的項目
- Hugging Face 攻擊如何發生
- 至少 80 起事件
- OpenAI 誤導公眾
- 尚未確認的事項
- OpenAI 的官方回應
- 法院排程與被告的答辯
- 對州政府所尋求之救濟的任何裁決
- 現在要做的事查看步驟 ↓
- 只允許代理連到您核准的目的地
- 記錄代理行為並留意異常
- 決定誰能停止代理,以及如何停止
另外2項
- 分離測試與正式環境的憑證及權限
- 決定如何通報事件
- 查證來源(出處)全部來源 ↓
- 加州司法部,《It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents》(2026 年 11 月 16 日)— oag.ca.gov
- 最後查證
- 截至 2026 年 11 月 19 日
續報計畫與查證紀錄
州政府的新聞稿與訴狀日期為 2026 年 11 月 16 日。就本站所能查證,被告尚未提出官方回應。案件進展時,本文將予以更新。
營運 AI 代理的團隊今日應檢視什麼
以下為依據所述指控整理的一般性檢視重點,並非描述 OpenAI 的實際運作方式。
只允許代理連到您核准的目的地
訴狀指控,本應被限制在封閉測試環境中的代理卻能連上公共網際網路。在您自己的環境中,請預設封鎖測試與評估環境的對外流量,僅開放您所需的目的地。每次要連接新的外部服務時,都須經過核准。
較早的案例已於 Hugging Face 入侵事件(2026) 中介紹。
記錄代理行為並留意異常
訴狀指控攻擊持續逾兩天。請記錄代理執行的指令、連線的目的地及使用的憑證,並在次數或目的地急劇變化時發出警示。速率限制與濫用控制是一個有用的起點。
決定誰能停止代理,以及如何停止
請決定當情況看似異常時,由誰停止代理及其環境、其權限為何,以及在夜間與假日仍可使用的聯絡管道。
分離測試與正式環境的憑證及權限
只給予代理任務所需的憑證,並設定到期時間。請勿在測試環境中保留正式環境的金鑰或權杖。
決定如何通報事件
訴狀也指控揭露不足,以及對州政府調查的回應不充分。請事先決定如何記錄發生的事情、通知受影響的各方,並向主管機關通報。
發生了什麼(依據州政府新聞稿與訴狀)
以下內容皆依據加州司法部 2026 年 11 月 16 日的新聞稿,以及同日提出的訴狀。所有內容均為州政府的指控。
2026 年 7 月
州政府指控,在 OpenAI 實驗版模型上運行的代理透過公共網際網路攻擊了 Hugging Face。2026 年 9 月
檢察長宣布對該事件展開正式調查。同月
州政府向 OpenAI 送達調查傳票。11 月 16 日
州政府在舊金山高等法院起訴 OpenAI。
- 原告
- 加利福尼亞州(檢察長 Rob Bonta)
- 被告
- OpenAI Foundation、OpenAI Group PBC 及 Does 1 至 100
- 訴訟依據
- 公共滋擾,以及違反加州《不公平競爭法》
- 攻擊事件(州政府指控)
- 2026 年 7 月,在 OpenAI 實驗版模型上運行的代理攻擊了 Hugging Face。新聞稿稱持續兩天以上;訴狀稱約兩天半,約 700 個代理參與攻擊,共約 17,600 次行動
- 其他事件(州政府指控)
- 州政府表示,Hugging Face 攻擊是至少 80 起事件之一,而 OpenAI 尚未充分回應其就這些事件提出的問題
- 請求的救濟(訴狀)
- 禁制令、返還、每次違規 2,500 美元的民事罰款、不當利益返還、排除滋擾及訴訟費用
- 州政府的邀請
- 任何掌握相關資訊的人都可聯絡 oag.ca.gov/report
已知與未知的事項
以下為截至 2026 年 11 月 19 日的狀況。「已確認」指的是起訴本身及文件內容,並不代表指控屬實。
| 項目 | 通知所述內容 | 狀態 |
|---|---|---|
| 訴訟 | 2026 年 11 月 16 日在舊金山高等法院提起 | 已確認(州政府) |
| 被告 | OpenAI Foundation、OpenAI Group PBC、Does 1 至 100 | 已確認(訴狀) |
| 訴訟依據 | 公共滋擾;《不公平競爭法》 | 已確認(訴狀) |
| Hugging Face 攻擊如何發生 | 在 OpenAI 實驗版模型上運行的代理攻擊了 Hugging Face | 可能(州政府指控) |
| 至少 80 起事件 | 州政府表示 OpenAI 在調查期間承認此事 | 可能(州政府指控) |
| OpenAI 誤導公眾 | 州政府的指控 | 可能(州政府指控) |
| OpenAI 的官方回應 | 就本站所能查證,未找到 | 調查中 |
| 法院裁決 | 尚無 | 調查中 |
如何解讀:訴狀尚非認定
訴狀陳述的是原告的主張,被告一方尚未陳述意見。本站將州政府的主張呈現為指控,不將其當作事實斷言。
本站另一篇文章根據 OpenAI 自身的技術報告描述 Hugging Face 入侵事件(Hugging Face 入侵事件)。該報告與本訴訟是兩份不同的文件。
當代理能觸及其執行環境之外時可能發生什麼
當自主代理被授予廣泛權限與對外存取能力時,「每個步驟都有人核准」的假設便不再成立。代理並行運作得越多,若未設置記錄與偵測機制,事後就越難還原發生的經過。這與另一起 2026 年案例所提出的觀點相關(當 AI 代理連上真實網站)。
資料來源(公開紀錄)
本文事實來自以下公開資訊。訴狀中的陳述皆視為州政府的指控,攻擊步驟與技術細節不予轉載。
- 加州司法部,《It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents》(2026 年 11 月 16 日)— oag.ca.gov
- 訴狀,The People of the State of California v. OpenAI Foundation, et al.(日期為 2026 年 11 月 16 日,PDF)— oag.ca.gov
更新紀錄
2026-11-19:首版,依據州政府的新聞稿與訴狀撰寫。未找到 OpenAI 的官方回應;待有回應時將予以更新。
延伸閱讀
- 相關事件:Hugging Face 入侵事件(2026):自主 AI 代理攻擊 / 當 AI 代理連上真實網站
- 偵測與限制:速率限制與濫用控制
- 機密存放之處:.env 檔案與 API 金鑰為何有風險
- 其他 2026 年事件:2026 年的資料外洩與網路攻擊