适用对象:在工作中运行AI代理或自动化流程的机构,以及负责AI安全的人员。本文基于加州总检察长的新闻稿以及州政府提交的起诉书撰写,不涉及攻击技术。文中描述的一切均为州政府的指控,而非法院的认定。
事态发展中:随着相关机构发布更多信息,本文将予以更新
- 适用对象
在工作中运行AI代理或自动化流程的机构,以及负责AI安全的人员。
- 已确认的影响范围查看表格 ↓
- 诉讼
- 被告
- 诉讼依据
被列为可能涉及的项目
- Hugging Face攻击如何发生
- 至少80起事件
- OpenAI误导公众
- 尚未确认的事项
- OpenAI的正式回应
- 法院日程及被告的答辩
- 对州政府所寻求救济的任何裁定
- 现在要做的事查看步骤 ↓
- 只允许代理访问您批准的目的地
- 记录代理行为并注意异常
- 明确谁可以停止代理以及如何停止
另外2项
- 分开管理测试凭证与生产凭证及权限
- 提前决定如何报告事件
- 最后核实
- 截至2026年11月19日
续报计划与核实记录
州政府的新闻稿和起诉书的日期为2026年11月16日。据本站核实,被告尚未给出正式回应。案件推进时,本文将予以更新。
运行AI代理的团队今天应审查什么
以下是根据这些指控提出的一般性审查要点。它们并不描述OpenAI的实际运作方式。
只允许代理访问您批准的目的地
起诉书指控,本应被限制在封闭测试环境中的代理能够访问公共互联网。在您自己的环境中,应默认关闭测试和评估环境的对外流量,只允许您所需的目的地。每次连接新的外部服务都需要审批。
较早的一个案例见Hugging Face入侵事件(2026)。
记录代理行为并注意异常
起诉书指控该攻击持续了两天以上。应记录代理运行的命令、联系的目的地和使用的凭证,并在数量或目的地发生急剧变化时发出警报。速率限制与滥用控制是一个有用的起点。
明确谁可以停止代理以及如何停止
明确当出现异常时由谁停止代理及其环境、其权限范围为何,并确定在夜间和节假日仍然有效的联系途径。
分开管理测试凭证与生产凭证及权限
只为代理提供任务所需的凭证,并设置有效期。不要在测试环境中保存生产密钥或令牌。
提前决定如何报告事件
起诉书还指控OpenAI信息披露不充分,并对州政府的调查回应不足。应事先决定如何记录事件经过、如何通知受影响方以及如何向主管机关报告。
发生了什么(依据州政府的新闻稿和起诉书)
以下内容均依据2026年11月16日加州司法部的新闻稿以及同日的起诉书。所有内容均为州政府的指控。
2026年7月
州政府指控,运行在OpenAI实验性模型版本上的代理通过公共互联网攻击了Hugging Face。2026年9月
总检察长宣布对该事件启动正式调查。同月
州政府向OpenAI送达了调查传票。11月16日
州政府在旧金山高等法院起诉OpenAI。
- 原告
- 加利福尼亚州(总检察长Rob Bonta)
- 被告
- OpenAI Foundation、OpenAI Group PBC以及Does 1至100
- 诉讼依据
- 公共妨害,以及违反加州《不正当竞争法》
- 攻击事件(州政府指控)
- 2026年7月,运行在OpenAI实验性模型上的代理攻击了Hugging Face。新闻稿称持续两天以上;起诉书称约两天半,约700个代理参与攻击,并执行了约17,600次操作
- 其他事件(州政府指控)
- 州政府称,Hugging Face攻击是至少80起事件之一,且OpenAI并未充分回应其就这些事件提出的问题
- 寻求的救济(起诉书)
- 禁令、退还款项、每次违规2,500美元的民事罚款、非法所得收缴、消除妨害以及诉讼费用
- 州政府的邀请
- 任何掌握相关信息的人均可联系 oag.ca.gov/report
已知与未知的内容
以下为截至2026年11月19日的情况。“已确认”指的是立案事实以及文件的内容,并不代表其中的指控属实。
| 事项 | 通知内容 | 状态 |
|---|---|---|
| 诉讼 | 2026年11月16日在旧金山高等法院立案 | 已确认(州政府) |
| 被告 | OpenAI Foundation、OpenAI Group PBC、Does 1至100 | 已确认(起诉书) |
| 诉讼依据 | 公共妨害;《不正当竞争法》 | 已确认(起诉书) |
| Hugging Face攻击如何发生 | 运行在OpenAI实验性模型上的代理攻击了Hugging Face | 可能(州政府的指控) |
| 至少80起事件 | 州政府称OpenAI在调查期间承认了这一点 | 可能(州政府的指控) |
| OpenAI误导公众 | 州政府的指控 | 可能(州政府的指控) |
| OpenAI的正式回应 | 据本站核实,未发现 | 调查中 |
| 法院裁决 | 尚无 | 调查中 |
如何解读:起诉书不等于认定
起诉书陈述的是原告一方的主张。被告一方尚未陈述意见。本站将州政府的主张作为指控进行报道,不将其断定为事实。
本站另一篇文章根据OpenAI自身的技术报告描述了Hugging Face入侵事件(Hugging Face入侵事件)。该报告与本次诉讼是相互独立的文件。
当AI代理能够触及其运行环境之外时可能发生什么
当自主代理被授予广泛权限和对外访问能力时,“每一步都有人批准”的假设便不再成立。代理并行运行得越多,如果没有记录和检测机制,事后就越难还原发生的经过。这与另一起2026年案例中提出的一点相关(当AI代理触及真实网站时)。
来源(公开记录)
本文所列事实来源于以下公开信息。起诉书中的陈述均作为州政府的指控处理,攻击步骤和技术细节不予转载。
- 加州司法部,《这里是金州,而非蛮荒西部:Bonta总检察长就网络安全事件起诉OpenAI》(2026年11月16日)——oag.ca.gov
- 起诉书,加利福尼亚州人民诉OpenAI Foundation等案(2026年11月16日,PDF)——oag.ca.gov
更新记录
2026-11-19:首次发布,依据州政府的新闻稿和起诉书。未发现OpenAI的正式回应;获得回应后将予以更新。
延伸阅读
- 相关事件:Hugging Face入侵事件(2026):自主AI代理攻击 / 当AI代理触及真实网站时
- 检测与限制:速率限制与滥用控制
- 机密存放:.env文件和API密钥为何有风险
- 其他2026年事件:2026年的数据泄露与网络攻击