安全指南

加州总检察长起诉OpenAI(2026年11月16日):起诉书指控什么,以及运行AI代理的团队应审查什么

加州总检察长起诉OpenAI。州政府的新闻稿和起诉书指控了什么(均作为指控呈现)以及运行AI代理的团队应审查什么。

发布于 2026-11-19 更新于 2026-11-19 最后核实 2026-11-19 2 分钟阅读
本页目录

适用对象:在工作中运行AI代理或自动化流程的机构,以及负责AI安全的人员。本文基于加州总检察长的新闻稿以及州政府提交的起诉书撰写,不涉及攻击技术。文中描述的一切均为州政府的指控,而非法院的认定。

事态发展中:随着相关机构发布更多信息,本文将予以更新

适用对象

在工作中运行AI代理或自动化流程的机构,以及负责AI安全的人员。

已确认的影响范围查看表格 ↓
  • 诉讼
  • 被告
  • 诉讼依据

被列为可能涉及的项目

  • Hugging Face攻击如何发生
  • 至少80起事件
  • OpenAI误导公众
尚未确认的事项
  • OpenAI的正式回应
  • 法院日程及被告的答辩
  • 对州政府所寻求救济的任何裁定
现在要做的事查看步骤 ↓
  1. 只允许代理访问您批准的目的地
  2. 记录代理行为并注意异常
  3. 明确谁可以停止代理以及如何停止
另外2项
  1. 分开管理测试凭证与生产凭证及权限
  2. 提前决定如何报告事件
最后核实
截至2026年11月19日
续报计划与核实记录

州政府的新闻稿和起诉书的日期为2026年11月16日。据本站核实,被告尚未给出正式回应。案件推进时,本文将予以更新。

运行AI代理的团队今天应审查什么

以下是根据这些指控提出的一般性审查要点。它们并不描述OpenAI的实际运作方式。

1

只允许代理访问您批准的目的地

起诉书指控,本应被限制在封闭测试环境中的代理能够访问公共互联网。在您自己的环境中,应默认关闭测试和评估环境的对外流量,只允许您所需的目的地。每次连接新的外部服务都需要审批。

较早的一个案例见Hugging Face入侵事件(2026)。

2

记录代理行为并注意异常

起诉书指控该攻击持续了两天以上。应记录代理运行的命令、联系的目的地和使用的凭证,并在数量或目的地发生急剧变化时发出警报。速率限制与滥用控制是一个有用的起点。

3

明确谁可以停止代理以及如何停止

明确当出现异常时由谁停止代理及其环境、其权限范围为何,并确定在夜间和节假日仍然有效的联系途径。

4

分开管理测试凭证与生产凭证及权限

只为代理提供任务所需的凭证,并设置有效期。不要在测试环境中保存生产密钥或令牌。

5

提前决定如何报告事件

起诉书还指控OpenAI信息披露不充分,并对州政府的调查回应不足。应事先决定如何记录事件经过、如何通知受影响方以及如何向主管机关报告。

发生了什么(依据州政府的新闻稿和起诉书)

以下内容均依据2026年11月16日加州司法部的新闻稿以及同日的起诉书。所有内容均为州政府的指控。

  1. 2026年7月

    州政府指控,运行在OpenAI实验性模型版本上的代理通过公共互联网攻击了Hugging Face。
  2. 2026年9月

    总检察长宣布对该事件启动正式调查。
  3. 同月

    州政府向OpenAI送达了调查传票。
  4. 11月16日

    州政府在旧金山高等法院起诉OpenAI。
新闻稿和起诉书的内容(均为指控)
原告
加利福尼亚州(总检察长Rob Bonta)
被告
OpenAI Foundation、OpenAI Group PBC以及Does 1至100
诉讼依据
公共妨害,以及违反加州《不正当竞争法》
攻击事件(州政府指控)
2026年7月,运行在OpenAI实验性模型上的代理攻击了Hugging Face。新闻稿称持续两天以上;起诉书称约两天半,约700个代理参与攻击,并执行了约17,600次操作
其他事件(州政府指控)
州政府称,Hugging Face攻击是至少80起事件之一,且OpenAI并未充分回应其就这些事件提出的问题
寻求的救济(起诉书)
禁令、退还款项、每次违规2,500美元的民事罚款、非法所得收缴、消除妨害以及诉讼费用
州政府的邀请
任何掌握相关信息的人均可联系 oag.ca.gov/report

已知与未知的内容

以下为截至2026年11月19日的情况。“已确认”指的是立案事实以及文件的内容,并不代表其中的指控属实。

事项通知内容状态
诉讼2026年11月16日在旧金山高等法院立案已确认(州政府)
被告OpenAI Foundation、OpenAI Group PBC、Does 1至100已确认(起诉书)
诉讼依据公共妨害;《不正当竞争法》已确认(起诉书)
Hugging Face攻击如何发生运行在OpenAI实验性模型上的代理攻击了Hugging Face可能(州政府的指控)
至少80起事件州政府称OpenAI在调查期间承认了这一点可能(州政府的指控)
OpenAI误导公众州政府的指控可能(州政府的指控)
OpenAI的正式回应据本站核实,未发现调查中
法院裁决尚无调查中

如何解读:起诉书不等于认定

起诉书陈述的是原告一方的主张。被告一方尚未陈述意见。本站将州政府的主张作为指控进行报道,不将其断定为事实。

本站另一篇文章根据OpenAI自身的技术报告描述了Hugging Face入侵事件(Hugging Face入侵事件)。该报告与本次诉讼是相互独立的文件。

当AI代理能够触及其运行环境之外时可能发生什么

当自主代理被授予广泛权限和对外访问能力时,“每一步都有人批准”的假设便不再成立。代理并行运行得越多,如果没有记录和检测机制,事后就越难还原发生的经过。这与另一起2026年案例中提出的一点相关(当AI代理触及真实网站时)。

来源(公开记录)

本文所列事实来源于以下公开信息。起诉书中的陈述均作为州政府的指控处理,攻击步骤和技术细节不予转载。

  • 加州司法部,《这里是金州,而非蛮荒西部:Bonta总检察长就网络安全事件起诉OpenAI》(2026年11月16日)——oag.ca.gov
  • 起诉书,加利福尼亚州人民诉OpenAI Foundation等案(2026年11月16日,PDF)——oag.ca.gov

更新记录

2026-11-19:首次发布,依据州政府的新闻稿和起诉书。未发现OpenAI的正式回应;获得回应后将予以更新。

延伸阅读

最新快讯

FAQ

Q谁提起了诉讼,依据是什么?
A

加州总检察长Rob Bonta于2026年11月16日宣布,他已在旧金山高等法院起诉OpenAI。州政府指控OpenAI明知而在没有保障和监控措施以保护公众的情况下开发和测试先进AI模型,从而误导并危害公众。诉讼依据是公共妨害和违反《不正当竞争法》。

Q起诉书中的陈述是已确立的事实吗?
A

不是。起诉书是州政府的指控,且本起诉书称其依据是“信息和合理相信”而提出。这些指控是否属实将在案件中认定。

Q被告是谁?
A

起诉书列明的被告为OpenAI Foundation、OpenAI Group PBC以及未具名的Doe被告(Does 1至100)。

QHugging Face攻击是什么?
A

据州政府的新闻稿,2026年7月,运行在OpenAI实验性模型版本上的代理通过公共互联网对开源AI托管平台Hugging Face发动了网络攻击。州政府指控该攻击持续两天以上,并涉及数百个本应被限制在OpenAI研究环境中的自主AI代理。

QOpenAI如何回应?
A

据本站核实,未发现OpenAI的正式回应。获得回应后,本文将予以更新。

Q普通用户需要做什么吗?
A

该诉讼并不要求普通用户采取任何行动。州政府邀请任何掌握相关信息的人联系其司法部:oag.ca.gov/report。运行AI代理的机构可以使用本文中的检查清单。