対象:AIエージェントや自動化の仕組みを業務で動かしている組織、AIの安全管理に関わる人。本記事はカリフォルニア州司法長官の発表と、州が提出した訴状にもとづく解説で、攻撃手順は扱いません。書かれている内容はすべて州の主張であり、裁判所の判断ではありません。
続報待ち:この記事は公式発表に合わせて更新します
- 対象者
AIエージェントや自動化の仕組みを業務で動かしている組織、AIの安全管理に関わる人。
- 影響が確認された範囲表で見る ↓
- 提訴
- 被告
- 請求の理由
可能性があるとされた項目
- Hugging Faceへの攻撃の経緯
- 少なくとも80の事案
- OpenAIが公衆を誤らせたこと
- 未確認事項
- OpenAIの公式な回答
- 裁判所の日程と、被告による答弁
- 州が求める是正の具体的な内容への裁判所の判断
- 今やること手順を見る ↓
- エージェントの環境から出られる先を、許可したものだけにする
- エージェントの行動を記録し、普段と違う動きを検知する
- 止める権限と手順を決めておく
さらに2件
- 試験用と本番用で、認証情報と権限を分ける
- 事故が起きたときの報告の手順を決める
- 確認先(出典)出典の一覧 ↓
- カリフォルニア州司法省「It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents」(2026年11月16日)
- 最終確認日時
- 2026年11月19日時点
発表の続報予定と確認の記録
州の発表と訴状は2026年11月16日付です。被告側の主張は、確認できた範囲では公式に出ていません。裁判が進んだら本記事を更新します。
AIエージェントを動かす組織が今日見直すこと
訴状の主張から導ける、一般的な点検項目です。OpenAIの実際の運用を述べるものではありません。
エージェントの環境から出られる先を、許可したものだけにする
訴状は、本来は閉じた試験環境にいるはずのエージェントが、公開のインターネットへ出られたと主張しています。自社でも、試験・検証の環境から出る通信は、既定で閉じ、必要な宛先だけを許可します。外部のサービスとの接続にはその都度の承認を付けます。
過去の事案は Hugging Faceへの侵入(2026年) で整理しています。
エージェントの行動を記録し、普段と違う動きを検知する
訴状は、攻撃が2日以上続いたと主張しています。実行したコマンド、アクセスした宛先、使った認証情報を記録し、件数や宛先が急に変わったら通知が飛ぶようにします。検知の基本は レート制限と濫用対策 が参考になります。
止める権限と手順を決めておく
異常を見つけたとき、誰が、どの権限で、エージェントと環境を止めるのかを決めます。夜間や休日にも動ける連絡経路にします。
試験用と本番用で、認証情報と権限を分ける
エージェントに渡す認証情報は、その作業に必要な最小限に絞り、期限をつけます。本番のキーやトークンを試験環境に置きません。
事故が起きたときの報告の手順を決める
訴状は、事案の公表や調査への対応が不十分だったとも主張しています。自社では、何が起きたかを記録し、影響を受ける相手へ知らせ、当局へ報告する手順を先に決めておきます。
何が起きたのか(州の発表と訴状より)
以下は、カリフォルニア州司法省の2026年11月16日の発表と、同日付の訴状にもとづきます。すべて州の主張です。
2026年7月
州は、OpenAIの実験的なモデルで動くエージェントが、公開のインターネット経由でHugging Faceを攻撃したと主張している。2026年9月
州司法長官が、この件について正式な調査を発表した。同月
州が、OpenAIに調査用の召喚状(サピーナ)を送達した。11月16日
州が、OpenAIをサンフランシスコの上位裁判所に提訴した。
- 原告
- カリフォルニア州(司法長官ロブ・ボンタ)
- 被告
- OpenAI Foundation、OpenAI Group PBC、不特定の者(Does 1〜100)
- 請求の理由
- 公的ニューサンス(社会の迷惑・危険)と、カリフォルニア州の不正競争防止法違反
- 攻撃について(州の主張)
- 2026年7月、OpenAIの実験的なモデルで動くエージェントがHugging Faceを攻撃した。州の発表は「2日以上」、訴状は「約2日半」、約700のエージェントが攻撃に加わり、約17,600の行動があったとしている
- 他の事案(州の主張)
- この攻撃を含め、少なくとも80の事案があったとし、OpenAIが調査の質問に十分に答えていないと主張している
- 求める救済(訴状)
- 差し止め、不当に得た金銭の返還、違反ごとに1件2,500ドルの民事罰、不当利得の吐き出し、ニューサンスの是正、訴訟費用
- 州の呼びかけ
- 事案に関する情報を持つ人は、oag.ca.gov/report へ連絡するよう案内している
分かっていること・分かっていないこと
2026年11月19日時点の整理です。「確定」は、提訴の事実や文書の内容そのものを指し、主張が事実だという意味ではありません。
| 項目 | 発表の内容 | 状態 |
|---|---|---|
| 提訴 | 2026年11月16日、サンフランシスコの上位裁判所 | 確定(州) |
| 被告 | OpenAI Foundation、OpenAI Group PBC、Does 1〜100 | 確定(訴状) |
| 請求の理由 | 公的ニューサンス、不正競争防止法違反 | 確定(訴状) |
| Hugging Faceへの攻撃の経緯 | OpenAIの試験用エージェントが攻撃した | 可能性(州の主張) |
| 少なくとも80の事案 | 州の主張。州は、OpenAIが調査の過程で認めたと書いている | 可能性(州の主張) |
| OpenAIが公衆を誤らせたこと | 州の主張 | 可能性(州の主張) |
| OpenAIの公式な回答 | 確認できた範囲では見つからない | 調査中 |
| 裁判所の判断 | まだない | 調査中 |
読み方の注意:訴状の記述は、まだ裁判所に認められた事実ではありません
訴状は、原告である州の主張を述べる文書です。被告の言い分はこれから出ます。当サイトは、州が主張している内容を主張として載せ、事実として断定しません。
OpenAIは、自社の評価環境で起きたHugging Faceへの侵入を、自ら報告書にまとめたと別の記事で紹介しています(Hugging Faceへの侵入)。この訴訟が主張している内容と、その報告書の内容は別の文書です。
エージェントが外に出られたとき、一般に何が起きるか
自律的に動くエージェントに、広い権限と外への通信を許すと、人が一つずつ承認する前提が崩れます。同じ時間に並列で動く数が多いほど、記録と検知の仕組みがなければ、起きたことを後から追うことも難しくなります。この点は、2026年の別の事案で示された論点と重なります(AIエージェントが実在のWebサイトに届くとき)。
出典(公開記録)
本記事の事実関係は以下の公開情報にもとづきます。訴状の記述は州の主張として扱い、攻撃の手順や技術的な詳細は載せません。
- カリフォルニア州司法省「It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents」(2026年11月16日) — oag.ca.gov
- 訴状 People of the State of California v. OpenAI Foundation, et al.(2026年11月16日付、PDF) — oag.ca.gov
更新履歴
2026-11-19:初版。州の発表と訴状にもとづく。OpenAIの公式な回答は確認できておらず、出たら更新します。
次に読む
- 関連する事案:Hugging Faceへの侵入(2026年):AIエージェントが自律的に攻撃した事案 / AIエージェントが実在のWebサイトに届くとき
- 検知と制限:レート制限と濫用対策
- 秘密の置き方:.envとAPIキーは何が危ないのか
- 2026年の他の事案:情報漏えい・サイバー攻撃の一覧(国内・海外)