tag

AI

このタグの記事 3 件

2026-11-20

こども家庭庁が「こまもろうシステム」を当面運用しないと発表:深刻な脆弱性が多数見つかり、学校・保育・学童の事業者が確認すること(情報漏えいではない)

こども家庭庁は2026年11月18日、こども性暴力防止法(12月25日施行予定)で事業者や従事者が過去の性犯罪歴の確認(犯罪事実確認)等を行うために開発してきた「こまもろうシステム」について、システムでの運用は当面行わないと発表した。10月26日に総理から「高性能AIを用いた脆弱性チェック」を前倒しで実施する指示があり、同システムの脆弱性診断を実施したところ、深刻な脆弱性が多数見つかり、施行までの対応が困難になったという。中司大臣は関係者にお詫びし、システム以外で手続を行う代替方策を至急検討するよう指示した。代替方策は12月初めを目途にとりまとめる予定。これは、運用開始前のシステムで見つかった脆弱性の話で、個人情報の漏えいが起きたという発表ではない。当サイトの結論:該当の事業者は、システム前提の準備を止め、12月初めに示される代替方策を待ち、こども家庭庁の公式ページを確認する。

2026-10-22

LiteLLM 1.107.0に認証情報を盗むマルウェアが混入(2026年10月):対象のPyPI版・Dockerイメージと、利用者がやること

LiteLLMの開発元BerriAIは2026年10月21日(UTC)、リリースの仕組みが侵害され、認証情報を盗み遠隔でコードを実行する道具を読み込むマルウェア入りのv1.107.0が配布されたと発表した。対象はPyPIのlitellm==1.107.0(11:39〜13:23 UTC、日本時間20:39〜22:23)と、Docker HubとGHCRのv1.107.0・latest・main-latest・main-stableのタグ(Docker Hubは11:46〜14:20 UTC、日本時間20:46〜23:20。GHCRは13:51 UTC=日本時間22:51までに取り下げ、約2時間)。GitHubの公式のソースのタグには不正なファイルは含まれず、似た名前の攻撃者のリポジトリから作られたという。それより前の版は今回の混入の対象外で、同社は1.106.2など明示した版への固定を求めている。同社は10月24日(UTC)に1.103.8・1.104.6・1.105.4・1.106.3を公開し、これらの版からDockerイメージとHelmチャートの署名を新しいcosignの鍵に切り替えた(以前の鍵では検証できない)。同社は10月23日に原因の調査を終えたとする報告を公開し、最初の発表で「社内のLiteLLMのログから取られた」とみていたトークンの経路を訂正した。報告によれば、5月27日に公開リポジトリへ誤ってコミットされた設定ファイルに、社内で使うエージェント用の基盤のマスターキーが含まれ、コミットは上書きされたがキーは失効されていなかった。攻撃者は10月10日にこのキーで基盤のAPIを使い、そこに設定されていたGitHubの組織の所有者のGitHub CLIトークンを取得。その権限でCIの秘密情報を持ち出して別の2人の保守担当者のトークンも得て、10月21日にブランチ保護を外してリリースの手順を書き換え、承認を通した。当サイトの結論:期間内に入れた・起動した環境は侵害されたものとして作り直し、その環境から届いたキー(LLMプロバイダのキー、プロキシのマスターキー、データベース、クラウドの権限)をすべて変える。

2026-10-05

シャドーAIとは:会社が把握していないAI利用のリスクと、組織と個人の対策

シャドーAIは、会社が承認・管理していないAIツール(チャットAI、ブラウザ拡張、コーディング支援、議事録AI、業務アカウントにつないだAIエージェント)を社員が業務に使うこと。シャドーITのAI版。主なリスクは、入力した機密・個人情報が事業者側で保存・学習に使われうること(個人向けか法人向けか、設定によって扱いが違う)、OAuth連携やAPIキーでメールやドライブへのアクセス権が外部に渡ること、出力の誤りや権利の問題、個人情報保護法や監査への対応。禁止だけでは利用が見えなくなるので、学習に使われない法人契約の承認ツールを用意し、入力してよい情報のルール、SSOと管理機能、連携アプリと拡張機能の棚卸し、相談窓口で管理する。