tag

AI

該標籤下有 3 篇文章

2026-11-20

日本兒童家庭廳暫不運作「Komamorou」前科查詢系統:發現多項嚴重漏洞,學校、托育與課後托育業者應檢查什麼(不是資料外洩)

2026年11月18日,日本兒童家庭廳宣布,為讓業者與工作人員能依據《防止對兒童性暴力法》(將於12月25日施行)查詢過去的性犯罪前科(犯罪紀錄查核)而開發的「Komamorou 系統」暫不運作。10月26日首相指示提前進行使用高性能 AI 的漏洞檢查,隨後對該系統進行漏洞評估,發現多項嚴重漏洞,兒童家庭廳表示在施行日之前處理這些漏洞已有困難。部長向相關人士致歉,並指示官員緊急研議不使用該系統的替代程序。兒童家庭廳計畫在12月上旬前後彙整替代方案。本事件涉及的是尚未投入運作的系統中的漏洞,兒童家庭廳並未宣布個人資料外洩。本站的看法:相關業者應停止以使用該系統為前提的準備工作,等待12月上旬的替代方案,並查看兒童家庭廳的官方頁面。

2026-10-22

LiteLLM 1.107.0 夾帶憑證竊取程式(2026 年 10 月):受影響的 PyPI 版本與 Docker 映像檔,以及使用者該怎麼做

2026 年 10 月 21 日(UTC),LiteLLM 的開發公司 BerriAI 宣布其發布流程遭入侵,並發布了含有惡意程式的 v1.107.0;該惡意程式會竊取憑證並載入遠端程式碼執行工具。受影響的是 PyPI 上的 litellm==1.107.0(11:39 至 13:23 UTC),以及 Docker Hub(11:46 至 14:20 UTC)和 GHCR(自 11:46 UTC 起,至 13:51 UTC 前下架,約兩小時)上的 v1.107.0、latest、main-latest 和 main-stable 標籤。GitHub 上官方的 v1.107.0 原始碼標籤不含惡意檔案;這些套件是由攻擊者控制的仿冒儲存庫建置而成。所有較早的版本都不在此次入侵範圍內,公司請使用者固定使用 1.106.2 或其他明確指定的較早版本。10 月 24 日(UTC),公司發布了 1.103.8、1.104.6、1.105.4 和 1.106.3;自這些版本起,Docker 映像檔與 Helm chart 改用新的 cosign 金鑰簽署(舊金鑰已無法驗證)。10 月 23 日,公司發布根本原因分析,並更正其最初認為權杖是從內部 LiteLLM 部署的記錄檔中被取走的說法。依該分析,5 月 27 日有一份設定檔被誤提交到公開儲存庫,其中含有內部代理平台的主金鑰;該提交後來被覆寫,但金鑰從未被撤銷。10 月 10 日,攻擊者用該金鑰呼叫平台 API,取得其中設定的某位 GitHub 組織擁有者的 GitHub CLI 權杖。攻擊者再以此竊取 CI 機密,取得另外兩位維護者的權杖,並於 10 月 21 日停用分支保護、修改發布工作流程並核准發布。本站結論:凡是在該時段內安裝或啟動過 1.107.0 的環境都應重建,並輪換其可存取的所有金鑰,包括 LLM 供應商金鑰、proxy 主金鑰、資料庫密碼與雲端角色。

2026-10-05

什麼是影子 AI(Shadow AI)?公司看不到的 AI 使用風險,以及組織與個人該怎麼做

影子 AI 是指員工把公司未核准或未管理的 AI 工具(聊天機器人、AI 瀏覽器擴充功能、程式碼助理、會議記錄 AI、連接工作帳號的 AI 代理)用於工作。它是影子 IT 的 AI 版本。主要風險:輸入的機密或個人資料可能被提供方保存,並依方案與設定被用於訓練(個人版與企業版條款不同);OAuth 授權與 API 金鑰讓第三方工具能存取郵件與雲端硬碟;輸出錯誤與授權問題;個資法規與稽核義務。只靠禁止會讓使用轉入地下,因此要提供以「不把輸入用於訓練」的企業條款簽約的核准工具、簡短的可輸入資料規則、SSO 與管理控制、定期檢視 OAuth 授權與擴充功能,以及可以先問再用的窗口。