tag

AI

该标签下有 3 篇文章

2026-11-20

日本儿童家庭厅暂不运行“Komamorou”前科查询系统:发现多个严重漏洞,学校、托育和课后托管运营者应检查什么(不是数据泄露)

2026年11月18日,日本儿童家庭厅宣布,为让运营者和工作人员能够依据《防止对儿童性暴力法》(将于12月25日施行)查询过去的性犯罪前科(犯罪记录核查)而开发的“Komamorou 系统”暂不运行。10月26日首相指示提前开展使用高性能AI的漏洞检查,随后对该系统进行漏洞评估,发现了多个严重漏洞,儿童家庭厅称在施行日之前处理这些漏洞已很困难。大臣向相关人员致歉,并指示官员紧急研究不使用该系统的替代程序。儿童家庭厅计划在12月上旬前后汇总替代方案。本事件涉及的是尚未投入运行的系统中的漏洞,儿童家庭厅并未宣布个人数据泄露。本站的看法:相关运营者应停止以使用该系统为前提的准备工作,等待12月上旬的替代方案,并查看儿童家庭厅的官方页面。

2026-10-22

LiteLLM 1.107.0 带有凭据窃取程序(2026 年 10 月):受影响的 PyPI 版本与 Docker 镜像,以及用户该怎么做

2026 年 10 月 21 日(UTC),LiteLLM 背后的公司 BerriAI 宣布其发布流水线遭到入侵,并发布了一个含有恶意软件的 v1.107.0,该恶意软件会窃取凭据并加载远程代码执行工具。受影响的有:PyPI 上的 litellm==1.107.0(11:39 至 13:23 UTC),以及 Docker Hub 上的 v1.107.0、latest、main-latest 和 main-stable 标签(11:46 至 14:20 UTC)和 GHCR 上的同名标签(自 11:46 UTC 起,至 13:51 UTC 前下架,约两小时)。GitHub 上官方的 v1.107.0 源码标签不含恶意文件;这些构建产物是由攻击者控制的仿冒仓库构建的。所有更早的版本都不在此次入侵范围内,公司请用户固定使用 1.106.2 或其他明确指定的更早版本。10 月 24 日(UTC),公司发布了 1.103.8、1.104.6、1.105.4 和 1.106.3,从这些版本起,Docker 镜像和 Helm chart 使用新的 cosign 密钥签名(旧密钥已无法验证)。10 月 23 日,公司发布了根因分析,并更正了最初认为令牌是从内部 LiteLLM 部署的日志中被获取的判断。根据该分析,5 月 27 日一个配置文件被误提交到公开仓库,其中包含某个内部智能体平台的主密钥;该提交被覆盖,但密钥从未被吊销。10 月 10 日,攻击者用该密钥调用该平台的 API,获得了配置在其中的某位 GitHub 组织所有者的 GitHub CLI 令牌。攻击者借此窃取了 CI 机密,进而获得另外两位维护者的令牌,并在 10 月 21 日关闭了分支保护、修改了发布工作流并批准了发布。本站结论:凡是在该时间窗口内安装或启动过 1.107.0 的环境,都应重建,并轮换其可触及的所有密钥,包括 LLM 提供商密钥、代理主密钥、数据库密码和云角色。

2026-10-05

什么是影子 AI?公司看不见的 AI 使用有哪些风险,组织和个人该怎么做

影子 AI 是员工把公司未批准或未管理的 AI 工具(聊天机器人、AI 浏览器扩展、编程助手、会议记录 AI、连接到工作账号的 AI 代理)用于工作,是影子 IT 的 AI 版。主要风险:输入的机密或个人信息可能被提供方保存,并视方案和设置被用于训练(个人版与企业版条款不同);OAuth 授权和 API 密钥让第三方工具能访问邮箱和云盘;输出错误与授权许可问题;以及个人信息保护法规和审计方面的义务。只靠禁止会把使用赶到看不见的地方,因此要提供不把输入用于训练的企业版批准工具、一份简短的『哪些数据可以输入』规则、SSO 与管理控制、定期复查 OAuth 授权和扩展,以及可以先问一声的渠道。