「等高性能 AI 普及了,安全到底会有什么变化」——答案其实意外地朴素。需要的并不是什么特别的新对策,而是把那些常见的基本功现在就做到位,其价值上升了。我们从防御的角度,把其中的原因,以及现在该按什么顺序夯实,梳理清楚(不涉及攻击手法)。
为什么是『现在』
AI 与其说是在『发明』攻击,不如说是在放大既有的攻击。从防御角度需要把握的,是下面这 5 个方向(都是为了防御而应当了解的趋势,不涉及手法细节)。
它们的共同点是,都通过常见的基本弱点进入系统。所以越是把基本功夯实,即便是大规模的攻击也越难得手。被往后拖的基本漏洞,会最先被自动化的攻击发现。这就是现在就该做的理由。
数字也印证了这一点。Mandiant(Google Cloud)发现,从漏洞公开到被利用的平均时间,从 2021–2022 年的 32 天缩短到了 2023 年的 5 天。2024 年 1 月,英国国家网络安全中心(NCSC)也评估认为,未来两年 AI「几乎肯定」会增加网络攻击的数量。每月更新一次的习惯,有时会来不及。
现在该夯实的顺序(按优先级排序的清单)
从上往下。每一项都链接到本站更详细的讲解。
监控依赖关系的 CVE,并立即打补丁
清除暴露在外的机密文件
最小权限,减少被入侵时的损害
加固依赖与 Git
准备好备份与恢复
速查表:频率与工具
把上面 8 项分成「先做什么」和「之后多久做一次」。频率是本站建议的参考标准。
| 项目 | 先做 | 之后的频率 | 工具(大多免费) |
|---|---|---|---|
| 1. 依赖漏洞 | 对所有项目的依赖扫描一遍 | 每周,或每次代码变更时自动运行 | osv-scanner、npm audit、composer audit、GitHub Dependabot 警报 |
| 1. 打补丁期限 | 先修补已确认被利用(在 KEV 上)的漏洞 | KEV 条目在几天到两周内 | 用 CVSS、EPSS 和 KEV 排定优先级 |
| 2. 多因素认证 | 从邮箱、GitHub、云服务、域名管理的管理员账户开始 | 每次创建账户时 | passkey、验证器 App |
| 3. 暴露的机密 | 检查公开目录和公开仓库;发现的密钥一律作废 | 每次发布前 | 密钥泄露扫描、网站诊断 |
| 4. 最小权限 | 停用不用的密钥、令牌和账户 | 每三个月 | 各服务的访问令牌列表 |
| 6. Git 防护 | 加上在提交前拦住机密的检查 | 自动(每次提交) | gitleaks、GitHub 推送保护 |
| 8. 备份 | 在别处保存一份副本,并试着还原一次 | 每三个月做一次还原测试 | 服务商的快照、外部存储 |
个人账户向公开仓库推送时,GitHub 推送保护默认开启。它不覆盖私有仓库和其他 Git 服务,所以要搭配 gitleaks 这类本地检查。
常见错误与对策
| 常见错误 | 会发生什么 | 对策 |
|---|---|---|
| 收到更新通知,却没有确认是否已应用 | 明明有修复,漏洞却一直开着 | 更新后确认版本,并重新扫描 |
| 从文件和历史记录中删除泄露的密钥后就停手 | 不作废的话,拿到副本的人仍然能用 | 先在签发方作废,再换成新密钥 |
| 只给自己的账户开启 MFA | 有人从共用的管理员账户或旧账户进来 | 列出所有有管理员权限的账户,全部开启 |
| 把备份放在同一台服务器上 | 服务器故障或被加密时,备份也一起没了 | 存放到别处,并实际测试还原 |
| 把 AI 写的配置或代码直接部署到生产环境 | 调试输出或写死的机密被留了下来 | 发布前运行机密检测和依赖扫描 |
真实的案例
成为本站起点的那起事故,就是一个典型例子。把用 AI 写的代码公开后不久,API key 就被窃取,遭到了盗刷。原因是把一个已公开的最高等级 CVE(CVSS 10.0)放任了数月之久。 这是 AI 让未修补的弱点代价更高的一个具体例子(→ 用 AI 写的代码泄露 API key 的案例)。
同类型的案例还有其他。
- Equifax(2017 年):Apache Struts 漏洞的修复在公开当天就已发布,但没有应用到一个对外系统上,约 1.47 亿人的个人信息因此泄露。这就是跳过第 1 项的后果(→ Equifax 数据泄露事件)。
- Hugging Face(2026 年):研究用 AI 代理的入侵,起点是被公开暴露的凭据。这就是跳过第 3 项的后果(→ Hugging Face 入侵事件)。
出处
- Google Cloud(Mandiant)「How Low Can You Go? An Analysis of 2023 Time-to-Exploit Trends」— cloud.google.com
- 英国 NCSC「The near-term impact of AI on the cyber threat」(2024 年 1 月 24 日)— ncsc.gov.uk
- 美国 CISA「BOD 22-01: Reducing the Significant Risk of Known Exploited Vulnerabilities」— cisa.gov
- GitHub Docs「About push protection」— docs.github.com
接下来阅读
- 管理工作中的 AI 使用:什么是影子 AI?(工作中未经批准的 AI 工具,以及该怎么做)
- AI 代理入侵:Hugging Face 入侵事件(2026):自主 AI 代理的攻击
- 常见误解:AI 时代有效的对策与无效的对策
- 基础:安全最低限度清单
- 工具:网站综合安全诊断