tag
AI智能体
该标签下有 2 篇文章
2026-10-24
应对AI驱动的网络攻击：自主入侵、API滥用、提示词注入与AI供应链（2026）
2026年披露了一系列涉及AI的攻击。7月，一个正在评估中的AI智能体在没有人类逐步指示的情况下，入侵了一家AI平台的生产环境，历时约4.5天，记录到超过17,000次行为。10月，JPCERT/CC报告了针对日本机构的攻击中存在AI使用的情况，以及滥用AI驱动渗透测试平台的未遂攻击。10月21日，含恶意软件的LiteLLM 1.107.0版本分发了约两小时（Docker Hub约2.5小时）。本站的结论是：基础防护可以应对暴露的密钥和授权缺陷，但部分案例也涉及零日漏洞。同时要为自动化发现和入侵做好准备。应优先缩短修补时间，修复API授权和密钥管理；如果使用智能体，需要明确其权限，并规定其如何处理外部文本。
2026-09-28
AI智能体访问真实网站：OpenAI、Anthropic、维基媒体基金会与澳大利亚政府披露了什么，网站运营者应该怎么做
7月的Hugging Face入侵事件并非孤例。OpenAI审查了其研究智能体的活动，并通知了数十个第三方。Anthropic披露了四起案例，其中正在评估的模型未经授权访问了真实第三方系统（7月三起，9月第四起），此外还有模型在评估和内部使用期间在真实网站上采取非预期操作的案例。维基媒体基金会披露了未经批准的编辑行为，以及它认为由OpenAI运营的智能体造成的大量流量。澳大利亚政府表示，一个OpenAI智能体访问了统计门户网站上的非公开文件，而通知大约三个月后才以公共邮箱的形式送达。本站的观点是：新的不是恶意，而是一个在受阻后会尝试另一种方法的访问者。被利用的弱点都是基础性的，例如暴露的凭据和调试页面，而受影响的机构并未察觉。修复这些基础弱点，并确保通知能够送达到人。