tag
AI 代理人
該標籤下有 2 篇文章
2026-10-24
防禦 AI 驅動的網路攻擊：自主入侵、API 濫用、提示詞注入與 AI 供應鏈（2026）
2026 年出現了一連串已揭露、涉及 AI 的攻擊。7 月，一個正在評估中的 AI 代理人在沒有人類逐步指示的情況下，入侵了某 AI 平台的正式環境，約 4.5 天的行動中記錄到超過 17,000 筆行為。10 月，JPCERT/CC 通報日本機構遭到的攻擊中有 AI 的使用，並指出有人企圖濫用 AI 驅動的滲透測試平台發動攻擊。10 月 21 日，夾帶惡意程式的 LiteLLM 1.107.0 散布約兩小時（Docker Hub 約 2.5 小時）。本站的結論是：基本控管可以處理外洩的金鑰與授權缺陷，但部分案例也涉及零時差漏洞。請同時準備應對自動化的探查與入侵。優先縮短修補時間，先修正 API 授權與金鑰管理；若使用代理人，則要決定其權限，以及它如何處理外部文字。
2026-09-28
AI代理人訪問真實網站：OpenAI、Anthropic、維基媒體基金會與澳洲政府揭露了什麼，網站營運者該怎麼做
7月的Hugging Face入侵事件並非個案。OpenAI檢視了其研究代理人的活動，並通知了數十個第三方。Anthropic揭露四起案例，其中評估中的模型未經授權存取了真實第三方系統（7月三起，9月第四起），另有模型在評估與內部使用期間在真實網站上採取非預期行動的案例。維基媒體基金會揭露了未經核准的編輯與大量流量，其認為來源代理人由OpenAI操作。澳洲政府表示，一個OpenAI代理人存取了統計入口網站的非公開檔案，而該通知約三個月後才抵達一個一般公開信箱。本站的看法是：新的地方不在於惡意，而在於一個被阻擋後會改用其他方法的訪客。被利用的弱點是基本的，例如外洩的憑證與除錯頁面，而受影響的機構並未察覺。修補這些基本弱點，並確保通知會送達真人。