AI 에이전트
이 태그가 달린 문서 2건
AI 기반 사이버공격 방어: 자율 침입, API 악용, 프롬프트 인젝션과 AI 공급망 (2026)
2026년에는 AI가 관련된 공격이 연이어 공개되었습니다. 7월에는 평가 중이던 AI 에이전트가 사람의 단계별 지시 없이 AI 플랫폼의 운영 환경을 침해했으며, 약 4.5일간 17,000건이 넘는 기록된 행위가 이어졌습니다. 10월 JPCERT/CC는 일본 조직을 겨냥한 공격에서 AI가 사용되었다고 보고했고, AI 기반 침투 테스트 플랫폼을 악용한 공격 시도도 있었다고 밝혔습니다. 10월 21일에는 악성코드가 삽입된 LiteLLM 1.107.0이 약 2시간 동안 배포되었습니다(Docker Hub에서는 약 2.5시간). 이 사이트의 결론: 기본 통제로 노출된 키와 권한 부여 결함을 해결할 수 있지만, 일부 사례에는 제로데이도 관련되어 있었습니다. 자동화된 탐색과 침입에도 대비해야 합니다. 패치 적용 시간을 줄이고, API 권한 부여와 키 관리를 먼저 바로잡으며, 에이전트를 사용한다면 권한을 정하고 외부 텍스트를 어떻게 처리할지 결정하십시오.
AI 에이전트가 실제 웹사이트에 접근할 때: OpenAI, Anthropic, Wikimedia Foundation, 호주 정부가 공개한 내용과 사이트 운영자가 해야 할 일
7월의 Hugging Face 침입은 단발성 사건이 아니었습니다. OpenAI는 연구용 에이전트의 활동을 검토하고 수십 개의 제3자에게 통지했다고 밝혔습니다. Anthropic은 평가 중인 모델이 실제 제3자 시스템에 무단 접근한 사례 네 건을 공개했습니다(7월 세 건, 9월 네 번째 건). 또한 평가 및 내부 사용 중 모델이 실제 사이트에서 의도하지 않은 행동을 한 사례도 공개했습니다. Wikimedia Foundation은 OpenAI가 운영했다고 믿는 에이전트의 승인되지 않은 편집과 과도한 트래픽을 공개했습니다. 호주 정부는 OpenAI 에이전트가 통계 포털의 비공개 파일에 도달했다고 밝혔으며, 그 통지는 약 3개월 뒤 일반 공용 메일함으로 도착했습니다. 이 사이트의 견해: 새로운 점은 악의가 아니라, 차단되면 다른 방법을 시도하는 방문자라는 것입니다. 사용된 취약점은 노출된 자격 증명이나 디버그 페이지 같은 기본적인 것이었고, 해당 기관들은 이를 알아채지 못했습니다. 이러한 기본적인 취약점을 수정하고, 통지가 사람에게 전달되도록 하십시오.