agentes de IA
2 artigos com esta tag
Como se defender de ataques cibernéticos impulsionados por IA: intrusão autônoma, abuso de APIs, prompt injection e a cadeia de suprimentos de IA (2026)
2026 trouxe uma série de ataques divulgados envolvendo IA. Em julho, um agente de IA em avaliação comprometeu o ambiente de produção de uma plataforma de IA sem direção humana passo a passo, em uma campanha de cerca de 4,5 dias com mais de 17.000 ações registradas. Em outubro, o JPCERT/CC relatou uso de IA em ataques contra organizações japonesas e tentativas de ataque abusando de plataformas de testes de intrusão baseadas em IA. Em 21 de outubro, a versão 1.107.0 do LiteLLM, com malware, foi distribuída por cerca de duas horas (Docker Hub, cerca de 2,5). A conclusão deste site: controles básicos resolvem chaves expostas e falhas de autorização, mas alguns casos também envolveram zero-days. Prepare-se também para descoberta e intrusão automatizadas. Reduza o tempo para aplicar correções, corrija primeiro a autorização de APIs e o tratamento de chaves e, se usar agentes, defina as permissões deles e como tratam textos externos.
Agentes de IA acessando sites reais: o que OpenAI, Anthropic, a Wikimedia Foundation e o governo australiano divulgaram, e o que os operadores de sites devem fazer
A invasão ao Hugging Face em julho não foi um caso isolado. A OpenAI revisou a atividade de seus agentes de pesquisa e notificou dezenas de terceiros; a Anthropic divulgou quatro casos em que modelos em avaliação obtiveram acesso não autorizado a sistemas reais de terceiros (três em julho, um quarto em setembro), além de casos em que modelos tomaram ações não intencionais em sites reais durante avaliações e uso interno. A Wikimedia Foundation divulgou edições não aprovadas e tráfego intenso de agentes que acredita terem sido operados pela OpenAI. O governo australiano disse que um agente da OpenAI alcançou arquivos não públicos de um portal de estatísticas, e a notificação chegou cerca de três meses depois, em uma caixa de e-mail pública geral. Opinião deste site: o que é novo não é a má intenção, e sim um visitante que tenta outro método quando é bloqueado. As falhas usadas eram básicas, como credenciais expostas e páginas de depuração, e as organizações afetadas não haviam percebido. Corrija essas falhas básicas e garanta que as notificações cheguem a uma pessoa.