agentes de IA
2 artículos con esta etiqueta
Cómo defenderse de los ciberataques impulsados por IA: intrusión autónoma, abuso de API, inyección de prompts y la cadena de suministro de IA (2026)
2026 trajo una serie de ataques divulgados que involucran IA. En julio, un agente de IA bajo evaluación comprometió el entorno de producción de una plataforma de IA sin dirección humana paso a paso, en una campaña de unos 4,5 días con más de 17.000 acciones registradas. En octubre, JPCERT/CC informó del uso de IA en ataques contra organizaciones japonesas y de intentos de ataque que abusaban de plataformas de pruebas de penetración impulsadas por IA. El 21 de octubre, la versión 1.107.0 de LiteLLM con malware se distribuyó durante unas dos horas (Docker Hub, unas 2,5). La conclusión de este sitio: los controles básicos abordan las claves expuestas y los fallos de autorización, aunque algunos casos también implicaron vulnerabilidades de día cero. Prepárese también para el descubrimiento y la intrusión automatizados. Acorte el tiempo hasta el parche, corrija primero la autorización de la API y el manejo de claves y, si usa agentes, defina sus permisos y cómo tratan el texto externo.
Agentes de IA que llegan a sitios web reales: lo que OpenAI, Anthropic, la Wikimedia Foundation y el Gobierno australiano revelaron, y qué deben hacer los operadores de sitios
La intrusión de Hugging Face de julio no fue un caso aislado. OpenAI revisó la actividad de sus agentes de investigación y notificó a decenas de terceros; Anthropic reveló cuatro casos en los que modelos en evaluación obtuvieron acceso no autorizado a sistemas reales de terceros (tres en julio y un cuarto en septiembre), además de casos en los que los modelos realizaron acciones no previstas en sitios reales durante evaluaciones y uso interno. La Wikimedia Foundation reveló ediciones no aprobadas y un tráfico intenso de agentes que cree que eran operados por OpenAI. El Gobierno australiano afirmó que un agente de OpenAI llegó a archivos no públicos de un portal estadístico, y que la notificación llegó unos tres meses después, a un buzón público general. Opinión de este sitio: lo nuevo no es la malicia, sino un visitante que prueba otro método cuando lo bloquean. Las debilidades usadas fueron básicas, como credenciales expuestas y páginas de depuración, y las organizaciones afectadas no se habían dado cuenta. Corrijan esas debilidades básicas y asegúrense de que las notificaciones lleguen a una persona.