Glosario
¿Qué es la shadow AI (IA en la sombra)? Los riesgos del uso de IA que tu empresa no ve, y qué deben hacer organizaciones y personas
La shadow AI es el uso de herramientas de IA en el trabajo sin aprobación ni control de la organización. Sus riesgos (datos confidenciales en la IA, extensiones, OAuth al correo) y cómo gestionarla sin prohibir.
La shadow AI (IA en la sombra) son herramientas de IA que se usan para el trabajo sin que la empresa lo sepa. Aquí explicamos qué sale mal y qué deben hacer las organizaciones y las personas.
Significado: la forma IA de la shadow IT
Shadow IT significa que los empleados usan para el trabajo servicios en la nube o dispositivos que la empresa no ha aprobado. La shadow AI es la parte que tiene que ver con herramientas de IA. Rara vez es malintencionada. Empieza por motivos como "quiero redactar el acta de la reunión más rápido" o "quiero arreglar este fallo más rápido", usando la herramienta cómoda que se tiene a mano.
La shadow AI actual va más allá de pegar texto en un chatbot. Las extensiones del navegador leen la página que tienes abierta, y los agentes de IA se conectan a cuentas de trabajo para leer el correo y los archivos y actuar sobre ellos.
Chatbots
pegar texto o archivos en una cuenta personal
Asistentes de programación
enviar código fuente interno y archivos de configuración
IA para actas de reuniones
grabar el audio o la pantalla de reuniones en un servicio externo
Extensiones de navegador con IA
pueden leer las páginas de trabajo que tienes abiertas
Autorizaciones OAuth
permitir que una herramienta de IA lea el correo o las unidades
Agentes de IA con claves de API
operar sistemas de negocio en tu nombre
Por qué ocurre
En la mayoría de los casos los motivos son la comodidad y que la empresa no ofrece alternativa. No hay herramienta aprobada, la aprobación tarda demasiado o las reglas son tan vagas que nadie sabe qué está prohibido. En esa situación, la gente resuelve el trabajo rápido con cuentas personales.
En mayo de 2023 se informó de que Samsung Electronics había restringido el uso interno de la IA generativa tras descubrir que empleados habían subido código fuente interno y contenido de reuniones a ChatGPT (según Bloomberg, Fortune y otros). Según esas informaciones, a la empresa le preocupaba que los datos enviados a servicios externos fueran difíciles de recuperar y borrar, y dijo que crearía sus propias herramientas internas de traducción y resumen. Se cita a menudo como ejemplo de datos introducidos por el deseo de trabajar con más eficiencia.
Qué sale mal
1. Introducir datos confidenciales o personales
El caso más habitual es pegar datos de clientes o documentos internos en una IA. Cómo se trata ese contenido depende de si es un plan de consumo o de empresa, y de los ajustes. Resumiendo la documentación oficial de los proveedores a octubre de 2026:
| Proveedor | Planes de consumo | Planes de empresa y API |
|---|---|---|
| OpenAI | Puede usarse para entrenamiento; se puede desactivar en los ajustes | No se usa para entrenamiento por defecto |
| Anthropic | El usuario elige si permite el entrenamiento (actualización de condiciones de 2025) | Fuera de esa actualización (cubierto por las condiciones comerciales) |
| Google (Gemini) | Con "Keep Activity" (conservar la actividad) activado, puede usarse para entrenamiento y revisión humana | Las cuentas de trabajo tienen otras condiciones de tratamiento de datos |
Esta tabla solo da lo esencial. Los plazos de conservación, la conservación para vigilar abusos y el tratamiento de los comentarios que envías varían según el proveedor, y las condiciones cambian. Revisa siempre las páginas de ayuda oficiales y la política de privacidad antes de adoptar una herramienta.
En su aviso del 2 de junio de 2023, la Comisión de Protección de la Información Personal de Japón señaló que, si una empresa introduce en un servicio de IA generativa instrucciones (prompts) que contienen datos personales sin el consentimiento de la persona, y esos datos se tratan para fines distintos de generar la respuesta, la empresa puede infringir la Ley de Protección de la Información Personal. Por eso pide a las empresas que introduzcan ese tipo de prompts que confirmen con cuidado que el proveedor no usará los datos para aprendizaje automático. Otras jurisdicciones tienen sus propias normas, como el RGPD en la UE.
2. Autorizaciones OAuth y claves de API
Cuando alguien pulsa "Iniciar sesión con Google" o "Conectar tu cuenta de Microsoft" y permite que una herramienta de IA lea el correo o las unidades, la herramienta puede seguir leyendo datos de la empresa sin la contraseña del empleado. Aunque el empleado se vaya, el acceso sigue hasta que se revoca la autorización. Dar a un agente de IA una clave de API de un sistema de negocio funciona igual: si la clave se filtra, todo lo que esa clave puede hacer se puede usar desde fuera (→ lo básico de los archivos .env y las claves de API).
3. Extensiones de navegador con IA
Muchas extensiones de IA que resumen páginas o pulen textos piden permiso para leer el contenido de la página que tienes abierta. Eso incluye pantallas de sistemas de negocio, de gestión de clientes y portales internos. Además, las extensiones pueden cambiar de manos tras su publicación, o cambiar de comportamiento con una actualización.
4. Errores en la salida, derechos y registros
La salida de la IA contiene errores. Si un contenido incorrecto llega tal cual a un cliente, o un código con licencia poco clara entra en un producto, la responsabilidad es de la organización que lo usó. Y cuando los intercambios de trabajo están en cuentas personales, quedan fuera de la conservación de registros para auditorías y litigios (legal hold), y la empresa no puede explicar lo que pasó.
Cómo evitar fugas de datos a través de la IA generativa
Las fugas de datos a través de la IA generativa suelen ocurrir porque los datos introducidos, o los accesos concedidos, acaban fuera del control de la empresa. Esto es lo que pueden hacer las organizaciones y las personas, vía por vía.
| Cómo se filtran los datos | Qué hace la organización | Qué hacen las personas |
|---|---|---|
| El proveedor almacena el contenido introducido y lo usa para entrenamiento | Aprobar una herramienta con condiciones de empresa que no entrenen con las entradas | No llevar datos de trabajo a cuentas personales; desactivar el entrenamiento en el uso personal |
| Se toma el control de una cuenta personal y se lee el historial de chats | Que la gente inicie sesión con cuentas de la empresa (SSO) y autenticación multifactor | Activar la autenticación multifactor y borrar el historial que ya no necesites |
| Un enlace compartido de un chat hace visible una conversación fuera de la empresa | Incluir la compartición en la regla de IA y comprobar si la consola de administración puede restringirla | Antes de crear un enlace, comprobar que el chat no contiene nada confidencial |
| Autorizaciones OAuth o extensiones siguen leyendo datos de la empresa | Revisar las apps autorizadas y las extensiones, y limitarlas con una lista de permitidas | Leer los permisos de la pantalla de consentimiento antes de aceptarlos |
| Datos de otras personas o errores de la salida salen tal cual | Establecer un paso en el que una persona revise la salida antes de que salga de la empresa | Comprobar los hechos y los datos personales de la salida antes de usarla |
Qué han dicho los organismos públicos
- En su aviso del 2 de junio de 2023, la Comisión de Protección de la Información Personal de Japón advirtió a los usuarios en general de que los datos personales que introducen pueden usarse para aprendizaje automático y volver a aparecer de forma inexacta. Les pide leer las condiciones y la política de privacidad del proveedor y decidir en consecuencia qué introducir.
- El mismo aviso pide a las empresas que introduzcan prompts con datos personales que confirmen que está dentro del fin de uso declarado, y que comprueben con cuidado que el proveedor no usará los datos para aprendizaje automático.
- En las "10 principales amenazas a la seguridad de la información 2026" (publicadas el 29 de enero de 2026), la IPA de Japón (Agencia de Promoción de las Tecnologías de la Información) situó los "riesgos cibernéticos del uso de la IA" en tercer lugar para las organizaciones, en su primera aparición. Las fugas de datos involuntarias causadas por un mal conocimiento de la IA forman parte de ello.
Qué revisar en un plan de empresa
La documentación oficial de los proveedores, consultada el 6 de octubre de 2026, indica que las entradas de los planes de empresa no se usan para entrenamiento por defecto.
- OpenAI: los datos de ChatGPT Business, Enterprise y Edu, y de la API, no se usan para entrenar modelos por defecto
- Anthropic: las entradas y salidas de productos comerciales como Claude for Work y la API no se usan para entrenamiento por defecto (las excepciones incluyen los comentarios o informes de errores que envía el usuario)
- Google: en Gemini para Google Workspace, los prompts se tratan como datos del cliente y no se usan para entrenar modelos de IA generativa sin permiso o instrucción previos del cliente
Antes de firmar, revisa algo más que el entrenamiento: los plazos de conservación y el borrado, si los administradores pueden ver el uso y si admite SSO.
La visión de este sitio: un plan de empresa también necesita una regla de datos
"No se usa para entrenamiento" no significa "no se almacena". Incluso en los planes de empresa, el tiempo que el proveedor conserva las conversaciones depende del contrato y de los ajustes, y pueden conservarse durante un periodo para vigilar abusos. Y las obligaciones legales, como comprobar el fin de uso de los datos personales, siguen ahí sea cual sea el contrato. Por eso pensamos que un contrato de empresa y una regla de datos solo funcionan cuando tienes ambos.
Para organizaciones: hacerla visible
Las Directrices de IA para Empresas de Japón, publicadas por el Ministerio de Asuntos Internos y Comunicaciones y el Ministerio de Economía, Comercio e Industria (última versión: 1.2, 31 de marzo de 2026), tratan a las empresas que usan IA en el trabajo como "usuarios empresariales de IA" y piden una gestión proporcional al riesgo. Un primer paso práctico frente a la shadow AI es trabajar en este orden.
Ofrece una herramienta de IA aprobada
Elige un contrato de empresa que no use las entradas para entrenamiento, y comprueba si puedes controlar la conservación y si los administradores pueden revisar el historial. Publica la lista de herramientas que se pueden usar. Ofrecer primero una alternativa es la condición previa para todas las demás medidas.
Fija una regla breve sobre qué datos pueden introducirse
Siguiendo tu clasificación de datos, decide algo que quepa en una página, como "información pública: sí; documentos internos: solo herramientas aprobadas; datos personales de clientes, contraseñas, claves de API y datos financieros no publicados: nunca". Una tabla breve que se pueda consultar en caso de duda se cumple más que una política larga.
Conéctala con SSO y controles de administración
Haz que la gente inicie sesión en la herramienta aprobada con cuentas de la empresa (SSO) para poder cortar el acceso cuando alguien se vaya. Elige un plan cuya consola de administración permita revisar el uso y los ajustes de conservación de datos (→ el mínimo de seguridad de una organización).
Revisa las autorizaciones OAuth y las extensiones
En la consola de administración de Google Workspace o Microsoft 365, revisa con regularidad las apps de terceros que han autorizado los empleados y revoca las que no necesites. Si es posible, permite conexiones solo a apps aprobadas por un administrador. En los dispositivos gestionados, limita también las extensiones del navegador con una lista de permitidas.
Detección y un canal para preguntar antes
Los productos de DLP (prevención de pérdida de datos) y CASB (visibilidad del acceso a la nube), así como los registros de proxy y DNS, pueden mostrar el tráfico hacia servicios de IA y las subidas grandes. El objetivo no es castigar, sino saber qué herramientas se usan para que puedan ser candidatas a aprobación. Acompáñalo de un canal donde se pueda preguntar rápido "¿puedo usar esta herramienta?" y de una formación breve.
Solo prohibir
Prohibir la IA del todo sin alternativa tiende a empujar el uso al móvil y a las cuentas personales. La empresa no ve el uso y, cuando algo sale mal, a menudo no puede saber qué se envió.
Herramienta aprobada más una regla
Hay disponible, con cuentas de trabajo, una herramienta con condiciones que no entrenan con las entradas, y está definido qué se puede introducir. El uso es visible en la consola de administración, y el acceso termina con la cuenta cuando alguien se va.
La visión de este sitio: empieza por averiguar qué se usa de verdad
Creemos que el trabajo contra la shadow AI es más eficaz cuando empieza por averiguar qué herramientas de IA se usan realmente, no con un aviso de prohibición. Un vistazo a la lista de autorizaciones OAuth y a la de extensiones suele revelar herramientas que nadie esperaba. En lugar de prohibir de inmediato lo que encuentres, plantéate si puede pasar a un contrato de empresa o sustituirse por otra herramienta aprobada. Cuando la gente sabe que "si pregunto, puedo usarla", desaparece el motivo para ocultarla.
Para las personas
Aunque tu empresa aún no tenga regla de IA, evita esto
No pegues nombres, datos de contacto u otros datos personales de clientes, contraseñas, claves de API, ni contratos o documentos financieros no publicados en una IA con una cuenta personal. Si introduces una clave de API por error, no te limites a borrarla: revoca la clave y emite una nueva (→ por qué las credenciales filtradas deben revocarse, no solo borrarse).
- Si tu empresa tiene una herramienta de IA aprobada, úsala
- En tus cuentas personales de IA, revisa el ajuste que impide entrenar con tu contenido y los ajustes del historial
- En las pantallas de consentimiento del tipo "Conectar con Google", lee los permisos solicitados (leer el correo, acceso a toda la unidad, etc.) antes de aceptarlos
- Cuidado con los correos y las páginas de inicio de sesión falsas que se hacen pasar por herramientas de IA (→ qué es el phishing)
Sigue leyendo
- Aprende: seguridad para la era de la IA: una lista de prioridades (lo básico que hay que asegurar antes de usar herramientas de IA)
- Guía: agentes de IA que llegan a sitios web reales (cómo plantearse dar acceso a agentes de IA)
- Aprende: qué es realmente peligroso de los .env y las claves de API (cómo tratar las claves que das a las herramientas de IA)
- Guía: el mínimo de seguridad de una organización (prioridades para la gestión de cuentas y las revisiones)
- Glosario: qué es el phishing (defenderse de páginas de inicio de sesión falsas que se hacen pasar por servicios de IA)
Fuentes
- Comisión de Protección de la Información Personal (Japón), aviso sobre el uso de servicios de IA generativa (2 de junio de 2023): ppc.go.jp
- Comisión de Protección de la Información Personal (Japón), aviso sobre el uso de servicios de IA generativa, anexo 1 (2 de junio de 2023, en japonés): ppc.go.jp (PDF)
- Ministerio de Asuntos Internos y Comunicaciones (Japón), Directrices de IA para Empresas (versión 1.2, 31 de marzo de 2026): soumu.go.jp
- IPA, "10 principales amenazas a la seguridad de la información 2026" (29 de enero de 2026, en japonés): ipa.go.jp
- OpenAI Help Center, "How your data is used to improve model performance": help.openai.com
- OpenAI, "Business data privacy, security, and compliance" (consultado el 6 de octubre de 2026): openai.com
- Anthropic, "Updates to Consumer Terms and Privacy Policy" (28 de agosto de 2025): anthropic.com
- Anthropic Privacy Center, "Is my data used for model training?" (productos comerciales, consultado el 6 de octubre de 2026): privacy.claude.com
- Google, Gemini Apps Privacy Hub: support.google.com
- Google, "Generative AI in Google Workspace Privacy Hub" (consultado el 6 de octubre de 2026): knowledge.workspace.google.com
- Bloomberg, "Samsung Bans Staff's AI Use After Spotting ChatGPT Data Leak" (2 de mayo de 2023): bloomberg.com
- Fortune, "Samsung bans employee use of ChatGPT after data leak" (2 de mayo de 2023): fortune.com
FAQ
Q¿Qué diferencia hay entre la shadow AI y la shadow IT?
Shadow IT es el término general para el uso por parte de los empleados de servicios en la nube o dispositivos que la empresa no ha aprobado. La shadow AI es la parte que corresponde a las herramientas de IA. La diferencia es que la IA se suele usar pegando texto o archivos y pidiendo ayuda, así que es fácil introducir datos confidenciales y personales, y cada vez más herramientas piden autorizaciones OAuth o claves de API que les permiten leer el correo y las unidades.
Q¿Se usa para entrenamiento lo que escribo en ChatGPT y herramientas similares?
Depende del servicio y de los ajustes. A octubre de 2026, la documentación oficial de los proveedores indica que los planes de consumo pueden usar el contenido para entrenamiento según tus ajustes, mientras que los planes de empresa y las API no entrenan con él por defecto. Los plazos de conservación y las excepciones varían según el proveedor, y las condiciones cambian, así que revisa las páginas de ayuda oficiales y la política de privacidad del proveedor antes de usarlo.
Q¿Es seguro prohibir por completo la IA generativa en el trabajo?
Una prohibición por sí sola no es garantía. Si la prohíbes sin ofrecer una alternativa, la gente puede usar el móvil o las cuentas personales, y la empresa pierde la visibilidad. Recomendamos ofrecer una herramienta aprobada con condiciones que no entrenen con las entradas, junto con una regla sobre qué datos pueden introducirse y un canal para preguntar.
Q¿Qué debo vigilar como persona?
Lo básico: no pegues datos personales de clientes, contraseñas o claves de API, ni documentos internos no publicados, en herramientas de IA que tu empresa no haya aprobado. Si hay una herramienta aprobada, úsala, y si tienes dudas, pregunta a TI. En tus cuentas personales de IA, revisa el ajuste que impide entrenar con tu contenido y los ajustes del historial.
Q¿Hay casos reales de fugas de datos a través de la IA generativa?
El más citado es el de Samsung Electronics, publicado en mayo de 2023. Tras subir empleados código fuente interno y contenido de reuniones a ChatGPT, se informó de que la empresa restringió el uso interno de la IA generativa (Bloomberg, Fortune y otros). No fue un ataque externo: los datos salieron del control de la empresa porque la gente los introdujo para trabajar más rápido. Lo mismo puede pasar con grabaciones de reuniones enviadas a una IA de actas o con datos de clientes pegados en cuentas personales.
Q¿Puede filtrarse la información que escribo en ChatGPT?
Lo que introduces se envía a los servidores de OpenAI y se almacena allí, y en los planes de consumo puede usarse para entrenamiento según tus ajustes. La documentación oficial de OpenAI indica que los planes de empresa (ChatGPT Business, Enterprise y Edu) y la API no entrenan con ello por defecto. Más allá del entrenamiento, los chats también pueden verse por la toma de control de la cuenta o por un enlace compartido publicado. Sea cual sea el plan, no introduzcas datos personales de clientes, contraseñas ni claves de API salvo que la regla de tu empresa lo permita.
Q¿Qué debe cubrir la política de IA generativa de una empresa?
Como mínimo, cinco cosas: la lista de herramientas que se pueden usar; qué se puede y qué no se puede introducir (datos personales de clientes, contraseñas, claves de API, datos financieros no publicados, etc.); una revisión antes de que la salida salga de la empresa; cómo solicitar conexiones OAuth o extensiones; y a quién preguntar en caso de duda. Que quepa en una página, y revísala cuando cambien vuestras herramientas o las condiciones de los proveedores.