Глоссарий
Что такое теневой ИИ (shadow AI)? Риски использования ИИ, которое не видит компания, и что делать организациям и сотрудникам
Теневой ИИ — использование сотрудниками ИИ-инструментов для работы без одобрения и контроля организации. Риски (конфиденциальные и персональные данные во вводе, ИИ-расширения браузера, OAuth-доступ к почте и дискам) и как управлять им через одобренные инструменты и правило о данных вместо запрета.
Теневой ИИ — это ИИ-инструменты, которыми пользуются для работы без ведома компании. Разберём, что может пойти не так и что делать организациям и сотрудникам.
Значение: ИИ-разновидность теневых ИТ
Теневые ИТ — это использование сотрудниками для работы облачных сервисов или устройств, которые компания не одобрила. Теневой ИИ — та их часть, что касается ИИ-инструментов. Злого умысла здесь почти никогда нет. Всё начинается с причин вроде «хочу быстрее оформить протокол встречи» или «хочу быстрее исправить эту ошибку» и с того удобного инструмента, что оказался под рукой.
Сегодняшний теневой ИИ — это не только вставка текста в чат-бот. Расширения браузера читают открытую страницу, а ИИ-агенты подключаются к рабочим аккаунтам, чтобы читать почту и файлы и действовать с ними.
Чат-боты
вставка текста или файлов в личный аккаунт
Помощники для кода
отправка внутреннего исходного кода и файлов конфигурации
ИИ для протоколов встреч
запись звука или экрана встречи во внешнем сервисе
ИИ-расширения браузера
могут читать открытые рабочие страницы
OAuth-разрешения
разрешить ИИ-инструменту читать почту или диски
ИИ-агенты с API-ключами
работают с бизнес-системами от вашего имени
Почему это происходит
В большинстве случаев причины — удобство и то, что компания не предлагает альтернативы. Одобренного инструмента нет, согласование занимает слишком много времени или правила настолько расплывчаты, что никто не знает, что запрещено. В такой ситуации люди быстро делают работу через личные аккаунты.
В мае 2023 года сообщалось, что Samsung Electronics ограничила внутреннее использование генеративного ИИ, обнаружив, что сотрудники загрузили в ChatGPT внутренний исходный код и содержание совещаний (сообщали Bloomberg, Fortune и другие). Согласно этим сообщениям, компанию беспокоило, что данные, отправленные во внешние сервисы, трудно вернуть и удалить, и она заявила, что создаст собственные внутренние инструменты для перевода и обобщения текстов. Этот случай широко приводят как пример того, как данные вводят из желания работать эффективнее.
Что может пойти не так
1. Ввод конфиденциальных или персональных данных
Самый частый случай — вставка данных клиентов или внутренних документов в ИИ. Как обращаются с этим содержимым, зависит от того, тариф для частных лиц это или бизнес-тариф, и от настроек. Кратко по официальной документации провайдеров на октябрь 2026 года:
| Провайдер | Тарифы для частных лиц | Бизнес-тарифы и API |
|---|---|---|
| OpenAI | Может использоваться для обучения; можно отключить в настройках | По умолчанию для обучения не используется |
| Anthropic | Пользователь сам выбирает, разрешать ли обучение (обновление условий 2025 года) | Не затронуты этим обновлением (действуют коммерческие условия) |
| Google (Gemini) | При включённом «Keep Activity» (сохранение действий) может использоваться для обучения и проверки людьми | Для рабочих аккаунтов действуют другие условия обработки данных |
Таблица передаёт только главное. Сроки хранения, хранение для мониторинга злоупотреблений и обработка отправленных вами отзывов у провайдеров различаются, а условия меняются. Перед внедрением инструмента всегда проверяйте официальные страницы справки и политику конфиденциальности.
В предупреждении от 2 июня 2023 года Комиссия по защите персональной информации Японии отметила: если компания без согласия человека вводит в сервис генеративного ИИ запросы с его персональными данными и эти данные обрабатываются не только для формирования ответа, компания может нарушить японский Закон о защите персональной информации. Поэтому компании, которые всё же вводят такие запросы, должны тщательно убедиться, что провайдер не будет использовать данные для машинного обучения. В других юрисдикциях действуют свои правила, например GDPR в ЕС.
2. OAuth-разрешения и API-ключи
Когда кто-то нажимает «Войти через Google» или «Подключить аккаунт Microsoft» и разрешает ИИ-инструменту читать почту или диски, инструмент может продолжать читать рабочие данные без пароля сотрудника. Даже после увольнения сотрудника доступ сохраняется, пока разрешение не отозвано. Передача ИИ-агенту API-ключа к бизнес-системе работает так же: если ключ утечёт, всё, что этот ключ позволяет, станет доступно извне (→ основы файлов .env и API-ключей).
3. ИИ-расширения браузера
Многие ИИ-расширения, которые пересказывают страницы или улучшают тексты, запрашивают разрешение читать содержимое открытой страницы. Это касается и экранов бизнес-систем, систем управления клиентами и внутренних порталов. К тому же расширения могут сменить владельца после выпуска или изменить поведение с обновлением.
4. Ошибки в ответах, права и записи
В ответах ИИ бывают ошибки. Если неверное содержимое уходит прямо клиенту или код с неясной лицензией попадает в продукт, ответственность несёт организация, которая его использовала. А когда рабочая переписка остаётся в личных аккаунтах, она выпадает из сохранения записей для аудита и судебных разбирательств (legal hold), и компания не может объяснить, что произошло.
Как предотвратить утечки данных через генеративный ИИ
Утечки данных через генеративный ИИ обычно происходят потому, что введённые данные или выданный доступ оказываются вне контроля компании. Вот что могут сделать организации и сотрудники для каждого пути утечки.
| Как утекают данные | Что делает организация | Что делают сотрудники |
|---|---|---|
| Введённое содержимое хранится у провайдера и используется для обучения | Одобрить инструмент на бизнес-условиях без обучения на вводе | Не вводить рабочие данные в личные аккаунты; в личном использовании отключить обучение |
| Личный аккаунт захвачен, и история чатов прочитана | Входить через корпоративные аккаунты (SSO) с многофакторной аутентификацией | Включить многофакторную аутентификацию и удалять ненужную историю |
| Ссылка на общий чат делает разговор видимым за пределами компании | Включить общий доступ в правило по ИИ и проверить, можно ли ограничить его в админ-консоли | Перед созданием ссылки проверить, что в чате нет ничего конфиденциального |
| OAuth-разрешения или расширения продолжают читать рабочие данные | Проверять авторизованные приложения и расширения и ограничивать их списком разрешённых | Перед разрешением читать запрашиваемые права на экране согласия |
| Чужие данные или ошибки в ответе уходят как есть | Ввести этап, на котором человек проверяет результат перед отправкой за пределы компании | Проверять факты и персональные данные в ответе перед использованием |
Что говорили госорганы
- В предупреждении от 2 июня 2023 года Комиссия по защите персональной информации Японии предупредила обычных пользователей, что введённые ими персональные данные могут использоваться для машинного обучения и затем появиться в ответах в неточном виде. Она просит читать условия и политику конфиденциальности провайдера и исходя из этого решать, что вводить.
- То же предупреждение просит компании, которые вводят запросы с персональными данными, убедиться, что это укладывается в заявленную цель использования, и тщательно проверить, что провайдер не будет использовать данные для машинного обучения.
- В «10 главных угрозах информационной безопасности 2026» (опубликованы 29 января 2026 года) японское IPA (Агентство по развитию информационных технологий) впервые включило в список для организаций «киберриски, связанные с использованием ИИ», поставив их на третье место. Сюда входят и непреднамеренные утечки данных из-за плохого понимания ИИ.
Что проверить в бизнес-тарифе
Официальная документация провайдеров, проверенная 6 октября 2026 года, говорит, что ввод на бизнес-тарифах по умолчанию для обучения не используется.
- OpenAI: данные из ChatGPT Business, Enterprise и Edu, а также из API по умолчанию не используются для обучения моделей
- Anthropic: ввод и вывод коммерческих продуктов, таких как Claude for Work и API, по умолчанию не используются для обучения (исключения — отзывы или сообщения об ошибках, которые отправляет пользователь)
- Google: в Gemini for Google Workspace запросы считаются данными клиента и не используются для обучения моделей генеративного ИИ без предварительного разрешения или указания клиента
Перед подписанием проверьте не только обучение: сроки хранения и удаление, видят ли администраторы использование и поддерживается ли SSO.
Взгляд этого сайта: бизнес-тарифу всё равно нужно правило о данных
«Не используется для обучения» не значит «не хранится». Даже на бизнес-тарифах срок хранения разговоров у провайдера зависит от договора и настроек, и их могут хранить какое-то время для мониторинга злоупотреблений. А юридические обязанности, такие как проверка цели использования персональных данных, остаются при любом договоре. Поэтому мы считаем, что бизнес-договор и правило о данных работают только вместе.
Для организаций: вывести на свет
Японские Руководящие принципы ИИ для бизнеса, опубликованные Министерством внутренних дел и коммуникаций и Министерством экономики, торговли и промышленности (последняя версия — 1.2 от 31 марта 2026 года), относят компании, использующие ИИ в работе, к «пользователям ИИ в бизнесе» и требуют управления, соразмерного риску. Практичный первый шаг в работе с теневым ИИ — действовать в таком порядке.
Предоставьте одобренный ИИ-инструмент
Выберите бизнес-договор, при котором ввод не используется для обучения, и проверьте, можно ли управлять хранением и могут ли администраторы просматривать историю. Опубликуйте список инструментов, которыми можно пользоваться. Сначала предоставить альтернативу — предварительное условие для всех остальных мер.
Задайте короткое правило о том, какие данные можно вводить
Исходя из вашей классификации данных, определите то, что уместится на одной странице, например: «публичная информация — можно; внутренние документы — только в одобренных инструментах; персональные данные клиентов, пароли, API-ключи и неопубликованная финансовая информация — никогда». Короткой таблице, с которой можно свериться при сомнениях, следуют охотнее, чем длинной политике.
Подключите SSO и админ-контроль
Пусть в одобренный инструмент входят через корпоративные аккаунты (SSO), чтобы доступ можно было отключить при увольнении. Выберите тариф, в админ-консоли которого можно проверять использование и настройки хранения данных (→ минимум безопасности для организации).
Проверяйте OAuth-разрешения и расширения
В админ-консоли Google Workspace или Microsoft 365 регулярно проверяйте сторонние приложения, которые авторизовали сотрудники, и отзывайте ненужные. Где возможно, разрешайте подключение только к приложениям, одобренным администратором. На управляемых устройствах ограничивайте и расширения браузера списком разрешённых.
Обнаружение и канал для вопросов
Продукты DLP (предотвращение утечек данных) и CASB (видимость доступа к облакам), а также журналы прокси и DNS могут показать трафик к ИИ-сервисам и крупные загрузки. Цель — не наказание, а понимание того, какие инструменты используются, чтобы они могли стать кандидатами на одобрение. Дополните это каналом, где можно быстро спросить «можно ли мне пользоваться этим инструментом?», и коротким обучением.
Только запрет
Полный запрет ИИ без альтернативы обычно переносит использование на личные телефоны и личные аккаунты. Компания этого не видит, а когда что-то случается, часто не может сказать, что было отправлено.
Одобренный инструмент плюс правило
Инструмент на условиях без обучения на вводе доступен через рабочие аккаунты, и определено, что можно вводить. Использование видно в админ-консоли, а при увольнении доступ прекращается вместе с аккаунтом.
Взгляд этого сайта: начните с выяснения, что реально используется
Мы считаем, что работа с теневым ИИ эффективнее, если начинать с выяснения того, какие ИИ-инструменты реально используются, а не с уведомления о запрете. Один взгляд на список OAuth-разрешений и список расширений часто обнаруживает инструменты, о которых никто не подозревал. Вместо того чтобы сразу запрещать найденное, подумайте, можно ли перевести его на бизнес-договор или заменить другим одобренным инструментом. Когда люди знают, что «если спросить, можно будет пользоваться», причина скрывать исчезает.
Для сотрудников
Даже если в вашей компании ещё нет правила по ИИ, избегайте этого
Не вставляйте в ИИ на личном аккаунте имена, контакты и другие персональные данные клиентов, пароли, API-ключи, неопубликованные договоры и финансовые документы. Если вы по ошибке ввели API-ключ, не ограничивайтесь его удалением: отзовите ключ и выпустите новый (→ почему утёкшие учётные данные нужно отзывать, а не удалять, на английском).
- Если в компании есть одобренный ИИ-инструмент, пользуйтесь им
- В личных ИИ-аккаунтах проверьте настройку, отключающую обучение на вашем содержимом, и настройки истории
- На экранах согласия вроде «Подключить через Google» прочитайте запрашиваемые права (чтение почты, доступ ко всему диску и т. д.), прежде чем разрешать
- Остерегайтесь писем и поддельных страниц входа, выдающих себя за ИИ-инструменты (→ что такое фишинг)
Читать дальше
- Статья: безопасность в эпоху ИИ: чек-лист приоритетов (основы, которые стоит закрыть до использования ИИ-инструментов)
- Руководство: ИИ-агенты, которые действуют на реальных сайтах (на английском; как подходить к выдаче доступа ИИ-агентам)
- Статья: что на самом деле опасно в .env и API-ключах (обращение с ключами, которые вы даёте ИИ-инструментам)
- Руководство: минимум безопасности для организации (приоритеты управления аккаунтами и проверок)
- Глоссарий: что такое фишинг (защита от поддельных страниц входа под видом ИИ-сервисов)
Источники
- Комиссия по защите персональной информации Японии, предупреждение об использовании сервисов генеративного ИИ (2 июня 2023 года): ppc.go.jp
- Комиссия по защите персональной информации Японии, предупреждение об использовании сервисов генеративного ИИ, приложение 1 (2 июня 2023 года, на японском): ppc.go.jp (PDF)
- Министерство внутренних дел и коммуникаций Японии, Руководящие принципы ИИ для бизнеса (версия 1.2, 31 марта 2026 года): soumu.go.jp
- IPA, «10 главных угроз информационной безопасности 2026» (29 января 2026 года, на японском): ipa.go.jp
- OpenAI Help Center, «How your data is used to improve model performance»: help.openai.com
- OpenAI, «Business data privacy, security, and compliance» (проверено 6 октября 2026 года): openai.com
- Anthropic, «Updates to Consumer Terms and Privacy Policy» (28 августа 2025 года): anthropic.com
- Anthropic Privacy Center, «Is my data used for model training?» (коммерческие продукты, проверено 6 октября 2026 года): privacy.claude.com
- Google, Gemini Apps Privacy Hub: support.google.com
- Google, «Generative AI in Google Workspace Privacy Hub» (проверено 6 октября 2026 года): knowledge.workspace.google.com
- Bloomberg, «Samsung Bans Staff's AI Use After Spotting ChatGPT Data Leak» (2 мая 2023 года): bloomberg.com
- Fortune, «Samsung bans employee use of ChatGPT after data leak» (2 мая 2023 года): fortune.com
FAQ
QЧем теневой ИИ отличается от теневых ИТ?
Теневые ИТ — общий термин для облачных сервисов или устройств, которыми сотрудники пользуются без одобрения компании. Теневой ИИ — та их часть, что касается ИИ-инструментов. Отличие в том, что ИИ обычно используют, вставляя текст или файлы и прося помощи, поэтому конфиденциальные и персональные данные легко попадают во ввод, а всё больше инструментов запрашивают OAuth-разрешения или API-ключи, позволяющие читать почту и диски.
QИспользуется ли то, что я ввожу в ChatGPT и подобные инструменты, для обучения?
Зависит от сервиса и настроек. По официальной документации провайдеров на октябрь 2026 года, на тарифах для частных лиц содержимое может использоваться для обучения в зависимости от настроек, а бизнес-тарифы и API по умолчанию на нём не обучаются. Сроки хранения и исключения у провайдеров разные, а условия меняются, поэтому перед использованием проверьте официальные страницы справки и политику конфиденциальности провайдера.
QБезопасно ли полностью запретить генеративный ИИ на работе?
Один только запрет ничего не гарантирует. Если запретить, не предложив альтернативы, люди могут начать пользоваться личными телефонами или личными аккаунтами, и компания перестанет это видеть. Мы рекомендуем предоставить одобренный инструмент на условиях без обучения на вводе вместе с правилом о том, какие данные можно вводить, и каналом для вопросов.
QНа что обратить внимание обычному сотруднику?
Основное: не вставляйте персональные данные клиентов, пароли или API-ключи и неопубликованные внутренние документы в ИИ-инструменты, которые ваша компания не одобрила. Если есть одобренный инструмент, пользуйтесь им, а если сомневаетесь — спросите ИТ-отдел. В личных ИИ-аккаунтах проверьте настройку, отключающую обучение на вашем содержимом, и настройки истории.
QЕсть ли реальные примеры утечек данных через генеративный ИИ?
Чаще всего приводят случай Samsung Electronics, о котором сообщалось в мае 2023 года. После того как сотрудники загрузили в ChatGPT внутренний исходный код и содержание совещаний, компания, по сообщениям, ограничила внутреннее использование генеративного ИИ (Bloomberg, Fortune и другие). Это не была внешняя атака: данные вышли из-под контроля компании, потому что люди ввели их, чтобы работать быстрее. То же может случиться с записями встреч, отправленными в ИИ для протоколов, или с данными клиентов, вставленными в личные аккаунты.
QМожет ли утечь информация, которую я ввожу в ChatGPT?
Введённое отправляется на серверы OpenAI и хранится там, а на тарифах для частных лиц может использоваться для обучения в зависимости от настроек. Официальная документация OpenAI говорит, что бизнес-тарифы (ChatGPT Business, Enterprise и Edu) и API по умолчанию на нём не обучаются. Помимо обучения, чаты могут стать видны через захват аккаунта или опубликованную ссылку для общего доступа. На любом тарифе не вводите персональные данные клиентов, пароли или API-ключи, если правило вашей компании этого не разрешает.
QЧто должна охватывать политика компании по генеративному ИИ?
Как минимум пять вещей: список инструментов, которыми можно пользоваться; что можно и что нельзя вводить (персональные данные клиентов, пароли, API-ключи, неопубликованная финансовая информация и т. д.); проверка результата перед тем, как он уйдёт за пределы компании; как запросить OAuth-подключение или расширение; к кому обращаться при сомнениях. Уложитесь в одну страницу и пересматривайте её, когда меняются ваши инструменты или условия провайдеров.