Теневой ИИ — это ИИ-инструменты, которыми пользуются для работы без ведома компании. Разберём, что может пойти не так и что делать организациям и сотрудникам.
Значение: ИИ-разновидность теневых ИТ
Теневые ИТ — это использование сотрудниками для работы облачных сервисов или устройств, которые компания не одобрила. Теневой ИИ — та их часть, что касается ИИ-инструментов. Злого умысла здесь почти никогда нет. Всё начинается с причин вроде «хочу быстрее оформить протокол встречи» или «хочу быстрее исправить эту ошибку» и с того удобного инструмента, что оказался под рукой.
Сегодняшний теневой ИИ — это не только вставка текста в чат-бот. Расширения браузера читают открытую страницу, а ИИ-агенты подключаются к рабочим аккаунтам, чтобы читать почту и файлы и действовать с ними.
Чат-боты
вставка текста или файлов в личный аккаунт
Помощники для кода
отправка внутреннего исходного кода и файлов конфигурации
ИИ для протоколов встреч
запись звука или экрана встречи во внешнем сервисе
ИИ-расширения браузера
могут читать открытые рабочие страницы
OAuth-разрешения
разрешить ИИ-инструменту читать почту или диски
ИИ-агенты с API-ключами
работают с бизнес-системами от вашего имени
Почему это происходит
В большинстве случаев причины — удобство и то, что компания не предлагает альтернативы. Одобренного инструмента нет, согласование занимает слишком много времени или правила настолько расплывчаты, что никто не знает, что запрещено. В такой ситуации люди быстро делают работу через личные аккаунты.
В мае 2023 года сообщалось, что Samsung Electronics ограничила внутреннее использование генеративного ИИ, обнаружив, что сотрудники загрузили в ChatGPT внутренний исходный код и содержание совещаний (сообщали Bloomberg, Fortune и другие). Согласно этим сообщениям, компанию беспокоило, что данные, отправленные во внешние сервисы, трудно вернуть и удалить, и она заявила, что создаст собственные внутренние инструменты для перевода и обобщения текстов. Этот случай широко приводят как пример того, как данные вводят из желания работать эффективнее.
Что может пойти не так
1. Ввод конфиденциальных или персональных данных
Самый частый случай — вставка данных клиентов или внутренних документов в ИИ. Как обращаются с этим содержимым, зависит от того, тариф для частных лиц это или бизнес-тариф, и от настроек. Кратко по официальной документации провайдеров на октябрь 2026 года:
| Провайдер | Тарифы для частных лиц | Бизнес-тарифы и API |
|---|---|---|
| OpenAI | Может использоваться для обучения; можно отключить в настройках | По умолчанию для обучения не используется |
| Anthropic | Пользователь сам выбирает, разрешать ли обучение (обновление условий 2025 года) | Не затронуты этим обновлением (действуют коммерческие условия) |
| Google (Gemini) | При включённом «Keep Activity» (сохранение действий) может использоваться для обучения и проверки людьми | Для рабочих аккаунтов действуют другие условия обработки данных |
Таблица передаёт только главное. Сроки хранения, хранение для мониторинга злоупотреблений и обработка отправленных вами отзывов у провайдеров различаются, а условия меняются. Перед внедрением инструмента всегда проверяйте официальные страницы справки и политику конфиденциальности.
В предупреждении от 2 июня 2023 года Комиссия по защите персональной информации Японии отметила: если компания без согласия человека вводит в сервис генеративного ИИ запросы с его персональными данными и эти данные обрабатываются не только для формирования ответа, компания может нарушить японский Закон о защите персональной информации. Поэтому компании, которые всё же вводят такие запросы, должны тщательно убедиться, что провайдер не будет использовать данные для машинного обучения. В других юрисдикциях действуют свои правила, например GDPR в ЕС.
2. OAuth-разрешения и API-ключи
Когда кто-то нажимает «Войти через Google» или «Подключить аккаунт Microsoft» и разрешает ИИ-инструменту читать почту или диски, инструмент может продолжать читать рабочие данные без пароля сотрудника. Даже после увольнения сотрудника доступ сохраняется, пока разрешение не отозвано. Передача ИИ-агенту API-ключа к бизнес-системе работает так же: если ключ утечёт, всё, что этот ключ позволяет, станет доступно извне (→ основы файлов .env и API-ключей).
3. ИИ-расширения браузера
Многие ИИ-расширения, которые пересказывают страницы или улучшают тексты, запрашивают разрешение читать содержимое открытой страницы. Это касается и экранов бизнес-систем, систем управления клиентами и внутренних порталов. К тому же расширения могут сменить владельца после выпуска или изменить поведение с обновлением.
4. Ошибки в ответах, права и записи
В ответах ИИ бывают ошибки. Если неверное содержимое уходит прямо клиенту или код с неясной лицензией попадает в продукт, ответственность несёт организация, которая его использовала. А когда рабочая переписка остаётся в личных аккаунтах, она выпадает из сохранения записей для аудита и судебных разбирательств (legal hold), и компания не может объяснить, что произошло.
Как предотвратить утечки данных через генеративный ИИ
Утечки данных через генеративный ИИ обычно происходят потому, что введённые данные или выданный доступ оказываются вне контроля компании. Вот что могут сделать организации и сотрудники для каждого пути утечки.
| Как утекают данные | Что делает организация | Что делают сотрудники |
|---|---|---|
| Введённое содержимое хранится у провайдера и используется для обучения | Одобрить инструмент на бизнес-условиях без обучения на вводе | Не вводить рабочие данные в личные аккаунты; в личном использовании отключить обучение |
| Личный аккаунт захвачен, и история чатов прочитана | Входить через корпоративные аккаунты (SSO) с многофакторной аутентификацией | Включить многофакторную аутентификацию и удалять ненужную историю |
| Ссылка на общий чат делает разговор видимым за пределами компании | Включить общий доступ в правило по ИИ и проверить, можно ли ограничить его в админ-консоли | Перед созданием ссылки проверить, что в чате нет ничего конфиденциального |
| OAuth-разрешения или расширения продолжают читать рабочие данные | Проверять авторизованные приложения и расширения и ограничивать их списком разрешённых | Перед разрешением читать запрашиваемые права на экране согласия |
| Чужие данные или ошибки в ответе уходят как есть | Ввести этап, на котором человек проверяет результат перед отправкой за пределы компании | Проверять факты и персональные данные в ответе перед использованием |
Что говорили госорганы
- В предупреждении от 2 июня 2023 года Комиссия по защите персональной информации Японии предупредила обычных пользователей, что введённые ими персональные данные могут использоваться для машинного обучения и затем появиться в ответах в неточном виде. Она просит читать условия и политику конфиденциальности провайдера и исходя из этого решать, что вводить.
- То же предупреждение просит компании, которые вводят запросы с персональными данными, убедиться, что это укладывается в заявленную цель использования, и тщательно проверить, что провайдер не будет использовать данные для машинного обучения.
- В «10 главных угрозах информационной безопасности 2026» (опубликованы 29 января 2026 года) японское IPA (Агентство по развитию информационных технологий) впервые включило в список для организаций «киберриски, связанные с использованием ИИ», поставив их на третье место. Сюда входят и непреднамеренные утечки данных из-за плохого понимания ИИ.
Что проверить в бизнес-тарифе
Официальная документация провайдеров, проверенная 6 октября 2026 года, говорит, что ввод на бизнес-тарифах по умолчанию для обучения не используется.
- OpenAI: данные из ChatGPT Business, Enterprise и Edu, а также из API по умолчанию не используются для обучения моделей
- Anthropic: ввод и вывод коммерческих продуктов, таких как Claude for Work и API, по умолчанию не используются для обучения (исключения — отзывы или сообщения об ошибках, которые отправляет пользователь)
- Google: в Gemini for Google Workspace запросы считаются данными клиента и не используются для обучения моделей генеративного ИИ без предварительного разрешения или указания клиента
Перед подписанием проверьте не только обучение: сроки хранения и удаление, видят ли администраторы использование и поддерживается ли SSO.
Взгляд этого сайта: бизнес-тарифу всё равно нужно правило о данных
«Не используется для обучения» не значит «не хранится». Даже на бизнес-тарифах срок хранения разговоров у провайдера зависит от договора и настроек, и их могут хранить какое-то время для мониторинга злоупотреблений. А юридические обязанности, такие как проверка цели использования персональных данных, остаются при любом договоре. Поэтому мы считаем, что бизнес-договор и правило о данных работают только вместе.
Для организаций: вывести на свет
Японские Руководящие принципы ИИ для бизнеса, опубликованные Министерством внутренних дел и коммуникаций и Министерством экономики, торговли и промышленности (последняя версия — 1.2 от 31 марта 2026 года), относят компании, использующие ИИ в работе, к «пользователям ИИ в бизнесе» и требуют управления, соразмерного риску. Практичный первый шаг в работе с теневым ИИ — действовать в таком порядке.
Предоставьте одобренный ИИ-инструмент
Выберите бизнес-договор, при котором ввод не используется для обучения, и проверьте, можно ли управлять хранением и могут ли администраторы просматривать историю. Опубликуйте список инструментов, которыми можно пользоваться. Сначала предоставить альтернативу — предварительное условие для всех остальных мер.
Задайте короткое правило о том, какие данные можно вводить
Исходя из вашей классификации данных, определите то, что уместится на одной странице, например: «публичная информация — можно; внутренние документы — только в одобренных инструментах; персональные данные клиентов, пароли, API-ключи и неопубликованная финансовая информация — никогда». Короткой таблице, с которой можно свериться при сомнениях, следуют охотнее, чем длинной политике.
Подключите SSO и админ-контроль
Пусть в одобренный инструмент входят через корпоративные аккаунты (SSO), чтобы доступ можно было отключить при увольнении. Выберите тариф, в админ-консоли которого можно проверять использование и настройки хранения данных (→ минимум безопасности для организации).
Проверяйте OAuth-разрешения и расширения
В админ-консоли Google Workspace или Microsoft 365 регулярно проверяйте сторонние приложения, которые авторизовали сотрудники, и отзывайте ненужные. Где возможно, разрешайте подключение только к приложениям, одобренным администратором. На управляемых устройствах ограничивайте и расширения браузера списком разрешённых.
Обнаружение и канал для вопросов
Продукты DLP (предотвращение утечек данных) и CASB (видимость доступа к облакам), а также журналы прокси и DNS могут показать трафик к ИИ-сервисам и крупные загрузки. Цель — не наказание, а понимание того, какие инструменты используются, чтобы они могли стать кандидатами на одобрение. Дополните это каналом, где можно быстро спросить «можно ли мне пользоваться этим инструментом?», и коротким обучением.
Только запрет
Полный запрет ИИ без альтернативы обычно переносит использование на личные телефоны и личные аккаунты. Компания этого не видит, а когда что-то случается, часто не может сказать, что было отправлено.
Одобренный инструмент плюс правило
Инструмент на условиях без обучения на вводе доступен через рабочие аккаунты, и определено, что можно вводить. Использование видно в админ-консоли, а при увольнении доступ прекращается вместе с аккаунтом.
Взгляд этого сайта: начните с выяснения, что реально используется
Мы считаем, что работа с теневым ИИ эффективнее, если начинать с выяснения того, какие ИИ-инструменты реально используются, а не с уведомления о запрете. Один взгляд на список OAuth-разрешений и список расширений часто обнаруживает инструменты, о которых никто не подозревал. Вместо того чтобы сразу запрещать найденное, подумайте, можно ли перевести его на бизнес-договор или заменить другим одобренным инструментом. Когда люди знают, что «если спросить, можно будет пользоваться», причина скрывать исчезает.
Для сотрудников
Даже если в вашей компании ещё нет правила по ИИ, избегайте этого
Не вставляйте в ИИ на личном аккаунте имена, контакты и другие персональные данные клиентов, пароли, API-ключи, неопубликованные договоры и финансовые документы. Если вы по ошибке ввели API-ключ, не ограничивайтесь его удалением: отзовите ключ и выпустите новый (→ почему утёкшие учётные данные нужно отзывать, а не удалять).
- Если в компании есть одобренный ИИ-инструмент, пользуйтесь им
- В личных ИИ-аккаунтах проверьте настройку, отключающую обучение на вашем содержимом, и настройки истории
- На экранах согласия вроде «Подключить через Google» прочитайте запрашиваемые права (чтение почты, доступ ко всему диску и т. д.), прежде чем разрешать
- Остерегайтесь писем и поддельных страниц входа, выдающих себя за ИИ-инструменты (→ что такое фишинг)
Читать дальше
- Статья: безопасность в эпоху ИИ: чек-лист приоритетов (основы, которые стоит закрыть до использования ИИ-инструментов)
- Руководство: ИИ-агенты, которые действуют на реальных сайтах (на английском; как подходить к выдаче доступа ИИ-агентам)
- Статья: что на самом деле опасно в .env и API-ключах (обращение с ключами, которые вы даёте ИИ-инструментам)
- Руководство: минимум безопасности для организации (приоритеты управления аккаунтами и проверок)
- Глоссарий: что такое фишинг (защита от поддельных страниц входа под видом ИИ-сервисов)
Источники
- Комиссия по защите персональной информации Японии, предупреждение об использовании сервисов генеративного ИИ (2 июня 2023 года): ppc.go.jp
- Комиссия по защите персональной информации Японии, предупреждение об использовании сервисов генеративного ИИ, приложение 1 (2 июня 2023 года, на японском): ppc.go.jp (PDF)
- Министерство внутренних дел и коммуникаций Японии, Руководящие принципы ИИ для бизнеса (версия 1.2, 31 марта 2026 года): soumu.go.jp
- IPA, «10 главных угроз информационной безопасности 2026» (29 января 2026 года, на японском): ipa.go.jp
- OpenAI Help Center, «How your data is used to improve model performance»: help.openai.com
- OpenAI, «Business data privacy, security, and compliance» (проверено 6 октября 2026 года): openai.com
- Anthropic, «Updates to Consumer Terms and Privacy Policy» (28 августа 2025 года): anthropic.com
- Anthropic Privacy Center, «Is my data used for model training?» (коммерческие продукты, проверено 6 октября 2026 года): privacy.claude.com
- Google, Gemini Apps Privacy Hub: support.google.com
- Google, «Generative AI in Google Workspace Privacy Hub» (проверено 6 октября 2026 года): knowledge.workspace.google.com
- Bloomberg, «Samsung Bans Staff's AI Use After Spotting ChatGPT Data Leak» (2 мая 2023 года): bloomberg.com
- Fortune, «Samsung bans employee use of ChatGPT after data leak» (2 мая 2023 года): fortune.com