ИИ
3 статей с этим тегом
Агентство по делам детей и семей Японии пока не будет использовать систему проверки судимости «Komamorou»: найдено много серьёзных уязвимостей. Что проверить школам, детским садам и организаторам продлённого дня (это не утечка данных)
18 ноября 2026 года Агентство по делам детей и семей Японии объявило, что «система Komamorou», разработанная для того, чтобы организации и сотрудники могли проверять прошлые судимости за сексуальные преступления (проверка судимости) в рамках закона о предотвращении сексуального насилия над детьми, который должен вступить в силу 25 декабря, пока не будет использоваться. После того как 26 октября премьер-министр поручил заранее провести проверку уязвимостей с помощью высокопроизводительного ИИ, оценка уязвимостей системы выявила много серьёзных уязвимостей, и, по словам агентства, устранить их до даты вступления в силу стало трудно. Министр извинился перед заинтересованными сторонами и поручил срочно рассмотреть альтернативные процедуры без использования системы. Агентство планирует свести альтернативы примерно к началу декабря. Речь об уязвимостях системы, которая ещё не была введена в эксплуатацию; агентство не сообщало об утечке персональных данных. Мнение этого сайта: затронутым организациям стоит прекратить подготовку в расчёте на систему, дождаться альтернатив, которые обещаны в начале декабря, и следить за официальной страницей агентства.
В LiteLLM 1.107.0 оказался похититель учётных данных (октябрь 2026): затронутый релиз PyPI и образы Docker, что делать пользователям
21 октября 2026 года (UTC) BerriAI, компания-разработчик LiteLLM, сообщила, что её конвейер выпуска релизов был скомпрометирован и что был опубликован v1.107.0 с вредоносным ПО, которое похищает учётные данные и загружает инструменты удалённого выполнения кода. Затронуты litellm==1.107.0 на PyPI (с 11:39 до 13:23 UTC) и теги v1.107.0, latest, main-latest и main-stable на Docker Hub (с 11:46 до 14:20 UTC) и GHCR (с 11:46 UTC до снятия к 13:51 UTC, около двух часов). Официальный исходный тег v1.107.0 на GitHub не содержит вредоносных файлов; артефакты были собраны из похожего репозитория, контролируемого злоумышленником. Все более ранние версии вне этой компрометации, компания просит закрепить версию 1.106.2 или другую явную более раннюю версию. 24 октября (UTC) компания опубликовала 1.103.8, 1.104.6, 1.105.4 и 1.106.3; начиная с этих релизов образы Docker и Helm-чарты подписываются новым ключом cosign (прежний ключ их больше не проверяет). 23 октября компания опубликовала анализ первопричины и исправила своё первоначальное предположение о том, что токены были взяты из логов внутреннего развёртывания LiteLLM. Согласно анализу, файл конфигурации, ошибочно закоммиченный в публичный репозиторий 27 мая, содержал мастер-ключ внутренней платформы агентов; коммит перезаписали, но ключ не отозвали. 10 октября злоумышленник использовал этот ключ для вызова API платформы и получил токен GitHub CLI владельца организации GitHub, настроенный там. С его помощью злоумышленник вывел секреты CI и получил токены ещё двух мейнтейнеров, а 21 октября отключил защиту веток, изменил рабочий процесс выпуска и одобрил релиз. Вывод этого сайта: пересоберите любую среду, где 1.107.0 был установлен или запущен в течение окна, и замените все ключи, до которых она могла дотянуться, включая ключи провайдеров LLM, мастер-ключ прокси, пароль базы данных и облачные роли.
Что такое теневой ИИ (shadow AI)? Риски использования ИИ, которое не видит компания, и что делать организациям и сотрудникам
Теневой ИИ — это использование сотрудниками для работы ИИ-инструментов, которые компания не одобрила или не контролирует (чат-боты, ИИ-расширения браузера, помощники для кода, ИИ для протоколов встреч, ИИ-агенты, подключённые к рабочим аккаунтам). Это ИИ-разновидность теневых ИТ. Главные риски: введённые конфиденциальные или персональные данные могут храниться у провайдера и, в зависимости от тарифа и настроек, использоваться для обучения (условия для частных лиц и для бизнеса различаются); OAuth-разрешения и API-ключи дают сторонним инструментам доступ к почте и дискам; ошибки в ответах и проблемы с лицензиями; обязательства по законам о персональных данных и аудиту. Один только запрет уводит использование из поля зрения, поэтому предоставьте одобренный инструмент на бизнес-условиях без обучения на вводе, короткое правило о том, какие данные можно вводить, SSO и админ-контроль, регулярную проверку OAuth-разрешений и расширений и канал, куда можно сначала спросить.