IA
3 artigos com esta tag
A Agência da Criança e da Família do Japão não vai operar por ora o sistema de verificação de antecedentes «Komamorou»: foram achadas muitas vulnerabilidades graves, e o que escolas, creches e operadores de atividades extracurriculares devem verificar (não é um vazamento de dados)
Em 18 de novembro de 2026, a Agência da Criança e da Família do Japão anunciou que o «sistema Komamorou», desenvolvido para que operadores e funcionários possam verificar antecedentes de crimes sexuais (verificação de antecedentes criminais) conforme a lei de prevenção da violência sexual contra crianças, que deve entrar em vigor em 25 de dezembro, não será operado por ora. Depois que o primeiro-ministro instruiu, em 26 de outubro, que uma verificação de vulnerabilidades com IA de alto desempenho fosse antecipada, uma avaliação de vulnerabilidades do sistema encontrou muitas vulnerabilidades graves, e a agência diz que tratá-las antes da data de vigência ficou difícil. O ministro pediu desculpas aos envolvidos e mandou os funcionários estudarem com urgência procedimentos alternativos que não usem o sistema. A agência pretende reunir as alternativas por volta do início de dezembro. Trata-se de vulnerabilidades em um sistema que ainda não havia entrado em operação; a agência não anunciou que dados pessoais tenham vazado. A visão deste site: os operadores afetados devem parar de se preparar presumindo que o sistema será usado, aguardar as alternativas previstas para o início de dezembro e consultar a página oficial da agência.
LiteLLM 1.107.0 distribuiu um ladrão de credenciais (outubro de 2026): versão afetada no PyPI e imagens Docker, e o que os usuários devem fazer
Em 21 de outubro de 2026 (UTC), a BerriAI, empresa por trás do LiteLLM, anunciou que seu pipeline de lançamento havia sido comprometido e que uma v1.107.0 contendo malware que rouba credenciais e carrega ferramentas de execução remota de código foi publicada. Foram afetados o litellm==1.107.0 no PyPI (das 11:39 às 13:23 UTC) e as tags v1.107.0, latest, main-latest e main-stable no Docker Hub (das 11:46 às 14:20 UTC) e no GHCR (a partir das 11:46 UTC até serem retiradas, no máximo às 13:51 UTC, cerca de duas horas). A tag oficial do código-fonte v1.107.0 no GitHub não contém os arquivos maliciosos; os artefatos foram construídos a partir de um repositório semelhante controlado pelo atacante. Todas as versões anteriores estão fora deste comprometimento, e a empresa pede que os usuários fixem a 1.106.2 ou outra versão anterior explícita. Em 24 de outubro (UTC) a empresa publicou as versões 1.103.8, 1.104.6, 1.105.4 e 1.106.3, e a partir dessas versões as imagens Docker e os Helm charts são assinados com uma nova chave cosign (a chave anterior não os verifica mais). Em 23 de outubro a empresa publicou uma análise de causa raiz e corrigiu sua primeira hipótese de que os tokens teriam sido obtidos dos logs de uma implantação interna do LiteLLM. Segundo a análise, um arquivo de configuração enviado por engano a um repositório público em 27 de maio continha a chave mestra de uma plataforma interna de agentes; o commit foi sobrescrito, mas a chave nunca foi revogada. Em 10 de outubro o atacante usou essa chave para chamar a API da plataforma e obteve o token do GitHub CLI de um proprietário da organização no GitHub configurado ali. Com ele, o atacante exfiltrou segredos de CI para obter os tokens de mais dois mantenedores e, em 21 de outubro, desativou a proteção de branch, alterou o workflow de lançamento e aprovou o lançamento. Conclusão deste site: reconstrua todo ambiente que instalou ou iniciou a 1.107.0 durante a janela e rotacione todas as chaves que ele podia acessar, incluindo chaves de provedores de LLM, a chave mestra do proxy, a senha do banco de dados e as funções de nuvem.
O que é shadow AI? Os riscos do uso de IA que a empresa não enxerga, e o que organizações e pessoas devem fazer
Shadow AI é o uso, no trabalho, de ferramentas de IA que a empresa não aprovou ou não gerencia (chatbots, extensões de navegador com IA, assistentes de programação, IA de atas de reunião, agentes de IA conectados a contas de trabalho). É a forma de IA da shadow IT. Os principais riscos: os dados confidenciais ou pessoais inseridos podem ser armazenados pelo provedor e, conforme o plano e as configurações, usados para treinamento (os termos para consumidores e para empresas diferem); concessões OAuth e chaves de API dão a ferramentas de terceiros acesso a e-mail e drives; erros nas respostas e problemas de licença; e obrigações de leis de privacidade e de auditoria. Só proibir empurra o uso para fora da vista, então ofereça uma ferramenta aprovada com termos empresariais que não treinam com as entradas, uma regra curta sobre quais dados podem ser inseridos, SSO e controles de administrador, revisão regular de concessões OAuth e extensões, e um canal para perguntar antes.