Um levantamento identificou 83 tentativas de manipular ferramentas de IA em processos judiciais, com casos em tribunais estaduais, no STJ e no STF. O episódio expõe uma nova classe de risco: a injeção de instruções ocultas em documentos. Para empresas, o alerta é direto — qualquer pipeline que leia textos de terceiros com modelos generativos está exposto.
Introdução contextual
A adoção acelerada de modelos generativos em fluxos documentais transformou a forma como organizações leem, resumem e classificam informação. O ganho de produtividade é real, mas trouxe junto uma superfície de ataque que ainda é subestimada por boa parte do mercado: o conteúdo que o modelo consome não é neutro. Textos produzidos por terceiros podem carregar instruções destinadas não a leitores humanos, mas à própria inteligência artificial que os processa.
É nesse contexto que surge a notícia publicada pelo G1, segundo a qual um levantamento identificou 83 casos de tentativas de manipulação de ferramentas de IA em processos judiciais, com detecção em tribunais estaduais, no Superior Tribunal de Justiça (STJ) e no Supremo Tribunal Federal (STF). O episódio merece atenção executiva porque não descreve uma falha exótica de laboratório, e sim um comportamento observável em documentos reais que circulam por sistemas institucionais.
O que aconteceu
De acordo com a reportagem, petições e peças processuais passaram a conter mensagens ocultas — trechos não visíveis na leitura convencional, mas presentes no arquivo e, portanto, capturáveis por ferramentas que fazem extração de texto. Essas mensagens tentam direcionar o comportamento de sistemas de IA usados para apoio à análise, triagem ou resumo de documentos. O levantamento aponta 83 ocorrências, distribuídas entre tribunais estaduais e as duas cortes superiores citadas.
O mecanismo é conhecido tecnicamente como prompt injection indireta: em vez de o usuário digitar uma instrução maliciosa, o comando é embutido em um conteúdo que o modelo será convidado a processar. Pode estar em texto com cor semelhante ao fundo, em fonte de tamanho mínimo, em metadados, em comentários de arquivo ou em trechos que só aparecem na conversão para texto puro. Do ponto de vista do modelo, a fronteira entre “dado” e “instrução” é frágil — e é exatamente essa fragilidade que o ataque explora.
Vale sublinhar o que a notícia não afirma: não há indicação, no material divulgado, de que decisões tenham sido efetivamente alteradas por esse mecanismo. O que existe é a detecção de tentativas. Essa distinção é importante para calibrar a resposta: o risco é concreto e verificável, mas a resposta deve ser proporcional e baseada em evidências, não em alarmismo.
Por que isso importa para empresas
O setor jurídico foi o primeiro a tornar o fenômeno visível porque concentra três condições ideais para o ataque: volume altíssimo de documentos externos, uso crescente de IA para triagem e resumo, e incentivo econômico para influenciar o resultado de uma análise. Mas o padrão se replica em qualquer indústria.
- Licitações e propostas comerciais: empresas já usam modelos para comparar editais, propostas de fornecedores e contratos. Um documento de terceiro pode conter instruções para que a ferramenta classifique um concorrente como inelegível ou ignore cláusulas de risco.
- Due diligence e M&A: data rooms recebem milhares de arquivos de origem externa. Um comando oculto pode induzir o resumo automatizado a omitir passivos relevantes.
- Atendimento e análise de reclamações: textos de clientes, tickets e e-mails alimentam classificadores. Instruções embutidas podem distorcer priorização, sentimento ou encaminhamento.
- Compliance e investigações internas: relatórios, denúncias e evidências coletadas externamente entram em pipelines de IA. A integridade da cadeia probatória passa a depender da robustez do modelo.
Há ainda uma dimensão reputacional e regulatória. Quando uma decisão assistida por IA se mostra enviesada, a pergunta que se impõe não é apenas técnica, mas de governança: quem validou aquele resultado, com qual trilha de auditoria e sob quais controles? A ausência de resposta defensável é, por si só, um passivo.
Impacto para cibersegurança, governança, IA ou continuidade
Cibersegurança
A injeção de prompt indireta amplia o perímetro de confiança para além da infraestrutura. Não basta proteger servidores e credenciais: é preciso tratar documentos de terceiros como entrada não confiável, com o mesmo rigor aplicado a anexos de e-mail suspeitos. Controles como sanitização de texto extraído, detecção de caracteres invisíveis e isolamento de contexto entre documento e instrução de sistema passam a integrar o catálogo de defesas.
Governança de IA
O caso reforça a necessidade de inventário de casos de uso, classificação de risco por criticidade da decisão e definição clara de quais processos podem ou não ter automação generativa no caminho. Políticas de uso precisam cobrir não só o que os colaboradores digitam, mas o que os sistemas ingerem.
Continuidade operacional
Um modelo manipulado pode gerar decisões erradas em escala e em velocidade, o que é mais difícil de conter do que uma falha pontual. A resposta exige kill switch, revisão humana obrigatória em pontos de decisão sensíveis e capacidade de reprocessar lotes contaminados.
Jurídico e probatório
Em ambientes regulados, a rastreabilidade se torna central. Registrar qual versão do documento foi processada, qual modelo foi usado e qual foi a saída produzida é o mínimo para sustentar a integridade de qualquer conclusão assistida por IA.
Leitura executiva da WSVP
Nossa avaliação é que o episódio marca a transição da injeção de prompt de curiosidade técnica para risco operacional documentado. Três conclusões se destacam.
Primeira: o vetor não é o modelo, é o documento. Organizações que investem apenas em seleção de fornecedor de IA e negligenciam a higienização de entradas permanecem expostas. A defesa precisa estar no pipeline, não na vitrine.
Segunda: a detecção de 83 tentativas sugere que o comportamento já é sistemático o suficiente para ser medido. Isso indica adoção deliberada por atores que compreendem como ferramentas de IA processam texto — um sinal de maturidade ofensiva que deve orientar o planejamento de risco.
Terceira: a resposta eficaz é organizacional, não apenas tecnológica. Envolve política, treinamento, arquitetura de sistemas e desenho de controles de revisão humana. Empresas que tratarem o tema como projeto isolado de segurança da informação tendem a falhar na segunda onda.
A pergunta deixou de ser “nosso modelo é bom?” e passou a ser “o que entra no nosso modelo e quem garante que esse conteúdo é confiável?”.
Recomendações práticas
- Mapeie os pontos de ingestão. Identifique todos os fluxos em que documentos de terceiros alimentam modelos generativos, com owner definido e criticidade classificada.
- Trate texto extraído como não confiável. Aplique sanitização, remova caracteres invisíveis e normalize formatos antes de enviar conteúdo ao modelo.
- Separe instrução de dado. Use arquiteturas que isolem o conteúdo do documento do prompt de sistema e restrinjam a capacidade do modelo de seguir comandos oriundos do texto.
- Exija revisão humana proporcional ao risco. Decisões com efeito jurídico, financeiro ou regulatório não devem ser concluídas sem validação por pessoa accountable.
- Instrumente auditoria. Registre documento, versão, modelo, prompt e saída, com retenção compatível com obrigações legais e regulatórias.
- Teste adversarialmente. Inclua casos de injeção indireta nos ciclos de avaliação de modelos e nos testes de aceitação de sistemas.
- Capacite as equipes. Jurídico, compras, compliance e atendimento precisam reconhecer o padrão e saber escalar suspeitas.
- Defina plano de contenção. Estabeleça critérios objetivos para suspender automações, reprocessar lotes e comunicar partes afetadas.
Fontes consultadas
- G1 — Mensagens ocultas em petições tentam direcionar decisões com IA
- Superior Tribunal de Justiça (STJ)
- Supremo Tribunal Federal (STF)
- OWASP Foundation — referências sobre riscos em aplicações e LLMs
Disclaimer
Este rascunho foi produzido com apoio de inteligência artificial e ainda requer revisão humana antes da publicação.


