Em maio de 2026, duas advogadas foram multadas em R$84 mil pelo TRT-8 por manipularem a IA “Galileu” do Tribunal. Usando a técnica de prompt injection, elas ocultaram comandos em letras brancas na petição para que o sistema fizesse uma análise superficial. Esse episódio expõe a fragilidade de ausência de políticas de uso dessa tecnologias e dos controles adequados a seu funcionamento Vamos entender melhor essa controvérsia?

1. ALÉM DOS DOCUMENTOS: POR QUE POLÍTICAS DE IA NÃO GARANTEM SEGURANÇA SOZINHAS? 

A rápida corrida corporativa pela adoção de IA generativa avançou muito mais rápido do que a capacidade das organizações de supervisioná-la. Diante da pressão por uma postura institucional, muitas empresas optaram pelo caminho exclusivamente documental.Essa camada estratégica estabelece as “regras do jogo”, mas pode atuar apenas no plano da intenção.  Nesse contexto, a governança é tratada como um fim em si mesmo e não como um processo dinâmico. 

O problema é que esses documentos regulam a intenção de uso, não o comportamento efetivo do modelo. Por exemplo, uma política pode proibir que colaboradores insiram dados confidenciais em ferramentas de IA generativa, mas, se o acesso à ferramenta não tiver nenhuma trava técnica (como bloqueio de upload de determinados tipos de arquivo), a proibição pode não ser efetiva. Em outras palavras, o modelo continua aceitando qualquer entrada, já que ele não é guiado pelo manual de conduta da empresa. Ele apenas lê parâmetros de configuração, lista de permissões, regras de sistemas e camadas de moderação. 

Essa desconexão entre a norma escrita e o controle técnico é que o se chama de lacuna de implementação (implementation gap), onde o descompasso entre o avanço tecnológico e os métodos de gestão de risco pode ser catastrófico. Operar ferramentas de IA sem mecanismos técnicos de controle gera custos que vão além do financeiro, atingindo esferas reputacionais e estruturais de organizações. Como o comportamento de modelos generativos não é inteiramente previsível, a governança deve evoluir de documentos estáticos para um ecossistema contínuo, onde a tecnologia funcione conforme a regra escolhida . A segurança só emerge da convergência entre diretrizes e  políticas e a configuração adequada das ferramentas.

2. A GOVERNANÇA DE IA NA PRÁTICA: DO PLANO ESTRATÉGICO À CONFIGURAÇÃO TÉCNICA

A governança adequada exige que as “regras do jogo” definidas no nível estratégico (políticas e diretrizes) sejam traduzidas em controles operacionais no nível tecnológico (configurações de ferramentas). Ou seja, não basta um manual de conduta, é necessário um ecossistema multidisciplinar onde jurídico, segurança da informação e ciência de dados colaborem para monitorar o ciclo de vida completo de tecnologias de IA. Essa convergência garante que a tecnologia opere sob limites éticos e legais, transformando documentos em processos auditáveis, rastreáveis e contínuos.

Uma partedessa prática está na gestão técnica de ativos de informação que alimentam a inteligência artificial. Alguns exemplos essenciais para estruturar essa arquitetura incluem: 

• Classificação de Dados: rotular informações de acordo com sua sensibilidade e valor, permitindo a aplicação de políticas de proteção e controles de acesso diferenciados.

• Mapeamento e Linhagem (Data Lineage): rastrear o fluxo, a origem e as transformações dos dados para identificar vulnerabilidades e garantir que a “matéria-prima” seja íntegra e lícita. 

• Controles de Acesso Baseados em Funções (RBAC): garantir que apenas perfis autorizados (como desenvolvedores específicos ou analistas de riscos) acessem subconjuntos de dados sensíveis, mitigando riscos de vazamento.

• Utilização de Privacy Enhancing Technologies (PETs): aplicar o Privacy by Design através de técnicas como criptografia homomórfica ou dados sintéticos, permitindo o processamento de informações sem expor dados subjacentes.
• Validação Contínua em Tempo Real: estabelecer mecanismos de monitoramento constante para rastrear comportamentos imprevistos, alucinações ou desvios de valores (value drift) durante interações dinâmicas de GenAI.

Na camada de operação e segurança, a governança se materializa em travas sistêmicas para mitigar riscos. Isso envolve a adoção de Model Cards, que documentam de forma padronizada as capacidades, limitações e vieses dos modelos para usuários e auditores. Além disso, é indispensável realizar testes de prompt injection e implementar filtros de conteúdo para bloquear manipulações maliciosas e saídas inadequadas. Por fim, a supervisão humana (human-in-the-loop) em decisões de alto impacto assegura que a autonomia do sistema não elimine a responsabilidade final da organização sobre os resultados gerados.

3. O CUSTO DA NEGLIGÊNCIA: IMPACTOS FINANCEIROS, REPUTACIONAIS E ESTRUTURAIS

Operar sistemas de IA sem uma governança técnica adequada gera custos que transcendem o prejuízo imediato, atingindo a viabilidade a longo prazo da organização. Existem três categorias principais de custos, sendo eles: 

• Custos Financeiros: referem-se aos prejuízos monetários diretos, incluindo multas pesadas aplicadas por órgãos reguladores ou tribunais, custos elevados com litígios judiciais e a perda de ativos valiosos devido a fraudes ou falhas sistêmicas. Para mitigar, é necessário uma estratégia sólida de compliance e regulamentação com monitoramento contínuo da qualidade dos dados e a validação técnica dos modelos antes e durante a operação. Por exemplo, temos a multa de 84 mil reais aplicada pelo TRT-8 devido a um ataque de prompt injection que a governança puramente documental do tribunal não foi capaz de impedir técnica e preventivamente. 

• Custos Reputacionais: é o dano à imagem da instituição e a perda de confiança dos usuários e do mercado. Decisões automatizadas discriminatórias ou opacas destroem o valor da marca e podem levar a crises humanitárias e políticas. Para evitar, é preciso adotar práticas de transparência, como o uso de Model Cards) para documentar limitações e origens de dados. À título de exemplo, temos o caso do auxílio-creche  na Holanda, onde o uso de algoritmos para identificar fraudes resultou na acusação falsa de milhares de famílias a partir de seu perfil racial, gerando uma crise no governo holandês. 
• Custos Estruturais: envolve a criação de vulnerabilidades sistêmicas críticas, dívidas técnicas de alta manutenção e modelos ineficientes que operam fora do controle da organização. Manifesta-se também na perda de controle sobre o fluxo de informações e na exposição a ataques cibernéticos sofisticados. A implementação de controles de acesso baseados em funções (RBAC), mapeamento e linhagem dos dados e utilização de PETs são essenciais para a sua mitigação. Um exemplo pode ser visto no caso do vazamento de 150 GB de dados do governo mexicano. Na ocasião, um criminoso explorou o chatbot Claude para agir como um infiltrado nas redes governamentais e furtar registros de 195 milhões de contribuintes e credenciais de funcionários. 

4. MUDANÇA DE PARADIGMA: A GOVERNANÇA DE IA COMO UM ECOSSISTEMA CONTÍNUO

Os incidentes discutidos reforçam que a governança de IA não pode ser encarada como um projeto estático, mas sim como um ecossistema contínuo em que o monitoramento e a avaliação técnica evoluem junto com a tecnologia. Essa mudança de paradigma exige que a camada documental, onde se estabelecem as “regras do jogo”, e a configuração efetiva das ferramentas operem em convergência absoluta para evitar lacunas de segurança. 

Esse é justamente o debate que a Data Privacy Brasil leva à Data Privacy Global Conference (DPGC 2026): como aproximar, na prática, quem escreve a política de quem configura o sistema? E por que essa aproximação se tornou tão relevante?  Para quem quer aprofundar essa discussão, está convidado. Nos vemos na DPGC 2026!