Sistemas de inteligência artificial já participam de decisões, serviços e ambientes que afetam a vida cotidiana. Seus efeitos aparecem no acesso a oportunidades, na circulação de informações e no exercício de direitos. A Biblioteca de Danos em IA, iniciativa da Data Privacy Brasil, reúne casos documentados para tornar esse debate mais concreto: o que aconteceu, quem foi afetado, quais evidências estão disponíveis e até onde elas permitem chegar.
Parte da discussão pública sobre inteligência artificial ainda se organiza em torno de riscos futuros. Perguntamos o que pode acontecer se um sistema reproduzir discriminações, produzir informações falsas, interferir em processos democráticos ou tomar decisões sem transparência. Essas perguntas são necessárias para antecipar problemas e orientar medidas de prevenção. Mas elas não dão conta, sozinhas, de uma realidade em que efeitos adversos já podem ser observados.
Quando uma pessoa perde uma oportunidade por causa de uma decisão automatizada, quando conteúdos sintéticos são utilizados para assediar ou expor alguém, ou quando um erro afeta de maneira desigual determinado grupo, o debate muda de nível. Já não basta descrever uma possibilidade. É preciso reconstruir o caso, identificar as pessoas ou os processos atingidos e compreender qual foi a participação do sistema ou do uso de inteligência artificial naquele resultado.
Essa passagem do risco abstrato ao dano concreto parece simples, mas exige cuidado. Um risco descreve a possibilidade de que algo aconteça. Um dano pressupõe um efeito adverso observado, pessoas, grupos, instituições ou processos afetados e evidências que permitam relacionar o resultado ao sistema ou ao uso de IA. Entre uma situação e outra, há casos que levantam indícios relevantes, mas ainda dependem de apuração ou de fontes adicionais.
Fazer essa distinção evita dois problemas. O primeiro é tratar qualquer preocupação sobre inteligência artificial como se fosse um dano comprovado. O segundo é descartar situações importantes apenas porque as informações públicas ainda são incompletas. Ausência de evidência suficiente não significa inexistência de dano. Significa que, naquele momento, o que pode ser afirmado precisa ser delimitado com precisão.
A documentação cumpre esse papel. Ela reúne fontes públicas, descreve o efeito adverso, identifica quem foi afetado e registra as lacunas que permanecem abertas. Reportagens, decisões judiciais, documentos de autoridades públicas e pesquisas acadêmicas podem oferecer partes diferentes de um mesmo caso. Cruzar essas fontes ajuda a separar fatos confirmados, alegações que ainda exigem verificação e inferências que não podem ser sustentadas pelo material disponível.
Documentar também é uma forma de tornar visíveis as relações de poder envolvidas. Empresas e instituições que desenvolvem ou utilizam sistemas de IA costumam conhecer melhor seu funcionamento, seus dados e seus critérios de decisão. As pessoas afetadas podem perceber a consequência sem saber como ela foi produzida, a quem pedir explicações ou quais registros existem. Essa desigualdade de acesso à informação dificulta a contestação de decisões e a responsabilização por seus efeitos.
As próprias fontes públicas têm limites. Nem todo dano chega à imprensa, ao Judiciário, às autoridades ou à pesquisa acadêmica. Pessoas e territórios com menos acesso a esses espaços podem aparecer pouco nos registros disponíveis, ainda que enfrentem consequências graves. Por isso, um repositório baseado em documentação aberta não representa todos os danos existentes. Ele oferece um mapa dos casos que podem ser verificados a partir das evidências encontradas e torna suas ausências parte da análise.
Foi para organizar esse conhecimento que a Data Privacy Brasil criou a Biblioteca de Danos em IA, no âmbito do projeto IA com Direitos. A iniciativa reúne casos em quatro tipologias: Danos Democráticos, Danos Psicológicos e Sociais, Danos Socioambientais e Econômicos e Danos aos Direitos Fundamentais. As categorias permitem comparar episódios distintos e identificar padrões sem apagar a complexidade de cada situação.
Um mesmo caso pode atravessar mais de uma tipologia. Uma aplicação de IA pode, por exemplo, afetar um direito individual e produzir consequências econômicas ou coletivas. Escolher uma categoria principal é uma decisão analítica baseada nas evidências disponíveis, e não uma definição imutável. Novas fontes podem alterar a descrição do caso, revelar outros grupos afetados ou exigir a revisão de sua classificação.
Esse método ajuda a construir um debate público menos dependente de promessas sobre o futuro e de afirmações genéricas sobre inovação. Casos documentados mostram onde os efeitos aparecem, quais grupos suportam seus custos e que respostas foram oferecidas. Também permitem perguntar se os mecanismos de prevenção funcionaram, se havia formas de contestar a decisão e quem tinha condições de interromper ou reparar o dano.
A sistematização dos casos produz conhecimento de interesse público. Pesquisadores podem identificar recorrências e lacunas. Jornalistas encontram fontes e antecedentes para novas apurações. Organizações da sociedade civil podem sustentar ações de defesa de direitos. Parlamentares, autoridades reguladoras e instituições públicas podem recorrer às evidências para definir prioridades de prevenção, fiscalização e responsabilização.
Esse uso exige prudência. A relação entre um sistema de IA e um efeito adverso nem sempre é linear, e uma única fonte pode não ser suficiente para explicá-la. A qualidade da documentação depende da capacidade de distinguir correlação, causalidade e contexto; reconhecer incertezas; e evitar conclusões maiores do que as evidências permitem. Registrar uma dúvida de forma transparente é mais útil do que preenchê-la com uma suposição.
A oficina sobre a Biblioteca de Danos em IA parte desse contexto. Sua pergunta central também interessa a quem pesquisa, regula, desenvolve, utiliza ou é afetado por essas tecnologias: como transformar episódios dispersos em evidências capazes de apoiar prevenção, fiscalização, contestação e defesa de direitos? A resposta começa pela descrição rigorosa do que já aconteceu e pela disposição de reconhecer tanto o alcance quanto os limites do que sabemos.
A atividade integra a quinta edição da Data Privacy Global Conference (DPGC), que acontece nos dias 7 e 8 de dezembro de 2026, no campus Álvaro Alvim da ESPM, em São Paulo. Organizada pela Data Privacy Brasil desde 2022, a conferência reúne representantes do poder público, do setor privado, da academia e da sociedade civil para discutir governança de dados, regulação de tecnologias e seus efeitos sobre direitos fundamentais.
Conheça a Biblioteca de Danos em IA e saiba mais sobre a iniciativa da Data Privacy Brasil.
