Biblioteca de Danos em IA | Data Privacy Brasil

Objetivo:

Reunir, sistematizar e tornar acessíveis evidências concretas de danos causados por sistemas de inteligência artificial (IA), com o objetivo de qualificar o debate público e ampliar a discussão sobre danos causados por usos de sistemas de inteligência artificial no Brasil, ampliando esforços nacionais e internacionais de regulação e defesa de direitos.

Essa é uma iniciativa do projeto IA com Direitos.

Objetivos específicos:

Sistematizar evidências danosas com uso de IA que afetam os campos sociais, econômicos, ambientais e políticos;

Oferecer um repositório acessível e visualmente atrativo para sociedade civil e principalmente os deputados federais.

Destacar como os danos se conectam com categorias já previstas ou debatidas na legislação brasileira (como transparência, direitos fundamentais, auditoria algorítmica, responsabilidade e direitos autorais).

Justificativa:

Os impactos da IA deixaram de ser hipótese e se tornaram parte do cotidiano digital, principalmente os impactos negativos. Casos de discriminação algorítmica, violações de privacidade, desinformação automatizada, impactos ambientais e concentração de poder das plataformas estão amplamente documentadas - com efeitos particularmente graves em contextos de maior vulnerabilidade. Diante desse cenário, a Biblioteca de Danos em IA traz um acervo compacto qualificado de casos reais e verificáveis de danos causados por sistemas de IA. Mais do que um repositório, a iniciativa busca oferecer uma ferramenta visual e acessível que sirva de base para os debates do PL 2338 na Câmara dos Deputados para uma construção de um marco regulatório mais justo e inclusivo.

Metodologia:

A Biblioteca de Danos em IA reúne casos concretos de impactos negativos causados por sistemas de inteligência artificial. O dano é definido como efeito adverso, documentado e verificável, que neste caso o dano em IA afete direitos fundamentais, trabalho, meio ambiente, democracia, segurança pública, crianças e adolescentes ou direitos autorais. A definição é importante porque demonstra que os riscos da IA já se materializam hoje, deixando de ser hipóteses futuras e tornando-se problemas reais que exigem respostas regulatórias. O objetivo é mostrar esses impactos e oferecer evidências para subsidiar o debate do PL 2338/2023.

A coleta de dados ocorreu entre junho de 2024 e fevereiro de 2026 [contínua] e usou apenas fontes públicas. Foram consideradas reportagens jornalísticas e investigações de veículos como A Pública, Intercept, Piauí, G1, Folha, DW e MIT Tech Review, além da leitura de documentos oficiais como relatórios, pareceres e ações judiciais, além de estudos acadêmicos, pesquisas de campo e testemunhos divulgados em veículos confiáveis. A busca foi orientada por palavras-chave como discriminação algorítmica, privacidade de dados, desinformação automatizada, impacto ambiental, direitos autorais e modelos generativos, transparência e auditoria algorítmica, responsabilidade em sistemas de alto risco.

Na curadoria e seleção, apenas foram incluídos casos públicos, verificáveis e bem documentados. O material foi revisado para garantir diversidade temática e representatividade. Cada caso foi sistematizado em uma base de dados padronizada, contendo título, descrição, link público para a fonte, imagem ilustrativa e referência cruzada aos artigos ou dispositivos relevantes do PL 2338/2023.

Para fins analíticos e de sistematização, os casos foram organizados em quatro tipologias principais de dano, que buscam refletir a pluralidade de impactos provocados por sistemas de IA:

Danos Democráticos: Envolvem ameaças à integridade do debate público, à transparência institucional e à confiança nas instituições democráticas, incluindo desinformação automatizada, manipulação de opinião pública e uso opaco de algoritmos por governos ou plataformas.

Danos Psicológicos e Sociais: Incluem impactos subjetivos e coletivos, como vigilância excessiva, exposição a conteúdos nocivos, erosão do bem-estar psicológico, efeitos de exclusão social ou discriminação reforçada por sistemas automatizados.

Danos Socioambientais e Econômicos: Referem-se aos impactos da IA sobre o meio ambiente (como consumo energético e descarte eletrônico), precarização das relações de trabalho, violação de direitos autorais e exploração de dados sem consentimento.

Danos aos Direitos Fundamentais: Casos que afetam diretamente direitos como privacidade, não discriminação, devido processo legal, em contextos como segurança pública, justiça, saúde, educação, crianças e adolescentes e acesso a serviços.

A base é continuamente validada e atualizada para manter relevância política e social. Esse processo garante que a Biblioteca acompanhe as discussões legislativas em curso. Todo o trabalho é baseado exclusivamente em dados públicos, o que assegura transparência, possibilidade de verificação independente e legitimidade da iniciativa como instrumento de intervenção e qualificação do debate público sobre IA no Brasil.

Access English version

Lista Interativa