A DISCRIMINAÇÃO ALGORÍTMICA COMO NOVA MANIFESTAÇÃO DO RACISMO ESTRUTURAL NO DIREITO BRASILEIRO, E OS INSTRUMENTOS JURÍDICOS DISPONÍVEIS PARA SEU ENFRENTAMENTO

REGISTRO DOI: 10.70773/revistatopicos/781409702

RESUMO
A crescente utilização de sistemas de inteligência artificial em decisões que afetam direitos fundamentais têm revelado riscos relacionados à reprodução de desigualdades históricas. Este artigo aborda a discriminação algorítmica como uma nova manifestação do racismo estrutural no Direito brasileiro, ao investigar que algorítmos sao treinados com dados historicamente marcados pela exclusão racial podem reproduzir e ampliar padrões discriminatórios. A pesquisa possui abordagem qualitativa, método bibliográfico e caráter interdisciplinar, articulando contribuições do Direito, da sociologia, da filosofia política e da ciência da informação. Primeiramente, examina-se a formação histórica do racismo no Brasil e sua permanência como estrutura social. Em seguida, são analisados os conceitos de racismo estrutural e discriminação algorítmica, bem como os limites dos mecanismos jurídicos existentes. Por fim, entende-se que a proteção efetiva contra a discriminação algorítmica exige transparência, responsabilização dos agentes envolvidos, fortalecimento da proteção de dados e regulamentação específica da inteligência artificial.
Palavras-chave: Discriminação Algorítmica; Racismo Estrutural; Inteligência Artificial; Proteção de Dados Pessoais; Igualdade Racial.

ABSTRACT
The increasing use of artificial intelligence systems in decisions affecting fundamental rights has revealed significant risks related to the reproduction of historical inequalities. This article addresses algorithmic discrimination as a new manifestation of structural racism in Brazilian law, investigating how algorithms trained on historically biased data may reproduce and intensify discriminatory patterns. The study adopts a qualitative, bibliographic, and interdisciplinary approach, drawing on contributions from law, sociology, political philosophy, and information science. First, it examines the historical formation of racism in Brazil and its persistence as a social structure. It then explores the concepts of structural racism and algorithmic discrimination, as well as the limitations of existing legal mechanisms. The study concludes that effective protection against algorithmic discrimination requires transparency, accountability of the actors involved, stronger data protection measures, and specific regulation of artificial intelligence systems.
Keywords: Structural Racism; Algorithmic Discrimination; Artificial Intelligence; Data Protection; Fundamental Rights.

1. INTRODUÇÃO

A crescente adoção de sistemas de inteligência artificial e modelos algorítmicos em áreas cruciais da vida social tem sido promovida sob o signo da objetividade, da eficiência e da precisão técnica. Criou-se uma expectativa de que as decisões automatizadas seriam profundamente superiores aos resultados humanos, por estarem supostamente imunes a emoções, interesses particulares ou preconceitos subjetivos. Porém, essa narrativa requer uma verificação rigorosa, visto que ferramentas voltadas ao processamento de dados históricos gerados por uma sociedade racialmente desigual não são neutras, tendendo a herdar, reproduzir e amplificar as assimetrias preexistentes. No contexto brasileiro, tal problemática ganha contornos graves, haja vista que o país abriga maioria populacional autodeclarada negra, historicamente submetida a um racismo estrutural manifesto em desigualdades de renda, educação, acesso ao sistema financeiro e vulnerabilidade social.

A discriminação algorítmica não emerge do isolamento técnico ou do vácuo social, pelo contrário, ela se instala precisamente sobre esse substrato histórico desigual. Quando os sistemas automatizados são treinados com bases de dados produzidas por essa realidade segregada, o resultado lógico é a perpetuação das hierarquias raciais brasileiras, configurando um processo que não pode ser resultado de mero acidente técnico, mas como consequência de uma estrutura social renovada periodicamente.

Diante desse panorama de intersecção entre o avanço tecnológico e as opressões históricas, este estudo propõe-se a responder formalmente à seguinte pergunta: em que medida a discriminação algorítmica pode ser compreendida, no Direito brasileiro, como uma nova manifestação do racismo estrutural e quais os instrumentos jurídicos podem ser mobilizados para seu enfrentamento?

Primeiramente, cumpre demonstrar a correlação conceitual entre os fenômenos da discriminação algorítmica e do racismo estrutural, o que demanda uma articulação marcadamente interdisciplinar, mobilizando o Direito, a sociologia do racismo e a ciência da informação. Em segundo lugar, impõe-se a identificar de respostas jurídicas concretas no ordenamento nacional, mapeando tanto os instrumentos regulatórios vigentes que podem ser potencializados, quanto possiveis lacunas institucionais a serem preenchidas para coibir a discriminação sistêmica.

A pesquisa adota abordagem qualitativa e método bibliográfico, com caráter interdisciplinar. A análise articula referenciais do Direito, da sociologia, da filosofia política e da ciência da informação.

O trabalho organiza-se em quatro capítulos, além desta introdução e das considerações finais. O Capítulo 2 reconstrói o histórico racial do Brasil, demonstrando que a desigualdade racial brasileira não é herança do passado em superação, mas uma estrutura que se renova em cada época por mecanismos diferentes. O Capítulo 3 conceitua o racismo estrutural e a discriminação algorítmica, examina seus mecanismos e demonstra que essa modalidade é uma manifestação alternativa de disseminá-lo, operando por linguagem matemática a mesma lógica histórica de hierarquização racial. O Capítulo 4 examina os dados pessoais como instrumentos de fomento à desigualdade, reconstruindo a trajetória jurídica brasileira da privacidade à LGPD e identificando, de forma crítica, os avanços reais e as limitações estruturais desse marco para o enfrentamento da discriminação algorítmica racial. O Capítulo 5 identifica os agentes responsáveis pela discriminação algorítmica, diagnostica as insuficiências do marco normativo atual e propõe os instrumentos jurídicos mobilizáveis para o enfrentamento.

2. HISTÓRICO RACIAL DO BRASIL

No século XVIII, com o surgimento do iluminismo, o homem passou a buscar, por meio de grandes revoluções, a liberdade, a fuga das trevas e do dogmatismo religioso. Essa busca resultou no surgimento dos direitos universais, os quais, curiosamente, não alcançariam as colônias das grandes civilizações europeias. É justamente nesse cenário que surge a categorização de seres humanos por meio de raças, estabelecendo uma evidente separação entre o europeu e suas colônias.³ Já no século XIX, com o positivismo, essa diferenciação ganha uma nova dimensão, quando o homem deixa de ser um objeto filosófico e torna-se um objeto científico. Nesse cenário, características biológicas e geográficas seriam capazes de influenciar o comportamento humano e cognitivo, tornando pessoas não brancas, e que viviam em regiões tropicais, menos capazes e mais violentas que o homem branco⁴.

A história do Brasil é profundamente marcada pela discriminação racial, uma vez que está diretamente ligada ao processo colonial nele instaurado, o que gerou uma cultura de mercantilização de pessoas.

Ao chegar à África e às Américas os europeus encontraram sociedades com suas próprias histórias e civilizações. Contudo, os colonizadores impuseram um modelo de dominação e exploração que resultou na formação de um Estado-nação eurocêntrico⁵. O comércio escravista forçou milhões de indivíduos africanos a abandonar suas casas, famílias, culturas, histórias e identidades, transformando-os em mercadorias. Foram submetidos a um processo de desumanização e obrigados a aceitar e se adaptar aos costumes de seus opressores para que pudessem sobreviver⁶. A ideia moderna de raça, concebida no iluminismo, foi fundamental neste cenário, estabelecendo o europeu como modelo de civilização e superioridade, enquanto os indígenas e negros eram vistos como selvagens inferiores que necessitavam ser evangelizados e assemelhados aos seus opressores⁷.

Os escravizados viveram séculos de abuso e maus-tratos, sendo marginalizados, silenciados e mortos. Houve uma tentativa contínua de apagar os vestígios de sua cultura e até mesmo de sua existência, sob o argumento de superioridade racial.

Com o fim da escravidão, essas pessoas foram lançadas na sociedade sem nenhuma dignidade, auxílio ou estrutura. Sem ter para onde ir ou com que trabalhar, foram amontoando-se em espaços minúsculos ao redor dos grandes centros, o que resultou em locais marginalizados sem suporte ou segurança. Essa situação contribuiu com a manutenção da exploração, forçando-as a continuar trabalhando para as mesmas pessoas que os escravizavam, em condições degradantes, dada a ausência de alternativas.

Esse violento processo de instalação de um modelo de Estado-nação eurocêntrico alicerçou o racismo nos pilares da sociedade brasileira.

O racismo, conforme Silvio Almeida, não se limita a atos individuais de preconceito ou discriminação, mas é um "processo em que as condições de subalternidade e de privilégio que se distribuem entre grupos raciais se reproduzem nos âmbitos da política, da economia e das relações cotidianas"⁸. Ele afeta os costumes e comportamentos das pessoas em todos os âmbitos possíveis, seja político, econômico, acadêmico, artístico e social. Mbembe descreve a escravidão como uma das primeiras instâncias de experimentação biopolítica⁹. Para Carlos Hasenbalg, o racismo no Brasil não é um fenômeno residual da escravidão, mas sim um mecanismo funcional ao desenvolvimento do capitalismo brasileiro, tornando-se um elemento estruturante da sociedade brasileira.¹⁰

Essa situação persistiu e evoluiu. Diferentemente do passado, a opressão não se limita mais à exclusão social, ao castigo ou à violência física. Hoje, ela se agrava, porque, em uma época onde estamos cada vez mais dependentes das tecnologias digitais, também gera a exclusão tecnológica.

3. O RACISMO ESTRUTURAL E A DISCRIMINAÇÃO ALGORÍTMICA: UMA VISÃO INTERDISCIPLINAR NO DIREITO BRASILEIRO

O tópico anterior demonstrou que a desigualdade racial não constitui uma herança meramente histórica ou um fenômeno superado, mas sim uma estrutura ativa e persistente que se renova em cada período histórico por meio de diferentes mecanismos de reprodução e manutenção das desigualdades.

Nota-se que o racismo moderno concebeu uma nova forma de violência. Por meio de um prisma contemporâneo, desenvolveu-se uma concepção sistemática que reforçou a opressão colonial na sociedade, mesmo após a abolição da escravatura.

Apesar desse cenário, no Século XX, a antropologia dedicou-se a demonstrar a autonomia das culturas e a refutar as determinações biológicas ou étnicas invocadas para justificar a hierarquização entre povos.¹¹ Como resultado, constatou-se a inexistência de superioridade de alguma raça específica. Dessa forma, evidencia-se que raça é na realidade, “um elemento político, utilizado para naturalizar a desigualdade e legitimar a segregação e o genocídio de grupos sociologicamente minoritários”.¹²

Para a compreensão plena desta seção, importa estabelecer as diferenças entre racismo, preconceito e discriminação:

I) racismo caracteriza-se como a discriminação sistemática de uma raça, manifestando-se por meio de comportamentos conscientes ou inconscientes de um indivíduo; II) preconceito, por sua vez, é o julgamento de um grupo racializado com base em estereótipos; e III) discriminação consiste no tratamento diferenciado a indivíduos que compõem algum grupo racialmente identificado.¹³

Nesse ponto é necessário compreender o racismo em duas esferas, a institucional e a estrutural. A concepção institucional vai além do indivíduo e compreende que o racismo não está apenas nas pessoas, mas nos modos de funcionamento das instituições.¹⁴ Empresas, tribunais, escolas, forças policiais e bancos geram resultados racialmente desiguais mesmo quando nenhum de seus agentes individuais alimenta preconceito declarado. Isso ocorre porque as instituições foram construídas em contextos históricos de exclusão racial e carregam, internamente, em suas regras, procedimentos e culturas organizacionais, os padrões discriminatórios desse processo de formação. A concepção estrutural situa o racismo no nível mais profundo da organização social.¹⁵ Não se trata de uma exceção ou desvio da ordem social, mas de um de seus elementos constitutivos. O racismo organiza as relações econômicas, as hierarquias políticas, a distribuição de prestígio social e o funcionamento das instituições de forma tão abrangente e naturalizada que se torna onipresente por ser invisível. Vale salientar que o alicerce da estrutura social é baseado em conflitos, assim, as instituições também absorvem estes confrontos, reproduzindo-os como preconceitos e reforçando o seu enraizamento. O racismo estrutural não é praticado de forma deliberada, ele é reproduzido, cotidianamente, pelo funcionamento normal de uma sociedade construída sobre bases de exclusão racial.

Compreendendo o panorama geral do racismo estrutural na sociedade, é necessário, também englobar o papel da discriminação.

Em primeiro plano, os algoritmos têm ganhado espaço em todas as áreas de nossa vida. Sua utilidade não depende necessariamente de um computador para ser exercida, uma vez que um algoritmo nada mais é do que uma fórmula que determina como uma atividade será executada.¹⁶ Sua função busca organizar, instituir e delimitar como uma atividade alcançará um determinado objetivo. Essa lógica pode ser aplicada a atividades simples do cotidiano. Contudo, ao ser incorporado a uma máquina, toda essa vantagem passa a ter um desempenho completamente robótico e incapaz de reproduzir a individualidade humana.

A simples existência de algoritmos não oferece perigo a ninguém. O problema surge com a inserção de informações em volumes elevados permitindo que a própria máquina identifique padrões entre os dados, os quais não foram explicitamente solicitados. Para Cathy O’Neil, os algoritmos não são apenas instrumentos neutros de processamento de informações, são opiniões embutidas em matemática.¹⁷ Já Mendes e Mattiuzzo descrevem os algoritmos baseados em aprendizado de máquinas como capazes de absorver padrões discriminatórios presentes nos dados históricos e replicá-los como "verdade objetiva".¹⁸ O sistema não discrimina, ele reproduz, com aparência de objetividade matemática, as desigualdades já existentes nos dados.

Mendes e Mattiuzzo, em sua obra, propõem a sistematização de quatro tipo de discriminação, os quais auxiliam a compreensão do cenário em que uma exclusão ou inclusão preconceituosa pode ser inserida:

Discriminação por erro estatístico – todo e qualquer erro que seja genuinamente estatístico, abrangendo desde dados incorretamente coletados, até problemas no código do algoritmo, de forma que ele falhe em contabilizar parte dos dados disponíveis, contabilize-os de forma incorreta, etc. Basicamente, é o tipo de discriminação que decorre de um erro cometido pelos engenheiros ou cientistas de dados responsáveis pelo desenho do algoritmo;

Discriminação por generalização – embora o modelo funcione bem e seja estatisticamente correto, leva a uma situação na qual algumas pessoas são equivocadamente classificadas em certos grupos. Por exemplo, se uma pessoa mora em uma vizinhança comumente associada à pobreza e o modelo não possui nenhuma outra informação além de seu endereço para decidir se ela é ou não uma boa candidata para um empréstimo, ele a classificará como pertencente a um grupo do qual ela talvez não seja parte, caso ela se apresente como um caso atípico. Isso poderia ocorrer na hipótese de essa pessoa ter uma renda superior ou inferior às pessoas de sua vizinhança, por exemplo. Desse modo, embora o algoritmo esteja correto e as informações também, ainda assim o resultado será uma generalização incorreta, na medida em que mesmo um resultado estatisticamente relevante apresentará um percentual de pessoas que não se encaixam perfeitamente naquela média. Isso se dá pela própria natureza de qualquer exercício probabilístico;

Discriminação pelo uso de informações sensíveis – a razão pela qual consideramos esta categoria como discriminatória, embora muitas vezes seja estatisticamente correta, é porque ela se baseia em dados ou proxies legalmente protegidos. É o que ocorre, por exemplo, quando um algoritmo utiliza informações sobre identificação religiosa de um indivíduo para designar seu crédito score no Brasil – a Lei do Cadastro Positivo proíbe o uso desse tipo de informação para essa finalidade. Duas características são relevantes para se considerar um perfilamento como discriminatório nesse caso: além de utilizar dados sensíveis, a classificação deve se basear em características endógenas ou, então, deve destacar grupos historicamente discriminados;

Discriminação limitadora do exercício de direitos – novamente, aqui falamos de uma categoria que pode apresentar resultados estaticamente corretos e relevantes, mas que ainda assim consideramos discriminatória. Ao contrário da categoria anterior, o problema advém não do tipo de dado utilizado, mas da relação entre a informação utilizada pelo algoritmo e a realização de um direito. Se há uma conexão estrita entre ambos e se o direito em questão é demasiadamente afetado, provável que o uso seja discriminatório. ¹⁹

Essa tipologia tem valor jurídico preciso, já que cada tipo de discriminação algorítmica implica fundamentos distintos de responsabilização e instrumentos diferentes de tutela: I) discriminação por erro estatístico aponta para a responsabilidade do desenvolvedor; II) por generalização exige o questionamento das escolhas de design; III) pelo uso de informações sensíveis aciona as proteções da LGPD; e IV) limitadora do exercício de direitos demanda a articulação com a legislação antidiscriminatória e com os direitos fundamentais constitucionalmente garantidos.²⁰

Além de seus mecanismos de produção de viés, a discriminação algorítmica apresenta uma característica que a distingue de formas anteriores de discriminação e que cria desafios jurídicos específicos, a opacidade. Os sistemas de aprendizado de máquina são, frequentemente, incapazes de explicar em seus detalhes como chegou a determinado resultado em determinado caso. Essa característica tem sido descrita como o problema da "caixa-preta".

Michel Foucault, em sua análise do panóptico de Jeremy Bentham, identificou que o poder disciplinar não precisa ser exercido de forma constante para ser eficaz, basta que o vigiado nunca saiba com certeza se está sendo observado para que passe a vigiar a si mesmo.²¹ Os sistemas algorítmicos operam uma lógica análoga. Os indivíduos sabem que são avaliados por algoritmos em suas interações com bancos, empregadores, seguradoras e serviços públicos, mas não sabem como, com base em quê, nem quais de seus comportamentos e características estão sendo avaliados. A inteligência artificial é deliberadamente opaca, não como falha técnica, mas como escolha estratégica que serve a interesses comerciais precisos.²² Revelar o funcionamento interno de um algoritmo de recomendação, de avaliação de crédito ou de seleção de empregos implicaria revelar a fórmula de um produto. A opacidade, portanto, não é apenas consequência da complexidade técnica, é uma política deliberada das empresas que desenvolvem esses sistemas.

Para o Direito, a opacidade algorítmica cria um problema probatório grave. A vítima frequentemente não sabe que foi discriminada. Mesmo quando suspeita da discriminação, não tem acesso ao algoritmo nem aos dados utilizados. E mesmo que tivesse, a complexidade dos sistemas de aprendizado de máquina frequentemente inviabiliza a prova do nexo causal entre o funcionamento do sistema e o resultado discriminatório.

O'Neil formula que, quando o passado é injusto, refletir o passado é injusto.²³ No contexto brasileiro, essa herança é particularmente pesada. O histórico de negação de acesso da população negra ao sistema financeiro formal, ao mercado de trabalho qualificado, à educação superior e à habitação em regiões valorizadas produziu um conjunto de dados que correlaciona negritude com pobreza, informalidade, endividamento e localização periférica. Quando um algoritmo de crédito aprende que CEP, tipo de escola e trajetória de emprego são preditores de risco, está aprendendo algo que é demograficamente verdadeiro e historicamente produzido pela discriminação estrutural. E esses padrões são o racismo estrutural em forma de dado.

As chamadas Armas de Destruição em Massa algorítmicas surgem quando um modelo discriminatório é aplicado a milhões de pessoas. O dano coletivo é incomparavelmente maior do que qualquer discriminação individual poderia produzir.²⁴ Nesse cenário, quanto maior a escala, mais difícil se torna identificar o padrão discriminatório em casos individuais.²⁵ Um sistema pode negar crédito a milhões de pessoas negras sem que nenhuma delas perceba que foi vítima de discriminação, cada uma receberá uma mensagem técnica sobre seu perfil de risco individual, sem informação sobre o padrão coletivo.

Crawford aponta que a expansão dos sistemas de IA em áreas como crédito, emprego, segurança pública e saúde significa que a discriminação algorítmica não é mais um risco periférico, é uma infraestrutura de exclusão que permeia as decisões fundamentais sobre quem tem acesso a que recursos em uma sociedade.²⁶

Mbembe define necropolítica como o conjunto de formas pelas quais o poder organiza a distribuição diferencial de vida e morte segundo linhas raciais.²⁷ A expressão máxima da soberania, para o filósofo camaronês, é o poder de ditar quem pode viver e quem deve morrer.²⁸ Embora formulado originalmente para descrever formas explícitas de violência estatal, esse conceito se aplica, em sentido ampliado, a qualquer forma de poder que distribua diferencialmente acesso a condições de vida digna segundo critérios raciais.

No Brasil, onde dados documentam que jovens negros morrem de forma desproporcional em comparação a jovens brancos,²⁹³⁰ onde a mortalidade materna negra é sistematicamente maior que a branca e onde a violência policial incide de forma diferenciada sobre corpos negros,³¹ a discriminação algorítmica não é um risco abstrato. Trata-se de um fator que se acrescenta a uma estrutura necropolítica já operante. Sistemas preditivos que identificam populações negras como de maior risco criminal, sistemas de triagem de saúde com maior taxa de erro para pacientes negros e sistemas de crédito que os excluem do acesso a recursos econômicos contribuem todos para a reprodução da distribuição diferencial de vida e morte que caracteriza a necropolítica no Brasil contemporâneo.

4. DADOS PESSOAIS COMO INSTRUMENTOS DE FOMENTO A DESIGUALDADE

Nota-se uma percepção equivocada quanto ao papel dos dados nos algoritmos de que, por se tratarem de um artifício matemático, eles representariam uma realidade neutra e precisa, da qual resultaria uma conclusão objetiva. Se uma pessoa é classificada como um indivíduo que paga suas contas corretamente, é porque os dados demonstram isso. Nesse cenário, os dados são vistos como um fato e os algoritmos com uma ferramenta que evidencia ele.

Cathy O’Neil argumenta, no entanto, que os dados são o registro do passado e que, em uma sociedade racialmente desigual, tornam-se necessariamente um registro dessa desigualdade.³²

Um banco de dados não registra apenas um recorte neutro da realidade. Ele registra os efeitos acumulados de séculos de exclusão e desigualdade imposta à população negra. Um dado é objetivo apenas quanto a registrar fielmente um recorte no espaço e tempo de um fato. Contudo, este fato só ocorreu devido uma sociedade profundamente marcada por uma estrutura racial.

Kate Crawford aprofunda essa análise ao demonstrar que a construção de um banco de dados não é um processo de captura passiva da realidade, mas sim um processo de escolha e enquadramento.³³ Decidir quais dados serão coletados, em quais contextos e com quais finalidades são decisões que determinam algum poder. Por exemplo, dados extraídos de um sistema de vigilância policial intensa em bairros periféricos, não necessariamente significa que aqueles bairros possuem altos índices de criminalidade, e sim que são muito mais vigiados devido uma concepção racialmente estruturada. Quando esses dados alimentam algoritmos preditivos, o sistema aprende que determinados espaços geográficos são mais criminalizados, uma vez que estes dados registram prisões nesses locais não porque crimes ocorrem de fato.

Instituições que deveriam, por competência, corrigir a desigualdade racial foram construídas sobre bases racistas e, naturalmente, tendem a reproduzi-la. Os dados produzidos por essas instituições refletem padrões historicamente discriminatórios, os quais são internalizados e perpetuados pelos algoritmos. Os dados não criam desigualdade, eles herdam, registram e a reproduzem como uma verdade objetiva.

Um dos fenômenos mais relevantes para a discriminação algorítmica é o proxy racial, o qual trata-se do uso de variáveis aparentemente neutras que, na prática, funcionam como substitutos da informação racial em contextos de segregação socioespacial e histórica. Esse mecanismo utiliza características classificadas normalmente como neutras, mas que, numa sociedade marcada pela segregação, são relacionadas à raça por razões puramente estruturais. Dados como endereço, escola frequentada e, até mesmo, histórico de emprego formal são capazes de, indiretamente, produzir resultados racialmente desiguais por meio de variáveis cujo poder discriminatório deriva de sua correlação estrutural com um grupo especifico em uma sociedade segregada. O caso mais citado na literatura internacional é o do sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), utilizado por tribunais estadunidenses para avaliar o risco de reincidência criminal de réus e balizas de sentenciamento. Uma investigação jornalística demonstrou que o sistema classificava réus negros como de alto risco de reincidência com frequência significativamente maior do que réus brancos com históricos criminais similares, mesmo sem utilizar raça como variável explícita.³⁴ As variáveis adotadas funcionavam como proxies raciais em uma sociedade com segregação socioespacial profunda.

Ruha Benjamin descreve esse mecanismo como a essência do New Jim Code, uma vez que, como as leis Jim Crow usavam linguagem de "separação" para produzir subjugação racial, os algoritmos usam linguagem de "otimização" para produzir resultados racialmente segregados³⁵ e o proxy racial é o instrumento técnico pelo qual essa operação se realiza.

A proteção jurídica para dados sensíveis busca precisamente impedir uso direto de características identitárias protegidas como base para decisões discriminatórias. Contudo, quando não se usa a informação racial, mas sim aspectos que funcionam como seus substitutos, essa proteção é contornada sem ser formalmente violada.

A Lei n. 12.965/2014, conhecida como Marco Civil da Internet (MCI), estabeleceu princípios relevantes para o tema. A lei prevê, em seu art. 3º, incisos II e VI, a proteção da privacidade e dos dados pessoais, bem como a responsabilização dos agentes de acordo com suas atividades.³⁶ Já no art. 7º, inciso I, a norma dispõe sobre a inviolabilidade da intimidade e da vida privada, além do sigilo do fluxo de comunicações pela internet.³⁴ Esses são princípios gerais de proteção dos dados pessoais do usuário que anteciparam, em linhas gerais, a lógica que a LGPD desenvolveria com maior precisão técnica.

No entanto, essa regulamentação foi desenhada para o cenário tecnológico de 2014, anterior à expansão comercial da inteligência artificial e do aprendizado de máquina em larga escala. O MCI não continha instrumentos para lidar com decisões automatizadas, com o tratamento de dados sensíveis em sistemas de IA, com a discriminação algorítmica ou com a opacidade dos modelos de aprendizado de máquina. Sua contribuição foi fundamental como marco regulatório geral do ambiente digital, mas insuficiente como resposta ao problema da discriminação algorítmica.

A Lei Geral de Proteção de Dados Pessoais (LGPD), n. 13.709/2018, define dado sensível, em seu art 5°, inciso II, como aquele referente à origem racial ou étnica³⁷, conferindo-lhe proteção jurídica reforçada.

A proteção de dados pessoais e o direito à privacidade são fenômenos jurídicos relacionados, mas não idênticos. Essa distinção, desenvolvida com precisão por Danilo Doneda, é fundamental para compreender tanto o alcance quanto os limites do marco regulatório brasileiro no enfrentamento da discriminação algorítmica.

O direito à privacidade, em sua formulação clássica, é um direito negativo, o direito de ser deixado em paz, de excluir terceiros de sua esfera íntima, de controlar o que outros sabem sobre você.³⁸ Sua lógica é a da exclusão e do segredo, onde a privacidade busca evitar a intrusão indesejada na esfera privada. No ambiente digital contemporâneo, o problema não é apenas que outras pessoas saibam coisas sobre nós que gostaríamos de manter em segredo. Refere-se ao fato de que informações sobre nós são coletadas, processadas e utilizadas para tomar decisões que afetam nossa vida. Tal processo ocorre de forma que frequentemente não controlamos, não compreendemos e não consentimos de forma genuína. A proteção de dados é um direito positivo e relacional: não se trata apenas de manter dados secretos, mas de garantir ao titular controle sobre como suas informações circulam e são utilizadas, e proteção contra usos que o prejudiquem. Doneda demonstra que a evolução do direito à privacidade em direção à proteção de dados é inseparável da evolução tecnológica que tornou possível a coleta e processamento massivo de informações pessoais.³⁹ O direito à privacidade foi desenvolvido em um contexto de informação escassa e processamento manual, muitas vezes analógico, como em cartas interceptadas, conversas gravadas. A proteção de dados foi desenvolvida em um contexto de informação abundante e processamento automatizado em larga escala. As duas faces do mesmo direito fundamental respondem a problemas diferentes, ainda que complementares.
O racismo algorítmico não viola diretamente a privacidade das vítimas. Seus dados podem ser tratados de forma aparentemente legal e transparente, com base em consentimento formalmente obtido, sem que nenhuma informação seja indevidamente revelada a terceiros. O que viola é o direito à não discriminação, à igualdade, à dignidade.

Inspirada no Regulamento Geral de Proteção de Dados europeu (GDPR), a LGPD estabeleceu no Brasil um regime abrangente de proteção de dados pessoais que, pela primeira vez, criou obrigações específicas para os agentes de tratamento e direitos concretos para os titulares de dados.

A LGPD elenca, em seu art. 2º, como fundamentos, o respeito à privacidade, à autodeterminação informativa, à liberdade de expressão, de informação, de comunicação e de opinião, à inviolabilidade da intimidade, da honra e da imagem, e aos direitos humanos.⁴⁰ Sua constitucionalização foi consolidada pela Emenda Constitucional n. 115/2022, que inseriu a proteção de dados pessoais no rol dos direitos e garantias fundamentais do art. 5º da Constituição Federal.⁴¹ A condição de direito fundamental tem implicações diretas para o debate sobre discriminação algorítmica, uma vez que, vincula não apenas os particulares, mas também o próprio Estado a padrões de proteção que incluem o dever de não discriminar com base em dados pessoais.

Bioni e Luciano identificam na estrutura da LGPD expressões do princípio da precaução aplicado à regulação de tecnologias de processamento de dados.⁴² Esse princípio, oriundo do direito ambiental, determina que, diante da incerteza sobre danos potencialmente graves e irreversíveis, a ação preventiva deve ser adotada mesmo sem certeza científica absoluta sobre os riscos. Aplicado à LGPD, o princípio da precaução se manifesta no dever de adotar medidas de segurança antes que os danos ocorram e no direito à revisão de decisões automatizadas como freio à automatização irrestrita. No que tange à discriminação algorítmica racial, este princípio impõe que os agentes de tratamento identifiquem e mitiguem riscos discriminatórios antes de implantar sistemas, não após os danos serem constatados.

5. DESAFIOS REGULATÓRIOS E INSTRUMENTOS PARA ENFRENTAMENTO E RESPONSABILIZAÇÃO

A aplicação formal de tratamentos igualitário no presente não é capaz de corrigir os séculos de oportunidades desiguais, apenas as perpetuam. Superar essa discrepância exige instrumentos que alcancem camadas mais profundas da sociedade: não apenas proibindo a discriminação, mas reivindicando ativamente a inclusão. Contudo, ainda é possível encontrar muitos obstáculos que brecam este progresso.

A ausência de regulamentação específica não se trata apenas de uma lacuna neutra, mas também serve indiretamente aos interesses das empresas que operam esses sistemas,⁴³ que, na falta de obrigações específicas, podem continuar implantando tecnologias discriminatórias, consciente ou inconscientemente, sem qualquer prestação de contas.

Kate Crawford argumenta que as grandes empresas de tecnologia não são meras empresas de serviços digitais, mas sim verdadeiras são infraestruturas.⁴⁴ Controlam os dados com que os algoritmos são treinados, a capacidade computacional necessária para essa operação, as plataformas pelas quais os resultados chegam aos usuários e os modelos licenciados para terceiros. Esse controle é assimétrico de forma radical, já que as empresas sabem praticamente tudo sobre seus usuários, enquanto os usuários sabem quase nada sobre como são processados seus dados. Safiya Noble demonstra que essa assimetria não é neutra em termos raciais. As empresas que controlam as plataformas de busca, as redes sociais e os sistemas de recomendação são, em sua maioria, sediadas nos países do Hemisférios norte, reconhecidos por seu desenvolvimento, geridas por pessoas brancas e concebidas com bases de dados que não descrevem adequadamente as populações negras e do Hemisfério sul.⁴⁵ Para o Brasil, isso significa que decisões que afetam profundamente a vida dessa minoria, a qual é majoritária no país, são tomadas por sistemas desenvolvidos por e para demografias completamente diferentes. Tal configuração não é acidental, pois trata-se do resultado de escolhas históricas sobre quem investe em tecnologia, quem tem acesso à educação técnica de qualidade e quem decide quais problemas têm prioridade para serem solucionados.⁴⁶ A homogeneidade demográfica das equipes de desenvolvimento é tanto uma consequência do racismo estrutural quanto um vetor de sua reprodução. Times sem diversidade racial tendem a não identificar os vieses que seus sistemas produzem, porque esses vieses não se aplicam a suas próprias vidas.

No Brasil, com esforço coordenado, é possível iniciar a reparação deste cenário por meio de medidas afirmativas de reforma para todo o sistema. Exigência de diversidade racial nas equipes de desenvolvimento de sistemas de alto risco como condição para certificação de conformidade, programas de financiamento público de empresas de tecnologia lideradas por pessoas negras; incentivos para universidades públicas formarem programas de formação de profissionais negros em ciência da computação e IA, e reserva de representação de organizações negras nos processos de consulta pública para regulamentação da IA. Vale ressaltar, todavia, que tais ações possuem limites. Elas corrigem desigualdades nos efeitos do racismo estrutural sem eliminar as causas.⁴⁷

O letramento digital é uma condição necessária para que a sociedade compreenda a extensão de seus direitos na prática. Em uma sociedade mediada por processos invisíveis e decisões automatizadas, o conhecimento sobre o tratamento de dados é o que transforma o consentimento em uma ferramenta de controle real e consciente do indivíduo sobre sua própria identidade e pegada digital. Na autodeterminação informativa pressupõe-se tanto o direito de saber, quanto o de não saber, os quais só podem ser exercidos com liberdade genuína quando há transparência real sobre o funcionamento dos sistemas que processam dados pessoais.⁴⁸ Sem o letramento, a transparência torna-se inócua e o cidadão permanece vulnerável a novos mecanismos de exclusão que perpetuam desigualdades históricas sob a máscara da neutralidade técnica.

O Projeto de Lei n. 2.338/2023, em tramitação no Senado Federal,⁴⁹ é o principal esforço legislativo brasileiro para a regulação de inteligência artificial. Adotando abordagem baseada em risco, classifica sistemas de IA em categorias e impõe obrigações proporcionais, nos quais os sistemas de alto risco incluem os utilizados em segurança pública, decisões de crédito, emprego e serviços públicos essenciais.⁵⁰ A proposta apresenta o reconhecimento da não discriminação como princípio orientador, a previsão de avaliação de impacto para sistemas de alto risco, e a proibição de determinados usos de IA considerados de risco inaceitável. Contudo, ainda apresenta limitações quanto a ausência de obrigação específica de avaliar impacto racial diferenciado como critério autônomo, a falta de mecanismos robustos de fiscalização para os grupos mais vulneráveis e a possibilidade de regulamentação insuficientemente específica para capturar formas de discriminação indireta.

Salienta-se que, responsabilizar pela discriminação algorítmica não é inibir a inovação, é a correção de uma característica negativa do mercado que, sem incentivo, não costuma ser internalizada espontaneamente.

A Constituição Federal, em seu art. 5º, inciso XLII, proíbe a discriminação racial e garante em seu inciso LXXIX, a proteção de dados pessoais como direito fundamental.⁵¹ A confluência dessas duas garantias fundamentais cria a base constitucional para sustentar que a discriminação algorítmica racial viola simultaneamente o direito à igualdade racial e o direito à proteção de dados, impondo ao Estado brasileiro a obrigação positiva de desenvolver instrumentos para preveni-la e reprimi-la. Mbembe oferece a perspectiva mais radical para compreender essa obrigação. Para o autor, se a discriminação algorítmica reproduz a lógica micropolítica, então o Estado que permite que essa lógica opere sem regulação adequada está cumpliciando-se com ela.⁵² A omissão regulatória no campo da IA discriminatória é, por si só, uma forma de violação dos direitos fundamentais da população negra.

6. CONSIDERAÇÕES FINAIS

A análise demonstra que sistemas algorítmicos que os algoritmos não produzem discriminação racial a despeito dos dados que os alimentam, mais precisamente por causa deles. Os dados históricos com que esses sistemas são treinados registram os efeitos acumulados de séculos de exclusão racial na distribuição territorial, no acesso ao crédito, no mercado de trabalho e na trajetória educacional. O sistema herda, formaliza e reproduz como verdade objetiva o que é, na realidade, a forma atual do racismo. Dessa forma, a discriminação algorítmica não representa uma ruptura com o racismo estrutural histórico, mas representa sua continuidade por outros meios.

Por conseguinte, a pesquisa destaca que, para um enfrentamento eficaz, é imperativo tanto potencializar os instrumentos existentes quanto desenvolver novos mecanismos regulatórios específicos. O Projeto de Lei 2.338/2023, embora represente um esforço legislativo importante, ainda se mostra insuficiente para abarcar a totalidade dos desafios impostos pela discriminação algorítmica racial. O direito à explicabilidade algorítmica emerge como uma contribuição específica e fundamental desta pesquisa. Ao sistematizar a necessidade de transparência e compreensibilidade dos processos decisórios automatizados, o trabalho não apenas reforça a importância de um controle sobre a atuação dos algoritmos, mas também propõe um caminho para que indivíduos afetados por decisões algorítmicas possam compreender os motivos subjacentes e, assim, exercer plenamente seus direitos. Este direito, enraizado em princípios constitucionais e na proteção de dados, transcende a mera tecnicidade, posicionando-se como um pilar para a garantia da dignidade humana e da justiça em um cenário cada vez mais mediado pela inteligência artificial.

Por fim, é fundamental reconhecer que o Direito, por si só, não detém a capacidade de erradicar o racismo estrutural, um fenômeno complexo e multifacetado com raízes históricas e sociais profundas. Contudo, sua atuação é indispensável para mitigar os efeitos da discriminação algorítmica e para estabelecer balizas éticas e legais que orientem o desenvolvimento e a aplicação das tecnologias.

REFERÊNCIAS BIBLIOGRÁFICAS

ALMEIDA, Silvio Luiz de. Racismo estrutural. São Paulo: Sueli Carneiro; Pólen, 2019. (Série Feminismos Plurais). Disponível em: https://sites.ufpe.br/enegrecer/wp-content/uploads/sites/146/2023/01/ALMEIDA-Silvio-Racismo-estrutural-Livro-2019.pdf. Acesso em: 21 abr. 2026

BENJAMIN, Ruha. Race After Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity Press, 2019.

BIONI, Bruno Ricardo; LUCIANO, Maria. O princípio da precaução na regulação de inteligência artificial: entre o risco e a inovação. São Paulo: Associação Data Privacy Brasil de Pesquisa, 2019. Disponível em: https://brunobioni.com.br/home/wp-content/uploads/2019/09/Bioni-Luciano_O-PRINCI%CC%81PIO-DA-PRECAUC%CC%A7A%CC%83O-PARA-REGULAC%CC%A7A%CC%83O-DE-INTELIGE%CC%82NCIA-ARTIFICIAL-1.pdf. Acesso em: 07 jun. 2026.

BRASIL. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988. Disponível em: https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em: 07 jun. 2026.

BRASIL. Emenda Constitucional n. 115, de 10 de fevereiro de 2022. Inclui a proteção de dados pessoais entre os direitos e garantias fundamentais. Brasília, DF: Presidência da República, 2022. Disponível em: https://www.planalto.gov.br/ccivil_03/constituicao/emendas/emc/emc115.htm. Acesso em: 07 jun. 2026.

BRASIL. Lei n. 12.965, de 23 de abril de 2014. Marco Civil da Internet. Brasília, DF: Presidência da República, 2014. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2011-2014/2014/lei/l12965.htm. Acesso em: 07 jun. 2026.

BRASIL. Lei n. 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF: Presidência da República, 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 07 jun. 2026.

BRASIL. Senado Federal. Projeto de Lei n. 2.338, de 2023. Dispõe sobre o uso da inteligência artificial. Brasília, DF: Senado Federal, 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 07 jun. 2026.

CRAWFORD, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021.

DONEDA, Danilo. Da privacidade à proteção de dados pessoais: elementos da formação da Lei Geral de Proteção de Dados. 2. ed. São Paulo: Thomson Reuters Brasil, 2022.

FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. Petrópolis: Vozes, 2014.

GONZALEZ, Lélia; HASENBALG, Carlos. Lugar de negro. Rio de Janeiro: Marco Zero, 1982. (Coleção Pontos, v. 3). Disponível em: https://negrasoulblog.wordpress.com/wp-content/uploads/2016/04/lc3a9lia-gonzales-carlos-hasenbalg-lugar-de-negro1.pdf. Acesso em: 21 abr. 2026.

IBGE. Desigualdades sociais por cor ou raça no Brasil. Rio de Janeiro: IBGE, 2022. Disponível em: https://www.ibge.gov.br. Acesso em: 07 jun. 2026.

IPEA; FÓRUM BRASILEIRO DE SEGURANÇA PÚBLICA (FBSP). Atlas da Violência 2023. Brasília, DF: IPEA/FBSP, 2023. Disponível em: https://www.ipea.gov.br/atlasviolencia/. Acesso em: 07 jun. 2026.

MBEMBE, Achille. Necropolítica: biopoder, soberania, estado de exceção, política da morte. Tradução de Renata Santini. 3. ed. São Paulo: n-1 edições, 2018.

MENDES, Laura Schertel; MATTIUZZO, Marcela. Discriminação algorítmica: conceito, fundamento legal e tipologia. Revista de Direito Público, Porto Alegre, v. 16, n. 90, p. 39–64, 2019. Disponível em: https://www.portaldeperiodicos.idp.edu.br/direitopublico/article/view/3766/Schertel%20Mendes%3B%20Mattiuzzo%2C%202019. Acesso em: 07 jun. 2026.

NOBLE, Safiya Umoja. Algoritmos da opressão: como o Google fomenta e lucra com o racismo. Santo André: Editora Rua do Sabão, 2021.

O'NEIL, Cathy. Algoritmos de destruição em massa: como a big data aumenta a desigualdade e ameaça a democracia. Santo André: Editora Rua do Sabão, 2020.

SANTOS, Alexandre. Racismo e colonialismo no Brasil. FENAJUD, Brasília, DF, 21 jul. 2022. Disponível em: https://fenajud.org.br/?p=12912. Acesso em: 21 abr. 2026.

¹ Graduanda em Direito pela Faculdade Católica de Rondônia, Porto Velho. E-mail: [clique para visualizar o e-mail]acesse o artigo original para visualizar o e-mail.

² Doutor em Ciência Jurídica pela Universidade do Vale do Itajaí (UNIVALI) . Mestre em Direito Econômico pela PUC-PR. Procurador do Estado de Rondônia. Professor na Faculdade Católica de Rondônia. Porto Velho. E-mail: [clique para visualizar o e-mail]acesse o artigo original para visualizar o e-mail.

³ ALMEIDA, Silvio Luiz de. Racismo estrutural. São Paulo: Sueli Carneiro; Pólen, 2019. (Série Feminismos Plurais), p. 20.

⁴ ALMEIDA, Silvio Luiz de. Racismo estrutural. São Paulo: Sueli Carneiro; Pólen, 2019. (Série Feminismos Plurais), p. 21.

⁵ SANTOS, Alexandre. Artigo: Racismo e Colonialismo no Brasil. FENAJUD, Brasília, DF, 21 jul. 2022. Disponível em: https://fenajud.org.br/?p=12912. Acesso em: 21 abr. 2026.

⁶ SANTOS, Alexandre. Artigo: Racismo e Colonialismo no Brasil. FENAJUD, Brasília, DF, 21 jul. 2022. Disponível em: https://fenajud.org.br/?p=12912. Acesso em: 21 abr. 2026.

⁷ SANTOS, Alexandre. Artigo: Racismo e Colonialismo no Brasil. FENAJUD, Brasília, DF, 21 jul. 2022. Disponível em: https://fenajud.org.br/?p=12912. Acesso em: 21 abr. 2026

⁸ ALMEIDA, Silvio Luiz de. Racismo estrutural. São Paulo: Sueli Carneiro; Pólen, 2019.

⁹ MBEMBE, Achille. Necropolítica: biopoder, soberania, estado de exceção, política da morte. Tradução: Renata Santini. 3. ed. São Paulo: n-1 edições, 2018.

¹⁰ GONZALEZ, Lélia; HASENBALG, Carlos. Lugar de negro. Rio de Janeiro: Marco Zero, 1982. (Coleção Pontos, v. 3).

¹¹ ALMEIDA, Silvio Luiz de. Racismo estrutural. São Paulo: Sueli Carneiro; Pólen, 2019. p. 23-24.

¹² ALMEIDA, Silvio Luiz de. Racismo estrutural. São Paulo: Sueli Carneiro; Pólen, 2019. p. 24.

¹³ ALMEIDA, Silvio Luiz de. Racismo estrutural. São Paulo: Sueli Carneiro; Pólen, 2019. pg.24,25

¹⁴ ALMEIDA, Silvio Luiz de. Racismo estrutural. São Paulo: Sueli Carneiro; Pólen, 2019. p. 25-28.

¹⁵ ALMEIDA, Silvio Luiz de.Racismo estrutural. São Paulo: Sueli Carneiro; Pólen, 2019. p. 29-31.

¹⁶ MENDES, Laura Schertel; MATTIUZZO, Marcela. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. Revista de Direito Público, Porto Alegre, v. 16, n. 90, 2019, pg 41 e 42.

¹⁷ O'NEIL, Cathy. Algoritmos de Destruição em Massa: como o big data aumenta a desigualdade e ameaça a democracia. Santo André: Editora Rua do Sabão, 2020, p. 27-29.

¹⁸ MENDES, Laura Schertel; MATTIUZZO, Marcela. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. Revista de Direito Público, Porto Alegre, v. 16, n. 90, 2019, p. 40-41.

¹⁹ MENDES, Laura Schertel; MATTIUZZO, Marcela. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. Revista de Direito Público, Porto Alegre, v. 16, n. 90, 2019, p. 51-52.

²⁰ MENDES, Laura Scherer; MATTIUZZO, Marcela. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. Revista de Direito Público, Porto Alegre, v. 16, n. 90, 2019, p. 55-60.

²¹ FOUCAULT, Michel. Vigiar e Punir: nascimento da prisão. Petropolis: Vozes, 2014.

²² CRAWFORD, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021, p. 13-14.

²³ O'NEIL, Cathy. Algoritmos de Destruição em Massa: como a big data aumenta a desigualdade e ameaça a democracia. Santo André: Editora Rua do Sabão, 2020, p. 27.

²⁴ O'NEIL, Cathy. Algoritmos de Destruição em Massa: como o big data aumenta a desigualdade e ameaça a democracia. Santo André: Editora Rua do Sabão, 2020, p. 28-30.

²⁵ NOBLE, Safiya Umoja. Algoritmos da opressão: como o Google fomenta e lucra com o racismo. Santo André: Editora Rua do Sabão, 2021, p. 10.

²⁶ CRAWFORD, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021, p. 18-21.

²⁷ MBEMBE, Achille. Necropolítica. Arte & Ensaios, Rio de Janeiro, n. 32, 2016, p. 123.

²⁸ MBEMBE, Achille. Necropolítica. Arte & Ensaios, Rio de Janeiro, n. 32, 2016, p. 123.

²⁹ IPEA. Atlas da Violência 2023. Brasília: IPEA/FBSP, 2023.

³⁰ IBGE. Desigualdades Sociais por Cor ou Raça no Brasil. Rio de Janeiro: IBGE, 2022.

³¹ MBEMBE, Achille. Necropolítica. Arte & Ensaios, Rio de Janeiro, n. 32, 2016, p. 135.

³² O'NEIL, Cathy. Algoritmos de Destruição em Massa: como o big data aumenta a desigualdade e ameaça a democracia. Santo André: Editora Rua do Sabão, 2020, p. 27-30.

³³ CRAWFORD, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021, p. 14-18

³⁴ MENDES, Laura Schertel; MATTIUZZO, Marcela. Discriminação Algorítmica: Conceito, Fundamento Legal e Tipologia. Revista de Direito Público, Porto Alegre, v. 16, n. 90, 2019 p. 45-46.

³⁵ BENJAMIN, Ruha. Race After Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity Press, 2019, p. 55-60.

³⁶ BRASIL. Lei n. 12.965, de 23 de abril de 2014. Marco Civil da Internet. Brasília: Câmara dos Deputados, 2014, arts. 3º e 7º.

³⁷ BRASIL. Lei n. 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília: Câmara dos Deputados, 2018, art. 5º, II.

³⁸ DONEDA, Danilo. Da Privacidade à Proteção de Dados Pessoais: elementos da formação da Lei Geral de Proteção de Dados. 2. ed. São Paulo: Thomson Reuters Brasil, 2022, p. 35-40.

³⁹ DONEDA, Danilo. Da Privacidade à Proteção de Dados Pessoais: elementos da formação da Lei Geral de Proteção de Dados. 2. ed. São Paulo: Thomson Reuters Brasil, 2022, p. 80-90.

⁴⁰ BRASIL. Lei n. 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília: Câmara dos Deputados, 2018, arts. 1º e 2º.

⁴¹ BRASIL. Emenda Constitucional n. 115, de 10 de fevereiro de 2022. Inclui a proteção de dados pessoais entre os direitos e garantias fundamentais. Brasília: Câmara dos Deputados, 2022. A emenda inseriu o inciso LXXIX no art. 5º da Constituição Federal.

⁴² BIONI, Bruno Ricardo; LUCIANO, Maria. O princípio da precaução na regulação de inteligência artificial: entre o risco e a inovação. São Paulo: Associação Data Privacy Brasil de Pesquisa, 2019, p. 15-20.

⁴³ CRAWFORD, Kate. Atlas of AI. New Haven: Yale University Press, 2021, p. 18-22.

⁴⁴ CRAWFORD, Kate. Atlas of AI. New Haven: Yale University Press, 2021, p. 14-18.

⁴⁵ NOBLE, Safiya Umoja. Algoritmos da opressão: como o Google fomenta e lucra com o racismo. Santo André: Editora Rua do Sabão, 2021, p. 10-15.

⁴⁶ BENJAMIN, Ruha. Race After Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity Press, 2019, p. 17-19

⁴⁷ ALMEIDA, Silvio. Racismo Estrutural. São Paulo: Pólen, 2019, p. 95-105.

⁴⁸ BIONI, Bruno Ricardo; LUCIANO, Maria. O princípio da precaução na regulação de inteligência artificial: entre o risco e a inovação. São Paulo: Associação Data Privacy Brasil de Pesquisa, 2019, p. 185-195.

⁴⁹ BRASIL. Senado Federal. Projeto de Lei n. 2.338, de 2023. Dispõe sobre o uso da inteligência artificial. Brasília: Senado Federal, 2023.

⁵⁰ BRASIL. Senado Federal. PL n. 2.338/2023.

⁵¹ BRASIL. Constituição Federal, art. 5º, XLII; art. 5º, LXXIX (EC n. 115/2022).

⁵² MBEMBE, Achille. Necropolítica. Arte & Ensaios, Rio de Janeiro, n. 32, p. 123-125, 2016.