REGISTRO DOI: 10.70773/revistatopicos/782231707
RESUMO
A consolidação de estruturas de vigilância digital e de mecanismos de governança algorítmica tem reconfigurado as relações entre poder, informação e cidadania, produzindo impactos que ultrapassam a proteção da privacidade e alcançam os fundamentos da ordem constitucional. Este artigo analisa criticamente os efeitos da vigilância algorítmica sobre os direitos fundamentais e sobre as condições de exercício da cidadania na sociedade informacional. Parte-se da hipótese de que a naturalização das práticas de monitoramento digital, associada à expansão da governança algorítmica e à concentração do poder informacional, contribui para processos de fragilização das garantias fundamentais compatíveis com formas contemporâneas de estado de exceção permanente. O estudo adota abordagem qualitativa, de caráter bibliográfico e interdisciplinar, fundamentado na teoria constitucional e em aportes da filosofia política e dos estudos críticos da tecnologia. Argumenta-se que a vigilância digital contemporânea transcende a proteção da privacidade, afetando a autonomia individual, a autodeterminação informativa e as condições deliberativas da esfera pública. Demonstra-se que sistemas algorítmicos podem reproduzir desigualdades estruturais sob a aparência de neutralidade técnica. Conclui-se que o constitucionalismo contemporâneo exige o fortalecimento de mecanismos de transparência, controle democrático e responsabilização algorítmica, de modo a assegurar que a inovação tecnológica permaneça subordinada aos valores democráticos e aos direitos fundamentais.
Palavras-chave: Vigilância digital; Sociedade algorítmica; Direitos fundamentais; Governança informacional.
ABSTRACT
The consolidation of digital surveillance structures and algorithmic governance mechanisms has reconfigured the relationship between power, information, and citizenship, producing impacts that extend beyond privacy protection and reach the foundations of constitutional order. This article critically examines the effects of algorithmic surveillance on fundamental rights and on the conditions for exercising citizenship in the information society. It is based on the hypothesis that the normalization of digital monitoring practices, combined with the expansion of algorithmic governance and the concentration of informational power, contributes to processes of weakening fundamental guarantees compatible with contemporary forms of a permanent state of exception. The study adopts a qualitative, bibliographic, and interdisciplinary approach grounded in constitutional theory and contributions from political philosophy and critical technology studies. It argues that contemporary digital surveillance transcends privacy protection, affecting individual autonomy, informational self-determination, and the deliberative conditions of the public sphere. It demonstrates that algorithmic systems may reproduce structural inequalities under the appearance of technical neutrality. It concludes that contemporary constitutionalism requires stronger mechanisms of transparency, democratic oversight, and algorithmic accountability to ensure that technological innovation remains subordinated to democratic values and fundamental rights.
Keywords: Digital surveillance; Algorithmic society; Fundamental rights; Informational governance.
1. INTRODUÇÃO
A proeminência assumida pelos fluxos de dados e pelas tecnologias algorítmicas nas dinâmicas contemporâneas tem promovido reconfigurações profundas nas interações entre poder, informação e cidadania. Mais que processamento de dados, a racionalidade algorítmica passa a integrar estruturas perenes de governança, dotadas de capacidade inequívoca para influenciar comportamentos, modular preferências subjetivas e condicionar as matrizes de participação social e política.
Nesse cenário, a vigilância digital perde seu caráter de exceção, historicamente vinculado às demandas estritas da segurança pública, para assumir a condição de mecanismo ordinário de coordenação da sociedade informacional. A expansão exponencial das capacidades de captação, armazenamento e análise preditiva de dados atinentes a hábitos de consumo, deslocamentos, interações virtuais e posicionamentos ideológicos sedimenta novos fluxos de poder baseados na captura e utilização estratégica de ativos informacionais. Naturalizadas sob o pretexto de uma racionalidade tecnocrática, tais arquiteturas operam em zonas de manifesta opacidade, à margem do controle democrático, concentrando o capital informativo e desafiando a observância das garantias constitucionais classicamente associadas à liberdade, à privacidade e à autonomia.
Sob essa perspectiva, os impactos causados por esse modelo ultrapassam as fronteiras tradicionais da proteção à intimidade, atingindo diretamente os pressupostos normativos do constitucionalismo contemporâneo. A hipótese central deste estudo sustenta que a naturalização das práticas de monitoramento digital, ligada à expansão da governança algorítmica e à monopolização do poder informacional, desencadeia processos de enfraquecimento gradual das garantias fundamentais, guardando estrita compatibilidade com as manifestações contemporâneas de uma excepcionalidade permanente. A vigilância digital, portanto, representa a expressão de uma nova morfologia do poder, com reflexos imediatos sobre a autonomia, o processo deliberativo e a própria subsistência do espaço público.
Do ponto de vista metodológico, a presente pesquisa adota o método dedutivo, amparada em uma abordagem qualitativa e em uma revisão bibliográfica de matiz interdisciplinar. O desenho analítico propõe um diálogo crítico entre a teoria constitucional contemporânea e a filosofia política, mobilizado a partir das contribuições de Michel Foucault sobre os dispositivos de poder; da psicopolítica de Byung-Chul Han; e do diagnóstico do "capitalismo de vigilância" de Shoshana Zuboff. Complementarmente, a investigação recorre às lentes de Giorgio Agamben acerca do estado de exceção e de Jürgen Habermas sobre a esfera pública, articulando tais referenciais às matrizes jurídicas de Luigi Ferrajoli, Stefano Rodotà e Danilo Doneda. Busca-se investigar, em síntese, de que maneira a racionalidade algorítmica tensiona os limites normativos do exercício do poder, afetando o núcleo essencial das liberdades públicas e reconfigurando os pilares da vida institucional.
Afastando-se, por conseguinte, de abordagens reducionistas restritas ao exame fragmentado da privacidade ou da segurança da informação, este estudo propõe compreender a vigilância algorítmica como elemento estruturante das mutações contemporâneas do constitucionalismo. Investiga-se, assim, seus efeitos sistêmicos sobre os direitos fundamentais e sobre as condições materiais necessárias ao exercício da autonomia e da soberania popular em sociedades estruturalmente mediadas por dados.
2. DEMOCRACIA, CONSTITUCIONALISMO E DIREITOS FUNDAMENTAIS
A compreensão contemporânea da democracia ultrapassa a mera observância de ritos procedimentais, a tripartição de poderes ou a regularidade formal do certame político. A legitimidade do Estado Democrático de Direito pressupõe, fundamentalmente, a vinculação a limites normativos substanciais destinados à salvaguarda dos direitos fundamentais, assegurando que o exercício da soberania permaneça compatível com os vetores da liberdade, da igualdade e da dignidade da pessoa humana. Sob esse prisma, a dinâmica democrática articula, de forma indissociável, participação política e contenção do poder, sob a premissa de que a vontade majoritária não detém prerrogativa para suprimir as condições de possibilidade da própria experiência democrática.
Nessa moldura, os direitos fundamentais desempenham papel estruturante na ordem constitucional, operando simultaneamente como garantias individuais subjetivas, parâmetros imperativos para a atuação estatal e barreiras intransponíveis contra arbítrios. Tais direitos consubstanciam conquistas históricas voltadas à blindagem do indivíduo perante os excessos do aparato político e as variadas assimetrias de dominação social. Conforme adverte Luigi Ferrajoli (2014), essas garantias exercem uma função contramajoritária indispensável à higidez democrática, porquanto delimitam "esferas de indecidibilidade" que restam imunes às deliberações respaldadas pelo princípio da maioria, obstando que o consenso conjuntural fustigue os pressupostos existenciais do próprio regime.
Em linha de convergência, Ronald Dworkin (2010) formula a célebre concepção de que os direitos fundamentais atuam como autênticos “trunfos” (cards) face aos interesses coletivos ou às decisões majoritárias, vedando que metas utilitaristas de ordem política, econômica ou administrativa instrumentalizem a supressão de liberdades essenciais. A tutela dessas prerrogativas, portanto, não representa um óbice à soberania popular, mas sim o requisito de sua própria validade jurídica e moral, garantindo que cada cidadão seja considerado pelo Estado como um sujeito dotado de igual consideração e respeito.
A relevância dos direitos fundamentais decorre de sua natureza transindividual, pois sua proteção não se destina a interesses individuais isolados, mas também à preservação das condições que viabilizam a convivência democrática. Liberdades públicas como a de expressão, associação, participação política, privacidade e o acesso à informação pavimentam o terreno para que os indivíduos construam suas convicções de maneira autônoma, intervenham na esfera pública e exerçam o controle social sobre o poder. Consequentemente, a erosão dessas garantias deflagra impactos que enfraquecem não apenas o patrimônio jurídico individual, mas a própria sustentabilidade das instituições democráticas. É precisamente sobre esse núcleo de liberdade que incidem os embates produzidos pelas transformações tecnológicas contemporâneas.
Nesse horizonte, as reflexões de Stefano Rodotà (2008) revelam extrema atualidade ao demonstrar que a proteção da pessoa na sociedade informacional correlaciona-se com a preservação da autodeterminação informativa, isto é, a capacidade de controle sobre os próprios dados e sobre os fluxos de informação que moldam a sociabilidade contemporânea. A tutela da privacidade digital, por conseguinte, deixa de figurar como extensão acessória do direito à intimidade para assumir centralidade autônoma na tutela da liberdade e da dignidade, integrando o conteúdo essencial das garantias fundamentais na era digital.
Observa-se, em síntese, que a eficácia desses direitos reclama uma permanente atualização dogmática diante das mutações tecnológicas e informacionais contemporâneas. O império da Constituição não se esgota na contenção do poder estatal clássico, pois impõe a submissão das novas manifestações de poder econômico e privado aos parâmetros axiológicos do constitucionalismo. Essa constatação revela-se crucial diante do avanço da racionalidade algorítmica, cuja ampla difusão desafia os limites e os mecanismos de controle do ordenamento jurídico.
3. SOCIEDADE DE VIGILÂNCIA E GOVERNANÇA ALGORÍTMICA
As formulações de Michel Foucault preservam inequívoca capacidade explicativa para decifrar as transformações produzidas pela sociedade informacional. Ao examinar os mecanismos disciplinares da modernidade, o filósofo evidenciou que a vigilância atua como vetor essencial de produção e ordenação das relações de poder. Conquanto concebidas em outro momento histórico, suas análises preservam atualidade ao evidenciarem que “a visibilidade é uma armadilha” (FOUCAULT, 2014, p. 202), indicando que o poder se perfaz também mediante a exposição contínua e o controle dos corpos. Na contemporaneidade, contudo, os aparatos digitais operam de forma disseminada, descentralizada e invisível, reconfigurando o próprio estatuto da vigilância: os dispositivos de controle extrapolam as paredes das instituições clássicas, como o panóptico físico, e passam a rastrear os indivíduos em todas as dimensões da vida cotidiana, consolidando-se enquanto elemento estrutural da organização social.
A especificidade dessa governança algorítmica não reside apenas na capacidade de catalogar comportamentos pretéritos ou diagnósticos presentes. Mediante a coleta massiva de dados em tempo real, sistemas automatizados identificam padrões latentes, estabelecem correlações estatísticas e estratificam indivíduos com esteio em probabilidades de ação. Mais do que um mero instrumental técnico de organização e processamento de dados, esse modo de ordenação passa a integrar estruturas perenes de governança. O exercício do poder desloca-se, por conseguinte, da observação retrospectiva para a antecipação e a modulação comportamental, expandindo a capacidade de intervenção sobre as escolhas individuais e as dinâmicas coletivas.
Nessa conjuntura, as informações atinentes a deslocamentos geográficos, hábitos de consumo e predileções subjetivas estabelecem a hegemonia informacional nas estruturas econômicas e institucionais. Essa dinâmica correlaciona-se com o diagnóstico de Shoshana Zuboff (2021) sobre o "capitalismo de vigilância", modelo no qual as experiências humanas mais íntimas são convertidas em insumos para a predição e a modificação de condutas a serviço de corporações transnacionais. Desse modo, permitem emergir novas arquiteturas de poder, marcadas por uma recursividade constante na qual as assimetrias informacionais entre os indivíduos, os conglomerados tecnológicos (Big Techs) e o aparato estatal se amplificam e condicionam a participação política.
Torna-se imperioso, portanto, submeter a suposta neutralidade de tais sistemas a um crivo crítico rigoroso. Algoritmos são estruturados a partir de escolhas humanas, vieses de amostragem em suas bases de treinamento e objetivos mercadológicos ou burocráticos predefinidos. A opacidade intrínseca a esses processos decisórios, muitas vezes protegida pelo segredo comercial, dificulta a fiscalização de seus critérios internos. O impacto sobre a circulação da informação é perceptível: as plataformas digitais valem-se de filtros automatizados para gerenciar fluxos discursivos e a moderação seletiva de conteúdos, centralizando o controle do ambiente virtual em imperativos corporativos privados, imunes às formas convencionais de fiscalização.
A incorporação de tecnologias algorítmicas pelo Estado adquire contornos ainda mais severos, maximizando os riscos associados à vigilância digital. Ferramentas de reconhecimento facial, monitoramento urbano computacional e policiamento preditivo têm sido adotadas sob a justificativa da eficiência administrativa e da segurança pública. Entretanto, tais mecanismos operam em zonas de penumbra, carecendo de níveis satisfatórios de transparência democrática e de controle institucional, o que potencializa riscos de discriminação, seletividade punitiva e reprodução de desigualdades estruturais sob o manto de uma presumida objetividade técnica.
Por fim, constata-se que a naturalização dessas práticas concorre para a invisibilização dos aparatos de controle digital, frequentemente percebidos pelo corpo social como sinônimos de conveniência e otimização. Essa normalização cultural viabiliza dominações difusas e imperceptíveis, nas quais o poder é exercido de maneira contínua, desafiando as instâncias tradicionais de governança. A expansão desse cenário atesta que as mutações contemporâneas do poder não se limitam à relação binária tradicional entre Estado e cidadão, mas envolvem infraestruturas tecnológicas que reorganizam as matrizes de produção do conhecimento, de coordenação social e de exercício da soberania popular em sociedades estruturalmente mediadas por dados.
4. VIGILÂNCIA ALGORÍTMICA E DESAFIOS À EFETIVIDADE DOS DIREITOS FUNDAMENTAIS
Os processos contemporâneos de fragilização constitucional não se manifestam, via de regra, por meio da supressão abrupta de garantias ou de rupturas institucionais clássicas. Sob um formato mais sofisticado, desenvolvem-se de forma gradual, difusa e tecnologicamente mediada, mediante o alargamento de mecanismos de monitoramento, coleta massiva de dados e tomadas de decisão automatizadas que constringem os espaços de autonomia individual e de participação democrática.
Diversamente dos autoritarismos clássicos, caracterizados pela suspensão formal e ostensiva do ordenamento jurídico, as novas dinâmicas operam de modo contínuo e socialmente legitimado, preservando uma fachada de normalidade institucional enquanto esvaziam os limites materiais do exercício dos direitos de cidadania. A possibilidade de monitoramento panóptico permanente induz a um efeito de conformação silenciosa das condutas, fenômeno teorizado como chilling effect (efeito inibidor), o qual sufoca a espontaneidade, o dissenso e a participação plural. Ademais, o emprego sistemático de ferramentas automatizadas de classificação e predição comportamental introduz graves riscos ao princípio da igualdade substancial, fazendo com que tecnologias de reconhecimento facial e análises de risco preditivo reproduzam padrões discriminatórios historicamente arraigados nos bancos de dados utilizados para o seu treinamento, perpetuando desigualdades estruturais sob o pretexto de uma neutralidade técnica.
As reflexões de Jürgen Habermas (1997) adquirem especial relevo na compreensão desse diagnóstico, porquanto a legitimidade das ordens constitucionais democráticas é dependente de uma esfera pública livre, estruturada pela circulação plural e desimpedida de argumentos. Contudo, quando os fluxos informacionais são pautados por infraestruturas digitais opacas, criam-se barreiras intransponíveis à formação autônoma da vontade política e à própria qualidade deliberativa do ambiente democrático. Esse cenário é agravado pelos dispositivos de controle psicopolítico analisados por Byung-Chul Han (2018), os quais operam sem coerção ou repressão evidentes, mas pela busca da adesão voluntária do indivíduo à lógica de exposição perpétua e produção de dados. O poder, sob essa ótica, desveste-se de sua aparência impositiva clássica para se tornar mais difuso e molecular e, por isso mesmo, mais eficaz.
Inseparavelmente, a expansão dessas práticas de monitoramento digital e a consequente flexibilização das garantias constitucionais podem ser lidas sob a clave da normalização do estado de exceção, conforme teorizado por Giorgio Agamben (2004). Medidas de vigilância originariamente justificadas por razões emergenciais de segurança, saúde ou otimização administrativa passam a integrar, de forma perene, as estruturas ordinárias de governo, perenizando a lógica do controle biopolítico contínuo. A erosão do espaço de autonomia opera de forma gradual e imperceptível, por meio da naturalização da vigilância e da dependência acrítica de sistemas automatizados de decisão. À vista disso, a preservação das promessas do constitucionalismo exige o robustecimento de mecanismos de transparência radical e a imposição de limites imperativos ao novo poder informacional privado.
4.1. Proteção de Dados, Constitucionalismo Digital e Limites Jurídicos da Vigilância Algorítmica
A intensificação do panoptismo digital impõe a necessidade de reconstrução das categorias clássicas de proteção dos direitos fundamentais, de modo a fazer frente às novas formas de poder na sociedade informacional. Nesse cenário, o direito à privacidade descola-se de sua concepção tradicional, focada estritamente na intimidade individual, para assumir uma dimensão marcadamente estrutural, indissociável da preservação da liberdade, da autonomia e da própria higidez do regime constitucional. A proteção de dados, sob essa perspectiva, não se reduz a uma vertente acessória ou instrumental da privacidade; ao contrário, consolida-se como instituto autônomo de prevenção e contenção das assimetrias de poder geradas pela economia política da informação.
Nessa senda, Stefano Rodotà (2008) postula que a proteção de dados deve ser compreendida como a expressão máxima da autodeterminação informativa, isto é, a prerrogativa do indivíduo de exercer controle efetivo sobre a coleta, o armazenamento, a destinação e a circulação de suas informações pessoais. Em sentido convergente, Danilo Doneda (2019) adverte que a proteção de dados pessoais transcende uma dimensão puramente técnica ou gerencial, erigindo-se como instrumento de concretização do princípio da dignidade da pessoa humana. Como o tráfego massivo e desregulado de dados atinge diretamente a igualdade de oportunidades e a inclusão social, o constitucionalismo digital emerge como o esforço teórico e normativo de transposição dos princípios constitucionais clássicos para o ambiente das novas relações de poder, buscando submeter os impérios tecnológicos aos limites axiológicos do Estado Constitucional.
No ordenamento jurídico pátrio, a Lei Geral de Proteção de Dados Pessoais (LGPD — Lei nº 13.709/2018) consubstancia marco normativo fundamental nesse processo, ao positivar vetores principiológicos imperativos, tais como a finalidade, a adequação, a necessidade, a transparência e a prestação de contas vinculante (accountability). Esse movimento de constitucionalização foi solidificado pelo Supremo Tribunal Federal no julgamento histórico da ADI 6.387/DF e, posteriormente, pela promulgação da Emenda Constitucional nº 115/2022, que elevou a proteção de dados pessoais ao catálogo dos direitos fundamentais explícitos (art. 5º, inciso LXXIX, da CF/88). Essa evolução normativa sedimenta o entendimento de que a liberdade, na era da informação, é diretamente proporcional à capacidade de controle sobre os rastros digitais que estruturam a existência social.
Apesar desses significativos avanços dogmáticos, a efetividade da tutela jurídica enfrenta severos obstáculos diante da sofisticação e da opacidade dos sistemas algorítmicos. Investigações empíricas têm demonstrado reiteradamente que as tecnologias de reconhecimento facial e os mecanismos automatizados de tomada de decisão operam como veículos de reprodução de opressões estruturais. É o que comprova a pesquisa pioneira “Gender Shades”, coordenada por Joy Buolamwini e Timnit Gebru (2018) no MIT Media Lab, a qual constatou que os sistemas de reconhecimento facial desenvolvidos por grandes corporações globais exibiam taxas de erro de identificação dramaticamente superiores em mulheres negras em comparação com homens brancos, desnudando o caráter discriminatório dos vieses sociotécnicos contidos nos bancos de dados de treinamento.
De igual modo, o algoritmo COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), empregado pelo sistema de justiça criminal dos Estados Unidos para aferir o risco de reincidência de réus, acendeu um severo debate acerca da discriminação algorítmica sistêmica. Auditorias independentes demonstraram que a ferramenta atribuía, de forma sistemática e errônea, pontuações de risco mais elevadas a indivíduos negros em comparação a réus brancos com histórico criminal idêntico (ANGWIN et al., 2016), violando frontalmente os princípios constitucionais da igualdade, do devido processo legal e da igual consideração e respeito. O cenário brasileiro reproduz idêntica problemática quanto à incorporação dessas tecnologias em contextos marcados por assimetrias raciais. Ilustra essa constatação o episódio ocorrido no Rio de Janeiro, em 2024, quando uma psicóloga negra foi indevidamente abordada e detida por agentes estatais após o software de monitoramento urbano inteligente associar erroneamente suas características fenotípicas às de uma mulher foragida da justiça (DEFENSORIA PÚBLICA DO ESTADO DO RIO DE JANEIRO, 2024). Esse erro escancara como os dispositivos de vigilância biométrica perpetuam constrangimentos públicos ilegítimos, afrontando os pilares constitucionais da dignidade humana.
Quando decisões automatizadas impactam direitos subjetivos, a opacidade algorítmica deixa de ser mera falha sistêmica e passa a constituir uma grave afronta a direitos fundamentais. Dessa forma, a consolidação do constitucionalismo digital exige o desenho de mecanismos institucionais aptos a assegurar a auditabilidade, a explicabilidade algorítmica e a responsabilização das estruturas tecnológicas de poder. A tutela dos direitos fundamentais, no contexto das relações virtuais, reclama não apenas a tradicional contenção do arbítrio estatal, mas a regulação enérgica do poder informacional privado, garantindo que o desenvolvimento tecnológico permaneça estritamente subordinado aos parâmetros humanistas do Estado Constitucional.
5. CONSIDERAÇÕES FINAIS
A presente investigação partiu da hipótese de que a naturalização das práticas de vigilância digital, associada à expansão da governança algorítmica e à concentração do poder informacional, concorre para a fragilização progressiva das garantias fundamentais. Esse fenômeno, ao afrontar os pressupostos normativos do Estado Constitucional, guarda estrita compatibilidade com as manifestações contemporâneas de uma excepcionalidade permanente e tecnologicamente mediada. A análise desenvolvida ao longo do estudo confirmou essa presunção, evidenciando que os impactos produzidos pelos aparatos de monitoramento transcendem o ecossistema tradicional da privacidade, atingindo o próprio cerne axiológico do regime democrático.
Os elementos analisados demonstram que o panoptismo digital opera uma profunda reconfiguração na distribuição do poder informacional, colonizando os processos de formação da opinião pública e condicionando as próprias possibilidades de exercício da cidadania. A capacidade exponencial de rastreamento, classificação e predição comportamental debilita, por via de consequência, a autonomia individual, a liberdade comunicativa, a igualdade substancial de oportunidades e a higidez da participação política. Verificou-se, ainda, que esse esvaziamento prescinde de rupturas institucionais ostensivas; em sociedades orientadas por dados, ele opera de maneira gradual e dissimulada, frequentemente chancelado por narrativas de eficiência, inovação e segurança que preservam intacta a fachada de normalidade institucional e o funcionamento dos ritos procedimentais, ao passo que reconfiguram silenciosamente os espaços de dissidência.
Constatou-se que, inseridos em contextos de assimetria socioeconômica, os sistemas de processamento de dados reproduzem opressões estruturais, ampliando mecanismos de exclusão social sob o manto de uma presumida objetividade matemática. Os dados empíricos analisados, notadamente os vieses raciais e de gênero nos sistemas de reconhecimento facial e de justiça preditiva, atestam que a inovação tecnológica, quando desprovida de mecanismos efetivos de auditabilidade e controle social, atua como vetor de fragilização das garantias constitucionais. Nesse horizonte, a proteção de dados pessoais e o amadurecimento do constitucionalismo digital assumem papel de vanguarda na preservação das liberdades na era da informação. Ultrapassando a condição de instrumentos meramente defensivos, tais institutos consubstanciam garantias estruturantes da autodeterminação informativa e da agência política.
Conclui-se, por conseguinte, que a tutela dos direitos fundamentais na era digital reclama o robustecimento de arranjos institucionais aptos a assegurar a transparência, a explicabilidade algorítmica, o controle democrático e a estrita responsabilização das infraestruturas tecnológicas. Em última análise, o desafio civilizatório contemporâneo não reside em conter o avanço técnico, que é necessário, mas na necessidade de garantir que sua expansão permaneça subordinada aos vetores da liberdade, da igualdade e da dignidade da pessoa humana, impedindo que a inovação se converta em um instrumento de neutralização da autonomia que fundamenta a ordem constitucional.
REFERÊNCIAS BIBLIOGRÁFICAS
AGAMBEN, Giorgio. Estado de exceção. 2. ed. São Paulo: Boitempo, 2004.
ANGWIN, Julia; LARSON, Jeff; MATTU, Surya; KIRCHNER, Lauren. Machine bias. ProPublica, New York, 23 maio 2016. Disponível em: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing. Acesso em: 11 jun. 2026.
BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Brasília, DF: Senado Federal, 1988.
BRASIL. Emenda Constitucional n. 115, de 10 de fevereiro de 2022. Altera a Constituição Federal para incluir a proteção de dados pessoais entre os direitos e garantias fundamentais e para fixar a competência privativa da União para legislar sobre proteção e tratamento de dados pessoais. Diário Oficial da União: seção 1, Brasília, DF, 11 fev. 2022.
BRASIL. Lei n. 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União: seção 1, Brasília, DF, 15 ago. 2018.
BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: intersectional accuracy disparities in commercial gender classification. In: CONFERENCE ON FAIRNESS, ACCOUNTABILITY AND TRANSPARENCY, 2018, New York. Proceedings [...]. New York: PMLR, 2018. p. 77-91.
DEFENSORIA PÚBLICA DO ESTADO DO RIO DE JANEIRO. Erro em reconhecimento facial constrange psicóloga em conferência. Rio de Janeiro, 12 jul. 2024. Disponível em: https://defensoria.rj.def.br. Acesso em: 11 jun. 2026.
DONEDA, Danilo. Da privacidade à proteção de dados pessoais: elementos da formação da Lei Geral de Proteção de Dados. 2. ed. São Paulo: Thomson Reuters Brasil, 2019.
DWORKIN, Ronald. Levando os direitos a sério. 3. ed. São Paulo: WMF Martins Fontes, 2010.
FERRAJOLI, Luigi. Direitos e garantias: a lei do mais fraco. 6. ed. São Paulo: Revista dos Tribunais, 2014.
FOUCAULT, Michel. Vigiar e punir: nascimento da prisão. 42. ed. Petrópolis: Vozes, 2014.
HABERMAS, Jürgen. Direito e democracia: entre facticidade e validade. v. 1. Rio de Janeiro: Tempo Brasileiro, 1997.
HAN, Byung-Chul. No enxame: perspectivas do digital. Petrópolis: Vozes, 2018.
RODOTÀ, Stefano. A vida na sociedade da vigilância: a privacidade hoje. Rio de Janeiro: Renovar, 2008.
ZUBOFF, Shoshana. A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder. Rio de Janeiro: Intrínseca, 2021.
1 Advogada, Mestranda em Direito e Estado na Era Digital, pelo Univem.