DECISÕES ESTATAIS AUTOMATIZADAS E O DEVIDO PROCESSO CONSTITUCIONAL: LIMITES DA INTELIGÊNCIA ARTIFICIAL NO EXERCÍCIO DA FUNÇÃO ADMINISTRATIVA

REGISTRO DOI: 10.70773/revistatopicos/791882636

RESUMO
O presente artigo analisa os limites constitucionais impostos ao uso da inteligência artificial no exercício da função administrativa, tendo como problema central identificar que limites o devido processo constitucional impõe às decisões administrativas automatizadas, especialmente quanto à motivação, ao contraditório, à ampla defesa e à impessoalidade. A pesquisa examina experiências documentadas de automação administrativa, com destaque para o reconhecimento automático de direitos pelo Instituto Nacional do Seguro Social e para os sistemas de análise e seleção utilizados pela administração tributária, e as confronta com a Constituição Federal, a Lei nº 9.784/1999, a Lei Geral de Proteção de Dados, a jurisprudência do Supremo Tribunal Federal e referências do direito comparado. Os parâmetros propostos são então aplicados ao caso do reconhecimento automático de direitos, com base em relatório de auditoria do órgão. Utiliza-se o método dedutivo, mediante pesquisa bibliográfica e documental, com exame de doutrina de direito administrativo e de direito digital, de legislação, de jurisprudência e de documentos institucionais. Os resultados indicam que a automação pode contribuir para a eficiência e a padronização, mas não afasta os deveres jurídicos de motivação, transparência, possibilidade de contestação, supervisão humana e responsabilização. Conclui-se que o emprego de sistemas automatizados pela Administração Pública é juridicamente possível, desde que estruturado segundo parâmetros de explicabilidade, acesso aos critérios relevantes, auditoria, avaliação de impacto e revisão humana proporcional ao risco e à natureza do ato administrativo.
Palavras-chave: inteligência artificial; decisão administrativa automatizada; devido processo constitucional; motivação; administração pública.

ABSTRACT
This paper examines the constitutional limits on the use of artificial intelligence in the exercise of administrative functions. Its central problem is to identify which limits constitutional due process imposes on automated administrative decisions, especially regarding reason-giving, adversarial proceedings, the right of defense and impartiality. The research examines documented experiences of administrative automation, particularly the automatic recognition of rights by the Brazilian National Social Security Institute and the analysis and selection systems used by the tax administration, and confronts them with the Federal Constitution, Law No. 9,784/1999, the General Data Protection Law, decisions of the Brazilian Supreme Federal Court and comparative-law references. The proposed parameters are then applied to the automatic recognition of rights, based on the agency's audit report. The study adopts the deductive method, based on bibliographical and documentary research, covering scholarship on administrative and digital law, legislation, case law and institutional documents. The findings indicate that automation may improve efficiency and standardization, but it does not remove the duties of reason-giving, transparency, contestability, human oversight and accountability. The conclusion is that public authorities may use automated systems when they are structured according to parameters of explainability, access to relevant criteria, auditing, impact assessment and human review proportional to the risk and nature of the administrative act.
Keywords: artificial intelligence; automated administrative decision-making; constitutional due process; reason-giving; public administration.

1. INTRODUÇÃO

O presente artigo versa sobre os limites constitucionais ao uso da inteligência artificial no exercício da função administrativa, com foco nas garantias do devido processo constitucional aplicáveis às decisões estatais automatizadas. Órgãos públicos passaram a empregar ferramentas digitais para processar grandes volumes de informações e reconhecer direitos, como ocorre no Instituto Nacional do Seguro Social (INSS), cujo reconhecimento automático de direitos dispensa a atuação do servidor em ao menos uma etapa da análise do requerimento (Brasil, 2026c). O levantamento do Tribunal de Contas da União indica que cerca de 28% das 263 organizações respondentes já utilizam soluções com inteligência artificial (Brasil, 2022b).

A incorporação dessas ferramentas não é, por si só, incompatível com a ordem constitucional, que consagra a eficiência como princípio da Administração Pública (Brasil, 1988), e a literatura estrangeira sustenta que o direito administrativo não impede, em princípio, o uso de aprendizado de máquina (Coglianese; Lehr, 2017). O problema surge quando o resultado produzido pelo sistema passa a ser fundamento suficiente da decisão, sem que o administrado compreenda os elementos considerados, os conteste ou obtenha revisão efetiva, em desacordo com a motivação, o contraditório e a ampla defesa exigidos pela Lei nº 9.784/1999 (Brasil, 1999).

A escolha do tema se justifica, no plano jurídico, porque decisões automatizadas produzem efeitos concretos sobre direitos e sua compatibilidade com o devido processo (art. 5º, incisos LIV e LV, da Constituição Federal) deve ser verificada à luz dos requisitos de validade do ato administrativo (Brasil, 1988; Mello, 2015).

No plano social, cidadãos que dependem de benefícios previdenciários e assistenciais são os mais expostos a falhas e vieses, como indica a auditoria interna do INSS, que apontou inconsistências nas informações do protocolo e ausência de extratos obrigatórios em requerimentos indeferidos pelo processamento automático (Brasil, 2026c). No plano acadêmico, a explicabilidade (Alves; Andrade, 2022), a supervisão humana (Green, 2022; Wimmer; Doneda, 2022) e o devido processo tecnológico (Citron, 2008; Nunes; Andrade, 2021) são tratados, em regra, de forma separada, e o artigo procura articulá-los.

No Brasil, a ausência de marco geral de inteligência artificial em vigor não configura vazio normativo, pois há regulação fragmentada e aplicável, composta pela Constituição, pela Lei nº 9.784/1999 e pela Lei Geral de Proteção de Dados (LGPD), em especial o art. 20, sobre revisão de decisões automatizadas, e os arts. 23 a 32, sobre tratamento de dados pelo Poder Público (Brasil, 2018b).

Para fins deste trabalho, decisão administrativa automatizada é aquela produzida, total ou parcialmente, por sistema informatizado que aplica regras ou modelos preditivos para gerar resultado com efeitos jurídicos sobre o administrado, definição mais ampla que a do art. 20 da LGPD (Brasil, 2018b). A expressão “decisão estatal automatizada”, do título, restringe-se à função administrativa, e as garantias do devido processo incidem tanto sobre sistemas de regras predefinidas, como o do INSS (Brasil, 2026c), quanto sobre modelos de aprendizado, nos quais a opacidade se acentua (Alves; Andrade, 2022).

Diante desse cenário, o problema norteador do presente artigo consiste em responder ao seguinte questionamento: que limites o devido processo constitucional impõe ao uso de sistemas de inteligência artificial em decisões administrativas? Sustenta-se a tese de que a automação não é incompatível com a ordem constitucional, mas só é legítima quando preserva a possibilidade de compreender, contestar, revisar e controlar a decisão, o que exige parâmetros de explicabilidade, de acesso aos critérios, de revisão humana efetiva, de auditoria e de graduação do controle conforme o risco.

O objetivo geral é analisar os limites constitucionais ao uso da inteligência artificial no exercício da função administrativa à luz do devido processo constitucional. Especificamente, pretende-se: (a) sistematizar as garantias do devido processo aplicáveis ao processo administrativo; (b) caracterizar a decisão administrativa automatizada e seus graus de automatização; (c) identificar os riscos associados a esses sistemas, como a opacidade e o viés de automação; (d) propor parâmetros de controle jurídico e aplicá-los ao caso do INSS; e (e) examinar o tratamento normativo da matéria pela LGPD, pelo Projeto de Lei nº 2.338/2023 e pelo Regulamento (UE) 2024/1689 (AI Act) (União Europeia, 2024).

A pesquisa adota o método dedutivo e a abordagem qualitativa; quanto aos objetivos, é exploratória, descritiva e propositiva; quanto aos meios, é bibliográfica e documental, com estudo do caso do reconhecimento automático de direitos do INSS a partir de relatório de auditoria do órgão (Brasil, 2026c). Examinam-se doutrina, legislação vigente, projetos normativos em tramitação e o AI Act (União Europeia, 2024), consultados em portais oficiais até 28 de setembro de 2026, que marca o recorte temporal.

As decisões nacionais foram selecionadas por pertinência temática, origem colegiada (Plenário do Supremo Tribunal Federal e do Tribunal de Contas da União) e relevância como precedente (Brasil, 2020, 2022a, 2022b), e as experiências estrangeiras (casos SyRI e Schufa e relatório da Royal Commission sobre o Robodebt) por envolverem decisão judicial ou relatório oficial sobre automação estatal, o que permite o contraste com os parâmetros propostos.

O artigo está estruturado em três seções, além da introdução e da conclusão. A seção 2 examina as garantias do devido processo constitucional na função administrativa. A seção 3 trata da decisão administrativa automatizada, de sua tipologia, de suas manifestações na Administração brasileira e da opacidade algorítmica. A seção 4 analisa os limites e as possibilidades dessas decisões, com o tratamento normativo nacional e comparado, e propõe parâmetros de controle, aplicados ao final ao caso do INSS.

Este trabalho contou com o apoio de ferramenta de inteligência artificial (ChatGPT, com agente configurado pelo professor orientador, e Claude) para fins de aprimoramento textual, especialmente na revisão da escrita, no refinamento do problema de pesquisa, na delimitação dos objetivos e na adequação dos títulos e da estrutura do artigo. Ressalta-se, contudo, que todas as decisões conceituais, argumentativas e conclusivas permanecem de inteira responsabilidade dos autores, em conformidade com os princípios de integridade científica e honestidade intelectual, nos termos da Portaria CNPq nº 2.664/2026.

2. O DEVIDO PROCESSO CONSTITUCIONAL NO EXERCÍCIO DA FUNÇÃO ADMINISTRATIVA

Antes de investigar os limites que o devido processo constitucional impõe ao uso da inteligência artificial pela Administração Pública, é necessário reconstruir, ainda que de forma sintética, a matriz teórica deste instituto. Esta seção parte da noção de devido processo legal e constitucional, tal como consolidada na doutrina (Castro, 2005); caracteriza a função administrativa como espécie de atividade estatal sujeita a controle (Mello, 2015); examina o processo administrativo como instrumento formal de exercício dessa função (Medauar, 2008); e conclui com a aplicação das garantias nesses processos, base conceitual para a seção seguinte, dedicada à decisão administrativa automatizada.

2.1. Devido Processo Legal

O devido processo legal tem origem na tradição jurídica anglo-saxônica e, nos Estados Unidos, associa-se à cláusula do due process of law das 5ª e 14ª Emendas à Constituição. Desde cedo se desdobrou em duas dimensões: o devido processo formal ou procedimental (procedural due process), voltado a assegurar a regularidade do procedimento pelo qual uma decisão estatal é produzida, e o devido processo substancial (substantive due process), que controla o próprio conteúdo da decisão, verificando sua razoabilidade e proporcionalidade (Barroso, 2020; Castro, 2005).

A Constituição Federal de 1988 consagrou a garantia no art. 5º, inciso LIV, ao estabelecer que ninguém será privado da liberdade ou de seus bens sem o devido processo legal. No inciso LV, assegura aos litigantes, em processo judicial ou administrativo, e aos acusados em geral, o contraditório e a ampla defesa, com os meios e recursos a ela inerentes (Brasil, 1988). O texto constitucional fala apenas em devido processo legal. A leitura substantiva da cláusula, que a associa à razoabilidade e à proporcionalidade, é construção da doutrina, que reconhece no art. 5º, LIV, fundamento para o controle da razoabilidade dos atos do Poder Público (Barroso, 2020; Castro, 2005).

Neste trabalho, a expressão “devido processo constitucional” designa essa cláusula lida em conjunto com as demais garantias constitucionais de processo e com os princípios do art. 37 da Constituição, sem filiação a uma escola específica da teoria do processo (Brasil, 1988).

A extensão expressa da garantia aos processos administrativos, e não apenas aos judiciais, é dado normativo central para o presente artigo. Significa que a atuação da Administração, mesmo quando não tem caráter sancionador ou litigioso, está constitucionalmente vinculada à observância do contraditório, da ampla defesa e de uma decisão motivada, sempre que dela resultarem efeitos sobre a esfera jurídica do administrado (Bacellar Filho, 1998; Mello, 2015).

Nesse sentido, o devido processo constitucional não se resume à garantia de índole processual estrita, mas funciona como princípio estruturante da atuação estatal, apto a legitimar substancialmente os atos que dela decorrem (Binenbojm, 2014). Adotam-se aqui as duas dimensões: a procedimental será trabalhada na seção 2.3, por meio das garantias de motivação, contraditório e impessoalidade; a substantiva será mobilizada na seção 4.1, para avaliar a razoabilidade e a proporcionalidade do próprio uso de sistemas automatizados.

2.2. Função Administrativa e Processo Administrativo

A função administrativa constitui uma das expressões do poder estatal, ao lado da função legislativa e da função jurisdicional, e se caracteriza pela atuação concreta e infralegal do Estado na consecução do interesse público, nos termos e limites previamente fixados pela lei. Diferentemente da função legislativa, que inova o ordenamento jurídico de forma abstrata e geral, e da função jurisdicional, que resolve controvérsia com força de coisa julgada, a função administrativa se define por sua instrumentalidade: o agente público não decide em nome de interesses próprios, mas em estrita subordinação à lei e à finalidade pública que a norma persegue (Mello, 2015).

Essa subordinação à legalidade, associada aos princípios da impessoalidade, da moralidade, da publicidade e da eficiência, todos expressos no art. 37, caput, da Constituição Federal, impõe à Administração Pública o dever de justificar suas decisões e de sujeitá-las a mecanismos de controle, sejam eles internos, judiciais ou sociais (Brasil, 1988; Di Pietro, 2023). Esse modelo é desafiado quando a função administrativa passa a ser exercida, total ou parcialmente, por sistemas informatizados dotados de capacidade preditiva.

O processo administrativo é o instrumento formal por meio do qual a função administrativa se exterioriza e se torna controlável. A Lei nº 9.784/1999, que regula o processo administrativo no âmbito da Administração Pública Federal, positiva, em seu art. 2º, os princípios que devem orientar essa atividade, entre eles a legalidade, a finalidade, a motivação, a razoabilidade, a proporcionalidade, a moralidade, a ampla defesa, o contraditório, a segurança jurídica, o interesse público e a eficiência (Brasil, 1999).

O parágrafo único do mesmo artigo detalha ainda critérios como a indicação dos pressupostos de fato e de direito que determinarem a decisão (inciso VII), a observância das formalidades essenciais à garantia dos direitos dos administrados (inciso VIII) e a adoção de formas simples, suficientes para propiciar adequado grau de certeza, segurança e respeito aos direitos dos administrados (inciso IX) (Brasil, 1999).

Sob essa perspectiva, o processo administrativo não é mera sucessão de atos formais, mas sequência ordenada de fases, usualmente compreendidas em instauração, instrução, decisão e, quando cabível, revisão, que tem por finalidade assegurar que a vontade da Administração Pública seja formada de modo racional, transparente e sujeito a controle (Di Pietro, 2023; Medauar, 2008). É nessa sequência procedimental que as garantias do devido processo constitucional, examinadas no item anterior, ganham concretude prática, o que remete ao próximo tópico.

A automação pode atuar em etapas de instrução, triagem, conferência ou cálculo, mas a presença de tecnologia não elimina a necessidade de que o resultado final permaneça inserido em procedimento juridicamente controlável, sobretudo quando o sistema influencia ou produz resultado capaz de restringir direitos ou impor deveres ao administrado.

2.3. Aplicação do Devido Processo nos Processos Administrativos

A aplicação concreta do devido processo constitucional nos processos administrativos se manifesta, em primeiro lugar, pelo dever de motivação, que Mello (2015) qualifica como verdadeiro requisito de legitimidade do ato administrativo, e não mera formalidade extrínseca. A validade do ato depende da correlação lógica entre o resultado da decisão e os motivos que a autoridade competente declara como seu fundamento. Gabardo e Hachem (2017) reforçam que a motivação funciona como instrumento de controle da discricionariedade administrativa e de proteção da confiança legítima do administrado, ao permitir que este verifique se a decisão observou os parâmetros de legalidade, razoabilidade e proporcionalidade.

No plano legislativo, o art. 50 da Lei nº 9.784/1999 exige a motivação, com indicação dos fatos e dos fundamentos jurídicos, nos atos que neguem, limitem ou afetem direitos ou interesses, entre outros, e seu § 1º determina que ela seja explícita, clara e congruente (Brasil, 1999). A motivação, nessa leitura, não se esgota na fórmula abstrata: deve considerar o contexto do caso concreto em que o ato é praticado (Ohlweiler, 2015).

O art. 20 da Lei de Introdução às Normas do Direito Brasileiro (LINDB) veda que se decida com base em valores jurídicos abstratos sem considerar as consequências práticas da decisão (caput), e seu parágrafo único exige que a motivação demonstre a necessidade e a adequação da medida, inclusive em face das possíveis alternativas (Brasil, 2018a). Esses parâmetros servem de teste para verificar se a decisão de um modelo pode ser explicada: o que não puder ser traduzido em fatos, fundamentos jurídicos e consequências ponderadas não estará devidamente motivado.

Em segundo lugar, o contraditório e a ampla defesa, previstos no art. 5º, inciso LV, da Constituição Federal, pressupõem que o administrado tenha ciência dos elementos que fundamentam a decisão que o afeta e possa se manifestar sobre eles, antes ou depois da produção do ato, conforme a natureza do processo (Brasil, 1988). Em contextos automatizados, a garantia exige atenção adicional à qualidade das informações disponibilizadas sobre os dados e os critérios que influenciaram o resultado.

Em terceiro lugar, a impessoalidade impõe que a decisão administrativa seja tomada em razão do interesse público e dos critérios legalmente estabelecidos, e não de preferências pessoais do agente, o que veda qualquer tratamento discriminatório entre administrados em situação equivalente (Mello, 2015; Rocha, 1994). Vista como vedação de discriminação, a impessoalidade é a garantia que mais diretamente se conecta aos vieses algorítmicos, tratados na seção 3.

Pela doutrina clássica, a impessoalidade também faz com que o ato seja imputado ao órgão, e não ao agente que o praticou (art. 37, § 1º, da Constituição Federal). Essa imputação ao órgão não se confunde com a exigência de um responsável identificável, que decorre de outra fonte: a exigência de competência e de responsabilização (art. 37, § 6º), que pressupõe a identificação de uma autoridade responsável pela decisão, apta a prestar contas por seus fundamentos (Brasil, 1988; Di Pietro, 2023).

Essas três garantias, motivação, contraditório e impessoalidade, operam de modo articulado nos processos administrativos tradicionais, em que a autoridade competente é um agente público identificável, capaz de justificar suas escolhas e de ser responsabilizado por elas (Di Pietro, 2023). Essa arquitetura, construída a partir de um modelo de decisão humana, individualizada e passível de reconstrução lógica, é desafiada quando a função administrativa é exercida, no todo ou em parte, por sistemas de inteligência artificial, fenômeno examinado na seção seguinte.

3. A DECISÃO ADMINISTRATIVA AUTOMATIZADA POR USO DE INTELIGÊNCIA ARTIFICIAL NOS PROCESSOS ADMINISTRATIVOS

Compreendida a matriz constitucional e legal do devido processo administrativo, cumpre investigar o objeto específico sobre o qual essas garantias incidem. Esta seção trata de três pontos: os graus de automação, as aplicações administrativas documentadas e a opacidade algorítmica, que atravessa as demais questões tratadas neste artigo. A compreensão adequada desses pontos é pressuposto para discutir em que medida as garantias do devido processo constitucional são observadas por esses sistemas. O objetivo não é tratar toda automação como equivalente, mas identificar em que situações o uso da tecnologia aumenta a necessidade de controle humano e jurídico (Wimmer; Doneda, 2022).

3.1. Conceito e Tipologia das Decisões Automatizadas

As decisões administrativas podem ser classificadas, para fins analíticos, segundo o grau de participação do sistema no resultado. Trata-se de classificação adotada neste trabalho, construída a partir da gradação de intervenção humana examinada por Wimmer e Doneda (2022) e da referência do art. 20 da LGPD às decisões tomadas unicamente com base em tratamento automatizado (Brasil, 2018b).

Na automação auxiliar, o sistema organiza dados, realiza cálculos ou apresenta informações, enquanto a autoridade humana conserva a decisão. Na automação semiautônoma, o sistema produz uma recomendação, classificação ou minuta que é submetida à revisão de agente humano, a quem cabe confirmá-la ou afastá-la. Na automação plena, o resultado é gerado e aplicado sem intervenção humana relevante no caso concreto (Wimmer; Doneda, 2022). A classificação é analítica e não substitui a verificação do funcionamento efetivo do sistema.

Essa tripartição não é meramente descritiva: ela carrega consequências jurídicas distintas. Quanto mais o sistema se aproxima da decisão plenamente automatizada, maior a exigência de mecanismos formais de controle, já que se reduzem o espaço para a discricionariedade e, com ele, a possibilidade de correção de eventuais distorções do modelo (Wimmer; Doneda, 2022). Antes de discutir se determinada decisão observou o devido processo constitucional, é preciso identificar em que grau da escala ela se posiciona, pois a resposta jurídica não é uniforme para as três hipóteses.

Na prática administrativa, contudo, essa distinção nem sempre é nítida. Há o risco de que decisões formalmente classificadas como semiautônomas, nas quais, em tese, um servidor revisaria a recomendação do sistema antes de homologá-la, funcionem na rotina de trabalho como decisões plenamente automatizadas disfarçadas, na medida em que o volume de processos e a confiança depositada no sistema levem à homologação quase automática das sugestões algorítmicas (Green, 2022).

Esse fenômeno é conhecido, na literatura sobre a interação entre pessoas e sistemas automatizados, como viés de automação: a tendência de aceitar a recomendação do sistema sem verificá-la de modo independente, mesmo diante de informações que a contradizem (Parasuraman; Manzey, 2010; Skitka; Mosier; Burdick, 1999).

Já no campo dos algoritmos governamentais, Green (2022) sustenta que políticas que se limitam a exigir supervisão humana partem de uma premissa pouco amparada pelas evidências: a de que as pessoas conseguem, de fato, exercer essa função de controle. O próprio AI Act registra a preocupação ao determinar, em seu art. 14, que os responsáveis pela supervisão de sistemas de alto risco permaneçam conscientes da tendência de confiar automaticamente na saída do sistema (União Europeia, 2024). A mera assinatura ou homologação, nesse cenário, não equivale a supervisão humana significativa.

Reconhecer esse descompasso entre a tipologia formal e a prática administrativa é relevante, porque revela que a mera existência de um agente público no fluxo decisório não é suficiente para afastar os riscos identificados pela doutrina. É necessário perguntar não apenas se há um humano no circuito, mas se esse humano exerce, de fato, um juízo crítico sobre o resultado apresentado pelo sistema (Green, 2022). Essa constatação será retomada na seção 4, ao se tratar da exigência do human in the loop como parâmetro de revisão humana efetiva.

3.2. Aplicações Concretas da Decisão Automatizada na Administração Pública Brasileira

No plano concreto, a Administração Pública federal já emprega sistemas de inteligência artificial em contextos variados (Brasil, 2022b), e a automação de decisões e análises alcança, em particular, o reconhecimento de direitos previdenciários (Brasil, 2026c) e a análise das declarações do Imposto de Renda (Brasil, 2026d). Cristóvam e Sousa (2020) observam que a transparência no tratamento de dados pessoais pela Administração Pública ainda funciona como um processo inacabado de refinamento normativo, distante de plena compreensão, pelo cidadão, dos critérios empregados nessas decisões.

No âmbito previdenciário, o reconhecimento automático de direitos do INSS ocorre conforme regras pré definidas e configuradas nos sistemas, com dispensa da atuação do servidor em ao menos uma etapa da análise do requerimento. Segundo a Auditoria-Geral do órgão, entre janeiro e junho de 2025 foram concluídos automaticamente 543.419 requerimentos, dos quais 263.188 foram concedidos e 280.231 indeferidos, e a meta institucional para 2025 era que 55% dos requerimentos fossem despachados de forma automática (Brasil, 2026c).

A mesma auditoria identificou 623 cenários de automação, dos quais 536 ativos, sem documento consolidado que os especifique. Em amostra de 261 requerimentos de benefícios previdenciários indeferidos, constatou inconsistências nas informações do protocolo em 120 casos (45,98%), inconsistências com impacto na decisão em 110 (42,14%) e ausência dos extratos obrigatórios dos sistemas em 241 (92,34%) (Brasil, 2026c).

O caso mostra que a automação examinada se baseia em regras predefinidas, o que reforça a distinção feita na introdução entre automação e inteligência artificial em sentido estrito. Suas implicações para as garantias do devido processo constitucional são examinadas na seção 4.4 (Brasil, 2026c).

Na administração tributária, a Receita Federal informa que as declarações do Imposto de Renda são analisadas eletronicamente, mediante comparação com informações fornecidas por outras entidades. Quando identificadas divergências, a declaração pode ser separada para análise mais aprofundada. É importante, porém, não confundir a malha fiscal, que corresponde à retenção e à análise da declaração, com a seleção de contribuintes para fiscalização. A identificação de inconsistências ou a seleção para análise constitui etapa preparatória e não equivale, por si só, à decisão final que determine a existência de crédito tributário (Brasil, 2026d).

Esses exemplos mostram que a automação pode aparecer em momentos diferentes do procedimento administrativo: pode auxiliar a instrução, organizar informações, identificar inconsistências, reconhecer automaticamente determinados requisitos ou produzir uma recomendação. A qualificação jurídica da decisão deve, portanto, considerar o lugar ocupado pelo sistema no fluxo decisório e os efeitos efetivamente produzidos sobre o administrado, e não apenas a existência de tecnologia (Brasil, 2026c, 2026d).

A experiência estrangeira reforça a necessidade dessa diferenciação. No caso SyRI, a Rechtbank Den Haag examinou um sistema estatal de análise de dados destinado à prevenção e ao combate de fraudes em áreas como seguridade social, benefícios e tributos. Em 5 de fevereiro de 2020, o tribunal considerou que a legislação que amparava o sistema não satisfazia as exigências de transparência e controle impostas pelo art. 8º da Convenção Europeia de Direitos Humanos (Rechtbank Den Haag, 2020). O caso é relevante porque evidencia que o emprego de tecnologia para fins legítimos não elimina a exigência de que a intervenção estatal seja suficientemente cognoscível e controlável.

3.3. Opacidade Algorítmica e Explicabilidade

A opacidade algorítmica corresponde à dificuldade de compreender como determinados dados e operações conduzem ao resultado produzido por um sistema. Em modelos de aprendizado de máquina, essa dificuldade pode decorrer da complexidade técnica, mas, em outros casos, resulta de escolhas institucionais, contratuais ou de proteção de segredo empresarial. Alves e Andrade (2022) destacam que técnicas de inteligência artificial explicável podem contribuir para reduzir a opacidade e identificar vieses, especialmente em sistemas cujos resultados têm impacto relevante sobre direitos. A expressão “governança algorítmica”, por sua vez, designa o conjunto de mecanismos pelos quais se busca controlar o uso de algoritmos na tomada de decisões que afetam pessoas (Doneda; Almeida, 2016).

A distinção entre opacidade técnica e opacidade comercial é juridicamente importante. A primeira decorre das características do modelo e de sua complexidade; a segunda pode resultar de restrições contratuais impostas por fornecedores. Em ambos os casos, porém, a Administração continua responsável por assegurar condições mínimas para compreender, registrar e controlar o funcionamento do sistema que utiliza. O segredo comercial não pode ser tratado como justificativa automática para inviabilizar o controle de um ato administrativo (Brasil, 2018b, art. 20, § 2º).

Essa exigência se relaciona diretamente ao devido processo. Se o administrador não consegue conhecer os elementos relevantes utilizados para uma decisão, sua capacidade de contestá-la fica reduzida. O mesmo ocorre com a motivação, a auditoria e o controle jurisdicional, que se enfraquecem quando o próprio órgão público não consegue reconstruir a cadeia decisória. O problema, portanto, não é exigir que todo cidadão compreenda o código-fonte, mas assegurar informação suficiente para identificar os dados relevantes, a finalidade, os critérios gerais e os elementos que efetivamente influenciaram o resultado (Nunes; Andrade, 2021).

É nesse sentido que a ideia de devido processo tecnológico ganha utilidade analítica. Citron (2008) a formulou no direito norte-americano ao sustentar que sistemas automatizados que decidem sobre direitos devem assegurar aviso, oportunidade de manifestação e transparência das regras aplicadas. No Brasil, Nunes e Andrade (2021) retomam a ideia para defender que as garantias processuais tradicionais sejam traduzidas em requisitos técnicos capazes de funcionar em ambientes digitais. A explicabilidade, a rastreabilidade e a possibilidade de revisão não são fins autônomos, mas instrumentos para preservar direitos que já encontram fundamento na Constituição e na legislação administrativa (Brasil, 1988).

4. LIMITES E POSSIBILIDADES NO USO DE DECISÕES AUTOMATIZADAS NA ATIVIDADE ADMINISTRATIVA, À LUZ DO DEVIDO PROCESSO CONSTITUCIONAL

Delimitado o fenômeno da decisão administrativa automatizada, esta seção examina os parâmetros jurídicos que devem orientar sua utilização. A análise se organiza em quatro eixos: na subseção 4.1, a validade do ato, o dever de motivação e os parâmetros de controle da decisão automatizada, incluindo a razoabilidade e a proporcionalidade do próprio uso do sistema; na subseção 4.2, o controle jurisdicional e a responsabilidade civil do Estado; na subseção 4.3, o tratamento conferido à matéria pela LGPD, pelo Projeto de Lei nº 2.338/2023 e pelo direito comparado, seguido de um balanço crítico que articula esses elementos para responder ao problema de pesquisa; e, na subseção 4.4, a aplicação dos parâmetros ao caso do reconhecimento automático de direitos do INSS.

4.1. Validade do Ato, Motivação e Parâmetros de Controle

A validade do ato administrativo depende de cinco elementos, apontados pela doutrina e pelo art. 2º da Lei nº 4.717/1965: competência, finalidade, forma, motivo e objeto (Brasil, 1965; Di Pietro, 2023; Mello, 2015). Confrontar cada um deles com a automação oferece uma grade para identificar onde o uso de sistemas pode comprometer a validade do ato. Quanto à competência, a decisão só é válida se proferida pelo órgão ou agente a quem a lei a atribuiu; a adoção de um sistema não desloca a competência para o software nem para seu fornecedor, de modo que a Administração precisa ter base legal para automatizar a etapa em questão e manter identificado o responsável.

Quanto à finalidade, o risco está no descompasso entre o objetivo para o qual o modelo foi otimizado, como maximizar a detecção de irregularidades, e a finalidade legal do ato, como reconhecer direitos, pois, se o critério do sistema se afasta do fim legal, pode haver desvio de finalidade. Quanto à forma, o art. 2º, parágrafo único, inciso VIII, da Lei nº 9.784/1999 exige a observância das formalidades essenciais à garantia dos direitos dos administrados, o que inclui registro e rastreabilidade do que o sistema fez em cada caso (Brasil, 1999).

Quanto ao motivo, o ato exige pressupostos de fato e de direito verdadeiros; dados incorretos, desatualizados ou correlações estatísticas sem correspondência com os fatos que a lei exige podem levar a decisões sem motivo válido. Quanto ao objeto, o conteúdo do ato deve ser lícito, possível e determinado e, nos atos discricionários, a escolha entre objetos igualmente lícitos exige juízo de conveniência que não pode ser reduzido a um resultado algorítmico sem a assunção de responsabilidade pela autoridade competente (Mello, 2015).

O dever de motivação dos atos administrativos não desaparece quando o resultado é produzido com auxílio de tecnologia. Ao contrário, torna-se necessário demonstrar como os pressupostos de fato e de direito se relacionam com a conclusão adotada. Em decisões automatizadas, a afirmação de que “o sistema calculou tal resultado” é insuficiente quando o cálculo é determinante para a decisão: essa frase descreve o instrumento, mas não apresenta fundamentação (Brasil, 1999).

A motivação adequada deve permitir identificar, em linguagem compatível com o destinatário, quais dados relevantes foram utilizados, qual finalidade orientou o tratamento, quais critérios gerais foram aplicados e quais elementos do caso conduziram ao resultado. Não se exige, em todos os casos, a divulgação integral do código-fonte; exige-se, na verdade, informação suficiente para o controle jurídico e o exercício da defesa. A própria LGPD prevê, no art. 20, § 1º, o fornecimento de informações claras e adequadas sobre os critérios e procedimentos utilizados na decisão automatizada, ressalvados os segredos comercial e industrial (Brasil, 2018b).

A explicabilidade deve ser proporcional ao impacto da decisão. Sistemas que apenas realizam tarefas materiais ou preparatórias podem demandar explicações mais simples, enquanto decisões que neguem benefícios, imponham sanções, restrinjam direitos ou produzam consequências relevantes exigem maior rastreabilidade e justificativa (Alves; Andrade, 2022). Quando a Administração não consegue reconstruir os fundamentos determinantes de um ato automatizado, surge dificuldade concreta para verificar legalidade, razoabilidade e proporcionalidade.

A insuficiência da motivação deve ser examinada caso a caso, considerando a natureza do ato e sua repercussão. Não se trata de declarar a nulidade de toda decisão auxiliada por algoritmo, mas de reconhecer que, quando a fundamentação necessária não puder ser reconstruída ou controlada, o vício poderá comprometer a validade do ato (Mello, 2015).

Dessas premissas decorrem os parâmetros de controle. O primeiro é a explicabilidade: a Administração deve ser capaz de fornecer explicação compreensível sobre a finalidade do sistema, os tipos de dados considerados, os critérios relevantes e a forma como o resultado se relaciona com o caso concreto. O segundo é o acesso aos critérios relevantes, especialmente quando a decisão for desfavorável. Esse acesso não significa necessariamente disponibilizar o código-fonte, mas assegurar informação suficiente para que o administrador possa identificar possíveis erros, inconsistências ou discriminações e formular contestação efetiva (Alves; Andrade, 2022; Nunes; Andrade, 2021).

O terceiro parâmetro é a revisão humana efetiva, que responde diretamente ao problema das decisões semiautônomas que funcionam como plenamente automatizadas. A revisão deve ser exercida por pessoa com competência para compreender o resultado, questioná-lo e alterá-lo, e não basta a homologação automática. Como a mera previsão de um humano no fluxo pode ser esvaziada pelo viés de automação (Green, 2022), a Administração deve dispor de indicadores que permitam verificar se a revisão ocorre de fato, como a taxa de recomendações do sistema que são alteradas, o tempo médio dedicado à análise de cada caso e a existência de treinamento específico dos revisores.

Wimmer e Doneda (2022) defendem que a intensidade da intervenção humana seja modulada segundo o risco e o impacto potencial do sistema sobre direitos fundamentais. Em decisões de maior impacto, a revisão deve ocorrer antes da produção de efeitos irreversíveis sempre que a natureza do procedimento permitir; nos demais casos, deve existir ao menos uma via posterior de revisão com capacidade real de corrigir o resultado.

O quarto parâmetro é a auditoria, acompanhada de avaliação de impacto. A Administração deve manter registros suficientes para reconstruir as etapas relevantes do processamento, testar a qualidade dos dados, verificar o desempenho, identificar vieses e avaliar consequências não previstas. O levantamento do Tribunal de Contas da União sobre o uso de inteligência artificial na Administração federal buscou justamente avaliar o estágio dessas soluções e identificar os riscos a elas associados (Brasil, 2022b), e a Autoridade Nacional de Proteção de Dados vem tratando a inteligência artificial e a revisão de decisões automatizadas como tema regulatório, inclusive mediante tomada de subsídios (Brasil, 2025a).

No direito vigente, a LGPD prevê que a autoridade nacional pode solicitar a agentes do Poder Público a publicação de relatórios de impacto à proteção de dados pessoais e determinar ao controlador a elaboração desse relatório (Brasil, 2018b, arts. 32 e 38), o que oferece ponto de apoio, ainda que parcial, para a avaliação de impacto. A auditoria do INSS sobre o reconhecimento automático, examinada na seção 3.2, ilustra o tipo de verificação que se espera da Administração (Brasil, 2026c).

O quinto parâmetro é a graduação do controle conforme a natureza do ato. Atos vinculados podem admitir maior automação, desde que os dados sejam corretos, o procedimento seja auditável e exista mecanismo de correção. Nos atos discricionários, a supervisão humana deve ser mais intensa, pois a escolha administrativa não pode ser reduzida a um resultado algorítmico sem que a autoridade competente assuma a responsabilidade pelo juízo realizado. Em ambos os casos, quanto maior o impacto sobre direitos fundamentais, maior deve ser o nível de controle (Wimmer; Doneda, 2022).

Resta a dimensão substantiva do devido processo, anunciada na seção 2.1. Os parâmetros anteriores dizem respeito ao modo como a decisão é produzida e justificada; a razoabilidade e a proporcionalidade dizem respeito ao próprio uso do sistema. Segundo a formulação usual, a proporcionalidade se decompõe em adequação, necessidade e proporcionalidade em sentido estrito (Barroso, 2020; Silva, 2002).

Aplicada ao tema, a adequação pergunta se o sistema é apto a alcançar a finalidade pública com confiabilidade suficiente, o que depende da qualidade dos dados e do desempenho demonstrado; a necessidade, se não haveria meio menos gravoso para os direitos dos administrados, como o uso do sistema apenas para triagem, com decisão humana; e a proporcionalidade em sentido estrito, se os ganhos de eficiência justificam os riscos de erro e de discriminação, especialmente para grupos vulneráveis (Barroso, 2020).

O art. 20, parágrafo único, da LINDB reforça esse exame ao exigir que a motivação demonstre a necessidade e a adequação da medida, inclusive em face de alternativas (Brasil, 2018a). A eficiência, princípio constitucional que costuma justificar a automação, é assim um dos termos da ponderação, e não um argumento que a encerra.

4.2. Controle Jurisdicional e Responsabilidade Civil do Estado

O controle jurisdicional das decisões automatizadas não deve ser compreendido como substituição da Administração pelo Poder Judiciário. Cabe ao Judiciário verificar, entre outros aspectos, a competência do órgão, a base legal do tratamento de dados, a observância do procedimento, a suficiência da motivação, a coerência entre os dados considerados e o resultado, a existência de discriminação indevida e a efetividade dos mecanismos de revisão. A tecnologia empregada não constitui zona de imunidade ao controle de legalidade (Di Pietro, 2023).

A jurisprudência do Supremo Tribunal Federal sobre proteção de dados oferece parâmetros importantes. Essas decisões não tratam diretamente de decisões automatizadas, mas fixam condições do tratamento de dados pessoais pelo Poder Público, que antecede e condiciona a decisão automatizada. Na ADI 6.387 MC-Ref/DF, o Tribunal referendou a suspensão da Medida Provisória nº 954/2020, que previa o compartilhamento de dados de usuários de telecomunicações com o Instituto Brasileiro de Geografia e Estatística (IBGE), reconhecendo a incidência da proteção constitucional sobre a intimidade, a vida privada e o sigilo de dados (Brasil, 2020).

No julgamento conjunto da ADI 6.649/DF e da ADPF 695/DF, em 15 de setembro de 2022, o Supremo estabeleceu que o compartilhamento de dados pessoais entre órgãos e entidades da Administração Pública Federal pressupõe finalidades legítimas, específicas e explícitas, compatibilidade do tratamento com essas finalidades e limitação ao mínimo necessário, além da observância da LGPD no que for compatível com o setor público (Brasil, 2022a).

Experiências estrangeiras ajudam a explicitar os riscos. No caso SyRI, examinado na seção 3.2, a Rechtbank Den Haag considero in suficientemente transparente e controlável a legislação que autorizava o sistema holandês de análise de dados para prevenção de fraudes, declarando-a incompatível com o art. 8º da Convenção Europeia de Direitos Humanos (Rechtbank Den Haag, 2020). No caso Schufa, o Tribunal de Justiça da União Europeia, no processo C-634/21, decidiu em 7 de dezembro de 2023 que uma pontuação de crédito produzida por tratamento automatizado pode assumir a natureza de decisão individual automatizada quando o terceiro atribui papel determinante ao valor calculado, submetendo a prática às exigências do art. 22 do Regulamento Geral sobre a Proteção de Dados (União Europeia, 2023).

O caso Schufa envolveu uma agência privada de informações de crédito, e não a Administração Pública, de modo que sua utilidade para este trabalho é analógica. Os casos não são idênticos à realidade brasileira, mas mostram que transparência, controle e participação humana podem ser juridicamente relevantes quando sistemas automatizados produzem efeitos sobre as pessoas (União Europeia, 2023).

O episódio australiano conhecido como Robodebt também oferece referência institucional. A Royal Commission into the Robodebt Scheme, em relatório publicado em 2023, recomendou a criação de um quadro jurídico consistente para a automação de serviços públicos, com vias claras de revisão para as pessoas afetadas, informação em linguagem acessível sobre o uso de automação e mecanismos que permitam escrutínio independente de regras e algoritmos. O relatório também recomendou estrutura capaz de monitorar e auditar decisões automatizadas quanto a aspectos técnicos, justiça, prevenção de vieses e usabilidade (Austrália, 2023).

A responsabilidade civil do Estado constitui outra dimensão do problema. O art. 37, § 6º, da Constituição Federal estabelece a responsabilidade das pessoas jurídicas de direito público e das pessoas jurídicas de direito privado prestadoras de serviços públicos pelos danos que seus agentes, nessa qualidade, causarem a terceiros (Brasil, 1988). O uso de sistema automatizado não desloca essa responsabilidade para o fornecedor do software nem transforma o algoritmo em sujeito autônomo de imputação. Eventual responsabilidade contratual ou regressiva do fornecedor pode ser discutida em relação à Administração, mas, perante o administrador lesado, permanecem relevantes o vínculo estatal, o dano e os demais pressupostos da responsabilização (Di Pietro, 2023).

4.3. Regulação Fragmentada e Balanço Crítico

O art. 20 da LGPD assegura ao titular o direito de solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses. O § 1º determina o fornecimento de informações claras e adequadas sobre os critérios e procedimentos utilizados, observados os segredos comercial e industrial. O § 2º admite auditoria pela autoridade nacional quando as informações não forem oferecidas sob alegação de segredo comercial ou industrial, para verificação de aspectos discriminatórios (Brasil, 2018b).

Já os arts. 23 a 32 da LGPD estabelecem regras específicas para o tratamento de dados pelo Poder Público. O art. 23, por exemplo, exige que o tratamento atenda à finalidade pública e ao interesse público, dentro das competências legais, e que sejam divulgadas informações claras e atualizadas sobre a previsão legal, a finalidade, os procedimentos e as práticas utilizadas (Brasil, 2018b).

A redação atualmente vigente do art. 20 não contém a expressão “por pessoa natural”, pois o § 3º que a previa foi vetado em 2019, com razões relacionadas aos impactos econômicos e à inviabilidade de exigir revisão humana em toda e qualquer decisão automatizada. Não é correto, portanto, afirmar que a LGPD estabeleça, de forma geral, revisão humana obrigatória para todas as decisões automatizadas. O que existe é um direito legal à revisão e à obtenção de informações, que deve ser articulado, no âmbito público, com as garantias constitucionais e administrativas pertinentes (Brasil, 2018b).

Mesmo quando a LGPD não resolve, isoladamente, o problema da supervisão humana, a Administração continua sujeita aos deveres constitucionais de motivação, contraditório, ampla defesa, impessoalidade e responsabilidade; a revisão humana pode decorrer da necessidade de assegurar essas garantias quando a decisão automatizada produzir impacto relevante sobre direitos (Brasil, 1988, 1999).

O Projeto de Lei nº 2.338/2023 permanece em tramitação na Câmara dos Deputados. A proposição foi aprovada pelo Senado Federal em dezembro de 2024 e encaminhada à Câmara em 2025, onde tramita em comissão especial, com projetos apensados (Brasil, 2023, 2026a). O texto aprovado pelo Senado adota abordagem baseada em níveis de risco e prevê obrigações diferenciadas conforme o uso da inteligência artificial; para sistemas de maior risco, contempla mecanismos de governança, transparência, supervisão e avaliação (Brasil, 2023).

Como ainda se trata de proposição em tramitação, suas disposições não podem ser apresentadas como direito vigente. A situação legislativa demonstra, ainda, que a análise jurídica não pode depender da aprovação de um marco geral: enquanto o Congresso debate a matéria, os princípios constitucionais, a LGPD, a Lei nº 9.784/1999, as normas setoriais e os mecanismos de controle continuam aplicáveis (Brasil, 2026a).

No plano institucional, a Resolução do Conselho Nacional de Justiça (CNJ) nº 615/2025 é exemplo de regulação setorial, embora limitada ao Poder Judiciário. O ato estabelece diretrizes para o desenvolvimento, a utilização e a governança de soluções de inteligência artificial no Judiciário e foi alterado, quanto à composição do comitê responsável, pela Resolução CNJ nº 674/2026 (Brasil, 2025b, 2026b). Sua existência mostra que parâmetros de governança podem ser estruturados por normas setoriais antes da consolidação de um marco geral.

O AI Act adota classificação baseada em risco e estabelece regime específico para os sistemas de alto risco. Entre estas, o regulamento inclui os sistemas destinados a serem utilizados por autoridades públicas, ou em seu nome, para avaliar a elegibilidade de pessoas naturais para benefícios e serviços públicos essenciais e para conceder, reduzir, revogar ou recuperar esses benefícios. O regulamento também estabelece exigências de gestão de riscos, documentação, registros, supervisão humana e outros mecanismos de governança para os sistemas abrangidos (União Europeia, 2024).

A comparação deve considerar a situação temporal do direito europeu: o Regulamento (UE) 2024/1689 passou a ser aplicável, em regra, em 2 de agosto de 2026, mas o Regulamento (UE) 2026/1744 alterou o cronograma de algumas obrigações, e as regras centrais aplicáveis aos sistemas de alto risco do Anexo III têm aplicação prevista para 2 de dezembro de 2027 (União Europeia, 2026). O dado impede tratar todas as exigências do AI Act como simultaneamente aplicáveis.

Como indicado na introdução, a literatura estrangeira registra posição segundo a qual o direito administrativo não impede, em princípio, o uso de aprendizado de máquina em decisões administrativas (Coglianese; Lehr, 2017). Essa posição converge com a tese do artigo quanto à possibilidade jurídica da automação, e o presente trabalho acrescenta que essa possibilidade depende das condições de controle examinadas na seção 4.1.

Do conjunto, extrai-se um balanço em que automação e garantias processuais são complementares, e não excludentes. A tecnologia pode ampliar a capacidade de processamento da Administração, reduzir tarefas repetitivas, favorecer a padronização e auxiliar na identificação de inconsistências. Esses ganhos, contudo, não fazem da eficiência fundamento suficiente para afastar as demais exigências jurídicas: o uso legítimo da tecnologia depende de sua integração a procedimentos capazes de preservar controle, explicação e responsabilidade (Brasil, 1988).

Os riscos centrais identificados são a opacidade, o uso de dados inadequados ou desatualizados, a reprodução de vieses, a dificuldade de contestação e o viés de automação. Eles se combinam: um sistema pouco explicável dificulta a contestação; a ausência de registros prejudica a auditoria; a homologação automática esvazia a supervisão humana, transformando decisões formalmente semiautônomas em decisões plenamente automatizadas; e a inexistência de avaliação de impacto pode permitir que efeitos discriminatórios só sejam percebidos depois de atingirem grande número de pessoas (Alves; Andrade, 2022; Green, 2022).

Por isso, os parâmetros propostos devem ser entendidos de maneira articulada: explicabilidade e acesso aos critérios viabilizam o contraditório; auditoria e avaliação de impacto favorecem a impessoalidade e a não discriminação; supervisão humana significativa preserva a possibilidade de correção e a atribuição de responsabilidade; a razoabilidade e a proporcionalidade avaliam o próprio uso do sistema; e a intensidade do controle deve acompanhar o risco e a natureza do ato. O Quadro 1 sintetiza essa articulação.

Quadro 1. Parâmetros de controle das decisões administrativas automatizadas

Fonte: Elaborado pelos autores.

O controle jurisdicional e o controle externo integram essa arquitetura, pois a Administração não pode ser a única instância de avaliação de um sistema que ela mesma desenvolveu ou contratou (Brasil, 2022b).

4.4. Aplicação dos Parâmetros Ao Reconhecimento Automático de Direitos do INSS

Os parâmetros propostos podem ser testados no caso do reconhecimento automático de direitos do INSS, descrito na seção 3.2. A aplicação tem alcance limitado: baseia-se no relatório de auditoria do próprio órgão (Brasil, 2026c), e não em acesso ao funcionamento dos sistemas, de modo que não se afirma a invalidade de decisões concretas, mas se identifica em que pontos os achados da auditoria tensionam cada parâmetro.

Quanto à explicabilidade, a auditoria registrou 623 cenários de automação sem relatório consolidado que contenha sua especificação e descrição (Brasil, 2026c). Sem esse documento, a Administração tem dificuldade para explicar a finalidade do sistema e os critérios aplicados a cada caso, o que fragiliza a motivação exigida pelo art. 50 da Lei nº 9.784/1999 (Brasil, 1999). Quanto ao acesso aos critérios, a ausência dos extratos obrigatórios dos sistemas em 241 dos 261 indeferimentos examinados (92,34%) reduz a capacidade de o administrador conhecer o que fundamentou a decisão e de contestá-la (Brasil, 2026c).

O motivo do ato também é afetado. Segundo a auditoria, 120 dos 261 indeferimentos (45,98%) apresentaram inconsistências nas informações do protocolo, e 110 (42,14%) apresentaram inconsistências com impacto na decisão (Brasil, 2026c). Se o indeferimento se apoia em dados inconsistentes, os pressupostos de fato do ato podem não corresponder à realidade, o que compromete sua validade por vício de motivo, nos termos da grade examinada na seção 4.1 (Mello, 2015).

No que se refere à revisão humana e à graduação do controle, o reconhecimento automático é definido como o processamento por regras predefinidas que dispensa a atuação do servidor em ao menos uma etapa da análise, e a meta institucional para 2025 era que 55% dos requerimentos fossem despachados de forma automática (Brasil, 2026c). Como o indeferimento nega direito de natureza previdenciária, trata-se de decisão de impacto elevado, para a qual os parâmetros exigem revisão humana efetiva e via posterior de correção com capacidade real de alterar o resultado (Wimmer; Doneda, 2022). A auditoria não permite afirmar se essas condições estão presentes em cada etapa, o que indica a necessidade de verificá-las.

A própria auditoria, por sua vez, corresponde ao quarto parâmetro, pois avalia os parâmetros estabelecidos para a automação e os mecanismos de monitoramento do processo (Brasil, 2026c). O caso mostra, assim, que a automação baseada em regras predefinidas, e não apenas a que emprega aprendizado de máquina, exige explicabilidade, acesso aos critérios e rastreabilidade, e que o controle interno pode funcionar como instrumento de efetivação do devido processo constitucional.

5. CONCLUSÃO

A pesquisa teve como problema identificar os limites que o devido processo constitucional impõe ao uso de sistemas de inteligência artificial em decisões administrativas. A análise permite afirmar que não há incompatibilidade abstrata entre automação e Administração Pública: a compatibilidade existe, mas depende de condições jurídicas e institucionais que preservem a possibilidade de compreender, contestar, revisar e controlar a decisão produzida com participação algorítmica. Esses limites foram sistematizados em parâmetros de controle, apresentados a seguir.

Em relação ao primeiro objetivo específico, a pesquisa sistematizou as garantias do devido processo aplicáveis à atividade administrativa, em suas dimensões procedimental e substantiva, e mostrou a centralidade da motivação, do contraditório, da ampla defesa e da impessoalidade. Em relação ao segundo, distinguiram-se a automação auxiliar, a semiautônoma e a plena, com a ressalva de que a classificação jurídica deve considerar o funcionamento real do sistema. O achado mais relevante nesse ponto é que decisões formalmente semiautônomas podem operar, na prática, como decisões plenamente automatizadas, por efeito do viés de automação, o que esvazia a supervisão humana prevista no papel.

Quanto ao terceiro objetivo, foram identificados riscos de opacidade, viés de automação, uso inadequado de dados e déficit de supervisão, e as experiências documentadas, entre elas a auditoria do INSS sobre o reconhecimento automático de direitos, mostram a relevância desses problemas. Quanto ao quarto, foram propostos parâmetros de controle baseados em explicabilidade, acesso aos critérios relevantes, revisão humana efetiva, auditoria e avaliação de impacto, graduação conforme a natureza e o risco do ato, razoabilidade e proporcionalidade do próprio uso do sistema, controle jurisdicional e responsabilização estatal. Aplicados ao reconhecimento automático de direitos do INSS, esses parâmetros evidenciaram pontos de tensão, apontados pela auditoria do órgão, com a explicabilidade, o acesso aos critérios e a motivação.

Quanto ao quinto objetivo, o exame da LGPD, do Projeto de Lei nº 2.338/2023 e do AI Act mostrou que o ordenamento brasileiro já dispõe de mecanismos relevantes, embora fragmentados, enquanto o direito comparado oferece modelos de governança orientados por risco. Conclui-se, assim, que o emprego de sistemas automatizados pela Administração Pública é juridicamente possível, desde que estruturado segundo esses parâmetros e submetido às garantias do devido processo constitucional.

Registram-se, por fim, os limites da pesquisa. A análise do caso do INSS apoia-se em relatório de auditoria do próprio órgão, sem acesso ao funcionamento dos sistemas. O marco normativo é instável, pois o Projeto de Lei nº 2.338/2023 segue em tramitação e o cronograma do AI Act foi alterado. Sugerem-se, como pesquisas futuras, estudos empíricos sobre decisões administrativas e judiciais que apliquem os parâmetros aqui propostos.

REFERÊNCIAS BIBLIOGRÁFICAS

ALVES, Marco Antônio Sousa; ANDRADE, Otávio Morato de. Da “caixa-preta” à “caixa de vidro”: o uso da explainable artificial intelligence (XAI) para reduzir a opacidade e enfrentar o enviesamento em modelos algorítmicos. Direito Público, Brasília, v. 18, n. 100, p. 349-373, 2022. DOI: 10.11117/rdp.v18i100.5973.

AUSTRÁLIA. Royal Commission into the Robodebt Scheme. Report of the Royal Commission into the Robodebt Scheme. Canberra: Commonwealth of Australia, 2023. Disponível em: https://robodebt.royalcommission.gov.au/publications/report. Acesso em: 28 set. 2026.

BACELLAR FILHO, Romeu Felipe. Processo administrativo disciplinar. 2. ed. São Paulo: Max Limonad, 1998.

BARROSO, Luís Roberto. Curso de direito constitucional contemporâneo: os conceitos fundamentais e a construção do novo modelo. 9. ed. São Paulo: Saraiva Jur, 2020.

BINENBOJM, Gustavo. Uma teoria do direito administrativo: direitos fundamentais, democracia e constitucionalização. 3. ed. Rio de Janeiro: Renovar, 2014.

BRASIL. [Constituição (1988)]. Constituição da República Federativa do Brasil de 1988. Brasília, DF: Presidência da República, 1988. Disponível em: https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em: 28 set. 2026.

BRASIL. Autoridade Nacional de Proteção de Dados. ANPD apresenta resultados da Tomada de Subsídios sobre Inteligência Artificial e Revisão de Decisões Automatizadas. Brasília, DF: ANPD, 2025a. Disponível em: https://www.gov.br/anpd/pt-br/assuntos/noticias/anpd-apresenta-resultados-da-tomada-de-subsidios-sobre-tratamento-automatizado-de-dados-pessoais/. Acesso em: 28 set. 2026.

BRASIL. Câmara dos Deputados. PL 2338/2023: ficha de tramitação. Brasília, DF: Câmara dos Deputados, 2026a. Disponível em: https://www.camara.leg.br/proposicoesWeb/prop_imp?idProposicao=2487262&tp=completa. Acesso em: 28 set. 2026.

BRASIL. Conselho Nacional de Justiça. Resolução CNJ nº 615, de 11 de março de 2025. Estabelece diretrizes para o desenvolvimento, a utilização e a governança de soluções desenvolvidas com recursos de inteligência artificial no Poder Judiciário. Brasília, DF: CNJ, 2025b. Disponível em: https://atos.cnj.jus.br/atos/detalhar/6001. Acesso em: 28 set. 2026.

BRASIL. Conselho Nacional de Justiça. Resolução CNJ nº 674, de 25 de março de 2026. Altera o art. 15 da Resolução CNJ nº 615/2025. Brasília, DF: CNJ, 2026b. Disponível em: https://atos.cnj.jus.br/atos/detalhar/6836. Acesso em: 28 set. 2026.

BRASIL. Decreto-Lei nº 4.657, de 4 de setembro de 1942. Lei de Introdução às Normas do Direito Brasileiro. Redação dada pela Lei nº 13.655, de 2018. Brasília, DF: Presidência da República, 2018a. Disponível em: https://www.planalto.gov.br/ccivil_03/decreto-lei/del4657compilado.htm. Acesso em: 28 set. 2026.

BRASIL. Instituto Nacional do Seguro Social. Auditoria-Geral. Avaliação dos parâmetros estabelecidos para o reconhecimento automático de direitos. Brasília, DF: INSS, 2026c. Disponível em: https://www.gov.br/inss/pt-br/acesso-a-informacao/auditoria/Avaliaodosparmetrosestabelecidosparaoreconhecimentoautomticodedireitos.pdf. Acesso em: 28 set. 2026.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF: Presidência da República, 2018b. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 28 set. 2026.

BRASIL. Lei nº 4.717, de 29 de junho de 1965. Regula a ação popular. Brasília, DF: Presidência da República, 1965. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l4717.htm. Acesso em: 28 set. 2026.

BRASIL. Lei nº 9.784, de 29 de janeiro de 1999. Regula o processo administrativo no âmbito da Administração Pública Federal. Brasília, DF: Presidência da República, 1999. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l9784.htm. Acesso em: 28 set. 2026.

BRASIL. Receita Federal. O que é a Malha Fiscal. Brasília, DF: Receita Federal, 2026d. Disponível em: https://www.gov.br/receitafederal/pt-br/assuntos/orientacao-tributaria/declaracoes-e-demonstrativos/revisao-de-declaracao-malha/o-que-e-a-malha-fiscal. Acesso em: 28 set. 2026.

BRASIL. Senado Federal. Projeto de Lei nº 2.338, de 2023. Dispõe sobre o uso da Inteligência Artificial. Brasília, DF: Senado Federal, 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 28 set. 2026.

BRASIL. Supremo Tribunal Federal (Plenário). Ação Direta de Inconstitucionalidade 6.387 MC-Ref/DF. Relatora: Min. Rosa Weber, julgada em 7 maio 2020. Brasília, DF: STF, 2020. Disponível em: https://portal.stf.jus.br/processos/detalhe.asp?incidente=5895165. Acesso em: 28 set. 2026.

BRASIL. Supremo Tribunal Federal (Plenário). Ação Direta de Inconstitucionalidade 6.649/DF e Arguição de Descumprimento de Preceito Fundamental 695/DF. Relator: Min. Gilmar Mendes, julgadas em 15 set. 2022. Brasília, DF: STF, 2022a. Disponível em: https://portal.stf.jus.br/processos/detalhe.asp?incidente=6079238. Acesso em: 28 set. 2026.

BRASIL. Tribunal de Contas da União (Plenário). Acórdão 1.139/2022. Levantamento sobre a utilização de inteligência artificial na Administração Pública Federal. Relator: Min. Aroldo Cedraz. Brasília, DF: TCU, 2022b. Disponível em: https://portal.tcu.gov.br/data/files/D0/C3/BC/DA/EF17781046756058F18818A8/Utilizacao%20de%20Inteligencia%20Artificial%20na%20Administracao%20Publica.pdf. Acesso em: 28 set. 2026.

CASTRO, Carlos Roberto de Siqueira. O devido processo legal e os princípios da razoabilidade e da proporcionalidade. 4. ed. Rio de Janeiro: Forense, 2005.

CITRON, Danielle Keats. Technological Due Process. Washington University Law Review, St. Louis, v. 85, n. 6, p. 1249-1313, 2008.

COGLIANESE, Cary; LEHR, David. Regulating by Robot: Administrative Decision Making in the Machine-Learning Era. Georgetown Law Journal, Washington, DC, v. 105, p. 1147-1223, 2017.

CRISTÓVAM, José Sérgio da Silva; SOUSA, Thanderson Pereira de. O controle da Administração Pública no contexto do constitucionalismo contemporâneo: um debate a partir das mudanças trazidas pela LINDB. Direitos humanos e participação política. Porto Alegre: Imprensa Livre, 2020.

DI PIETRO, Maria Sylvia Zanella. Direito administrativo. 35. ed. Rio de Janeiro: Forense, 2023.

DONEDA, Danilo; ALMEIDA, Virgílio A. F. What Is Algorithm Governance? IEEE Internet Computing, [S. l.], v. 20, n. 4, p. 60-63, 2016. DOI: 10.1109/MIC.2016.79.

GABARDO, Emerson; HACHEM, Daniel Wunder. Princípio da motivação no direito administrativo. Enciclopédia Jurídica da PUC-SP, São Paulo, 2017. Disponível em: https://enciclopediajuridica.pucsp.br/verbete/82/edicao-1/principio-da-motivacao-no-direito-administrativo. Acesso em: 28 set. 2026.

GREEN, Ben. The Flaws of Policies Requiring Human Oversight of Government Algorithms. Computer Law & Security Review, [S. l.], v. 45, 105681, 2022. DOI: 10.1016/j.clsr.2022.105681.

MEDAUAR, Odete. A processualidade no direito administrativo. 2. ed. São Paulo: Revista dos Tribunais, 2008.

MELLO, Celso Antônio Bandeira de. Curso de direito administrativo. 32. ed. São Paulo: Malheiros, 2015.

NUNES, Dierle; ANDRADE, Otávio. A explicabilidade da inteligência artificial e o devido processo tecnológico. ConJur, São Paulo, 7 jul. 2021. Disponível em: https://www.conjur.com.br/2021-jul-07/opiniao-explicabilidade-ia-devido-processo-tecnologico. Acesso em: 28 set. 2026.

OHLWEILER, Leonel. O princípio da dignidade humana e a motivação contextual dos atos administrativos: applicatio e hermenêutica filosófica. A&C – Revista de Direito Administrativo & Constitucional, Belo Horizonte, v. 15, n. 59, p. 177-197, 2015. DOI: 10.21056/aec.v15i59.69.

PARASURAMAN, Raja; MANZEY, Dietrich H. Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, [S. l.], v. 52, n. 3, p. 381-410, 2010. DOI: 10.1177/0018720810376055.

RECHTBANK DEN HAAG. ECLI:NL:RBDHA:2020:865 (NJCM c.s. tegen de Staat). Julgamento em 5 fev. 2020. Den Haag, 2020. Disponível em: https://uitspraken.rechtspraak.nl/details?id=ECLI:NL:RBDHA:2020:865. Acesso em: 28 set. 2026.

ROCHA, Carmen Lúcia Antunes. Princípios constitucionais dos servidores públicos. São Paulo: Saraiva, 1994.

SILVA, José Afonso da. Curso de direito constitucional positivo. 20. ed. São Paulo: Malheiros, 2002.

SKITKA, Linda J.; MOSIER, Kathleen L.; BURDICK, Mark D. Does Automation Bias Decision-Making? International Journal of Human-Computer Studies, [S. l.], v. 51, n. 5, p. 991-1006, 1999. DOI: 10.1006/ijhc.1999.0252.

UNIÃO EUROPEIA. Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que estabelece regras harmonizadas em matéria de inteligência artificial (Regulamento Inteligência Artificial). Jornal Oficial da União Europeia, [S. l.], 2024. Disponível em: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/por. Acesso em: 28 set. 2026.

UNIÃO EUROPEIA. Regulamento (UE) 2026/1744 do Parlamento Europeu e do Conselho, de 8 de julho de 2026, que altera o Regulamento (UE) 2024/1689 no que respeita à simplificação da aplicação das regras harmonizadas em matéria de inteligência artificial (Digital Omnibus on AI). Jornal Oficial da União Europeia, [S. l.], 2026. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX:32026R1744. Acesso em: 28 set. 2026.

UNIÃO EUROPEIA. Tribunal de Justiça (Primeira Secção). Acórdão de 7 de dezembro de 2023, processo C-634/21, SCHUFA Holding (Scoring). ECLI:EU:C:2023:957. Luxemburgo, 2023. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX:62021CJ0634. Acesso em: 1 out. 2026.

WIMMER, Miriam; DONEDA, Danilo. “Falhas de IA” e a intervenção humana em decisões automatizadas: parâmetros para a legitimação pela humanização. Direito Público, Brasília, v. 18, n. 100, p. 374-406, 2022. DOI: 10.11117/rdp.v18i100.6119.

¹ Acadêmica do curso de Bacharelado em Direito do Instituto de Ensino Superior do Sul do Maranhão (IESMA/Unisulma). E-mail: [clique para visualizar o e-mail]acesse o artigo original para visualizar o e-mail.

² Doutor em Direito (CEUB). Mestre em Formação Docente em Práticas Educativas (UFMA). Especialista em Direito Constitucional, em Gestão Pública e em Processo Penal. Professor do Curso de Bacharelado em Direito do Instituto de Ensino Superior do Sul do Maranhão (IESMA/Unisulma) e da Universidade Federal do Maranhão (UFMA). Analista Judiciário do TJMA. E-mail: [clique para visualizar o e-mail]acesse o artigo original para visualizar o e-mail