REGISTRO DOI: 10.70773/revistatopicos/793405073
RESUMO
A expansão de sistemas de inteligência artificial (IA) em ambientes educativos desloca questões antes tratadas como meramente técnicas para o centro do debate sobre currículo, trabalho docente, avaliação e conhecimento. Este ensaio teórico, apoiado em revisão narrativa e análise documental, examina implicações éticas, pedagógicas e epistemológicas da IA no ensino contemporâneo. Sustenta-se que a transformação educacional não decorre automaticamente da potência computacional de uma ferramenta, mas da redistribuição de agência, visibilidade, responsabilidade e autoridade epistêmica que ocorre quando sistemas algorítmicos passam a mediar ensinar e aprender. Para explicitar essa tese, distinguem-se IA generativa, sistemas adaptativos e sistemas algorítmicos de classificação, previsão ou recomendação, reconhecendo suas sobreposições. Discutem-se vieses, privacidade, opacidade, autoria, integridade acadêmica, desigualdade de acesso e dependência cognitiva, sem reduzir a análise à proibição ou à celebração tecnológica. Conclui-se que usos pedagogicamente justificados exigem finalidade formativa explícita, supervisão humana, proteção de dados, transparência, acessibilidade, participação docente e discente e avaliação dos efeitos sobre a aprendizagem. Propõem-se recomendações concretas para instituições, professores e estudantes, além de limites para usos de alto risco.
Palavras-chave: inteligência artificial na educação; ética; pedagogia; epistemologia; proteção de dados.
ABSTRACT
The expansion of artificial intelligence (AI) systems in educational settings moves issues previously treated as merely technical to the centre of debates about curriculum, teaching work, assessment and knowledge. This theoretical essay, supported by a narrative review and documentary analysis, examines the ethical, pedagogical and epistemological implications of AI in contemporary teaching. It argues that educational transformation does not automatically follow from a tool’s computational power; rather, it results from the redistribution of agency, visibility, responsibility and epistemic authority that occurs when algorithmic systems mediate teaching and learning. To develop this argument, generative AI, adaptive systems and algorithmic systems for classification, prediction or recommendation are distinguished while their overlaps are acknowledged. The article discusses bias, privacy, opacity, authorship, academic integrity, unequal access and cognitive dependence without reducing the analysis to either technological prohibition or celebration. It concludes that pedagogically justified uses require an explicit formative purpose, human oversight, data protection, transparency, accessibility, teacher and student participation, and assessment of effects on learning. Concrete recommendations for institutions, teachers and students are proposed, together with limits for high-risk uses.
Keywords: artificial intelligence in education; ethics; pedagogy; epistemology; data protection.
1. INTRODUÇÃO
A inteligência artificial (IA) deixou de ser apenas objeto de laboratórios especializados e passou a integrar plataformas de aprendizagem, sistemas de recomendação, ferramentas de correção, serviços administrativos e aplicações generativas acessíveis ao público. No ensino, essa presença não se limita à introdução de um novo recurso didático. Ela altera as condições nas quais problemas são formulados, respostas são produzidas, trajetórias são acompanhadas e desempenhos são julgados. Por isso, a questão central não é simplesmente saber se uma escola ou universidade usará IA, mas definir sob quais finalidades, controles e concepções de educação essa mediação será realizada.
A literatura sobre inteligência artificial na educação não é homogênea. Há sistemas de tutoria inteligente e de aprendizagem adaptativa, modelos de previsão de evasão ou desempenho, mecanismos de recomendação de conteúdos, ferramentas de avaliação automatizada e, mais recentemente, modelos generativos capazes de produzir textos, imagens, códigos e explicações. Uma revisão ampla de pesquisas no ensino superior identificou quatro áreas recorrentes de aplicação: perfilização e predição, avaliação e mensuração, sistemas adaptativos e personalização, e tutoria inteligente. O mesmo estudo observou predominância de trabalhos oriundos da computação e das áreas STEM, além de reduzida reflexão crítica sobre riscos e fundamentos pedagógicos (Zawacki-Richter et al., 2019). A emergência dos grandes modelos de linguagem ampliou o debate, mas não eliminou esse problema de enquadramento.
Este artigo defende a tese de que a transformação educacional promovida pela IA deve ser julgada pela forma como distribui agência, responsabilidade e acesso ao conhecimento, e não pela novidade ou pela automação que proporciona. Um sistema pode economizar tempo e, simultaneamente, estreitar a autonomia docente; pode personalizar atividades e, ao mesmo tempo, classificar estudantes segundo padrões opacos; pode apoiar a escrita e, em determinadas condições, substituir o trabalho intelectual que a escrita deveria tornar visível. Logo, a presença da IA é educacionalmente legítima apenas quando se subordina a um propósito formativo verificável, amplia possibilidades de participação e permanece contestável por professores e estudantes.
O problema envolve três dimensões inseparáveis. A dimensão ética pergunta quem é exposto a riscos, quais dados são tratados, como se distribuem benefícios e danos e quem responde por decisões mediadas por sistemas. A dimensão pedagógica investiga se a ferramenta favorece compreensão, autoria, interação, inclusão e avaliação coerente com objetivos de aprendizagem. A dimensão epistemológica examina o que passa a contar como conhecimento, evidência, autoria e autoridade quando uma resposta plausível é produzida sem que seu processo seja plenamente inteligível ao usuário. Separá-las apenas para fins analíticos não deve ocultar suas interdependências.
O estudo tem como objetivo discutir criticamente essas dimensões, com atenção às distinções entre IA generativa, sistemas adaptativos e sistemas algorítmicos de classificação, predição e recomendação. Também pretende indicar condições concretas para usos pedagogicamente justificados no contexto brasileiro, articulando documentos da UNESCO, a Lei Geral de Proteção de Dados Pessoais (LGPD), a Política Nacional de Educação Digital (PNED) e o Plano Brasileiro de Inteligência Artificial (PBIA). Não se apresenta uma promessa de neutralidade tecnológica nem uma tese de substituição do professor. O foco é a construção de critérios de decisão e de limites institucionais para que a inovação não seja confundida com progresso educacional.
2. PERCURSO METODOLÓGICO E DELIMITAÇÃO
Trata-se de um ensaio teórico de natureza qualitativa, elaborado mediante revisão narrativa de literatura acadêmica e análise documental de normas e orientações oficiais. Foram consultados artigos revisados por pares sobre IA na educação, viés algorítmico, modelos de linguagem e integridade acadêmica, além de documentos da UNESCO e textos oficiais brasileiros. A seleção foi intencional: privilegiou fontes primárias normativas e revisões que permitissem articular aplicações, riscos e condições de uso. Não se realizou revisão sistemática própria, levantamento de campo, experimento, censo ou consulta a professores e estudantes.
O percurso tem duas limitações. Primeiro, a velocidade de atualização de ferramentas e políticas faz com que qualquer fotografia bibliográfica seja provisória. Uma revisão de 48 estudos empíricos sobre IA generativa já advertia que a rápida evolução tecnológica podia deixar resultados recentes fora do corpus e que a literatura ainda precisava de maior rigor e fundamentação teórica (Zhang et al., 2024). Segundo, documentos orientadores, como os da UNESCO e o PBIA, exprimem princípios e prioridades de política pública, não evidência de que uma ferramenta específica produza aprendizagem em determinado contexto. As proposições normativas deste artigo são, portanto, apresentadas como critérios de governança e não como resultados empíricos generalizáveis.
3. TRÊS FORMAS DE MEDIAÇÃO ALGORÍTMICA NO ENSINO
A expressão “IA na educação” reúne sistemas com funções e riscos diferentes. Uma primeira distinção é entre IA generativa, sistemas adaptativos e sistemas algorítmicos de decisão, classificação ou recomendação. A distinção é funcional, não uma taxonomia absoluta: os três tipos podem compartilhar técnicas de aprendizagem de máquina, utilizar os mesmos dados e ser integrados na mesma plataforma.
A IA generativa produz novos artefatos a partir de padrões aprendidos em grandes conjuntos de dados. Modelos de linguagem, por exemplo, podem redigir, resumir, traduzir, propor questões, simular diálogo e sugerir código. Sua fluência cria uma aparência de compreensão, mas a plausibilidade textual não equivale à veracidade, à justificativa ou ao domínio conceitual do conteúdo. Kasneci et al. (2023) reconhecem oportunidades para planejamento, feedback, tutoria, acessibilidade e diferenciação, ao mesmo tempo em que assinalam problemas de interpretabilidade, viés e fragilidade. Bender et al. (2021), de modo mais estrutural, chamam atenção para os custos e riscos de modelos treinados sobre grandes volumes de dados sem documentação e curadoria suficientes. Em educação, isso significa que a geração de uma resposta deve ser tratada como material para investigação e revisão, não como certificação de conhecimento.
Os sistemas adaptativos organizam percursos, exercícios ou feedbacks com base em indicadores de interação, desempenho ou proficiência. Um sistema pode selecionar a próxima questão, ajustar dificuldade ou recomendar uma sequência. Na melhor hipótese, a adaptação amplia a oportunidade de prática e fornece feedback oportuno. Porém, toda adaptação supõe uma representação do estudante: o que o sistema observa, o que ignora e que hipótese formula sobre a aprendizagem. Uma classificação incorreta pode conduzir um estudante a tarefas simplificadas por tempo excessivo ou negar-lhe desafios. A revisão de Zawacki-Richter et al. (2019) mostra que personalização e sistemas adaptativos constituem uma das áreas consolidadas de aplicação, mas também evidencia a necessidade de conectar a tecnologia a teorias pedagógicas e à reflexão ética.
Já os sistemas algorítmicos de classificação, predição e recomendação organizam dados para identificar perfis, prever retenção, sinalizar risco, selecionar candidatos, atribuir níveis ou recomendar conteúdos e decisões. Eles podem não gerar texto algum e ainda assim produzir efeitos educacionais decisivos. O problema não é apenas a existência de um algoritmo, mas sua inserção em práticas institucionais: uma predição de evasão pode acionar apoio pedagógico ou pode estigmatizar; uma pontuação automatizada pode orientar uma conversa formativa ou funcionar como decisão final. Baker e Hawn (2022) mostram que o viés pode surgir em diferentes etapas, desde os dados e a definição do problema até o desenho, a implantação e a interpretação do sistema. A equidade não se reduz, assim, à correção matemática de uma métrica.
As categorias se sobrepõem. Um modelo generativo pode ser incorporado a um tutor adaptativo; uma plataforma pode classificar o estudante e depois gerar uma devolutiva; um sistema de avaliação pode combinar previsão e produção textual. A distinção é relevante porque cada uso requer uma pergunta diferente. Para a IA generativa, é preciso indagar se o artefato pode ser verificado e se sua produção substitui ou apoia o trabalho intelectual. Para a adaptação, deve-se avaliar se o percurso aumenta oportunidades ou fixa expectativas sobre o estudante. Para a classificação, importa examinar as consequências da decisão, os direitos de contestação e os grupos afetados.
Essa diferenciação também evita uma falsa oposição entre “tecnologia” e “educação”. Toda ferramenta incorpora escolhas sobre o que registrar, otimizar e tornar visível. A competência docente, conforme o framework da UNESCO, inclui compreender fundamentos, avaliar limites, selecionar aplicações apropriadas e integrar IA a métodos pedagógicos, mantendo mentalidade centrada no ser humano, ética e responsabilidade (UNESCO, 2024b). Para estudantes, a competência envolve compreender, aplicar e criar, mas também reconhecer quando uma solução é desproporcional ou não deve ser usada (UNESCO, 2024a). A alfabetização em IA, portanto, não é treinamento para consumir ferramentas; é capacidade de questionar suas finalidades, dados, limites e efeitos.
4. IMPLICAÇÕES ÉTICAS: DADOS, VIÉS, OPACIDADE E JUSTIÇA
A primeira implicação ética é a proteção de dados pessoais. Ambientes de ensino produzem informações sobre identidade, frequência, desempenho, necessidades educacionais, voz, imagem e interações. Quando prompts ou registros de aprendizagem são enviados a serviços externos, pode ocorrer tratamento de dados para finalidades que estudantes, famílias e professores não compreendem. A LGPD estabelece como objeto a proteção dos direitos fundamentais de liberdade e privacidade e do livre desenvolvimento da personalidade, e impõe princípios de finalidade, adequação, necessidade, transparência, segurança, prevenção, não discriminação e responsabilização (Brasil, 2018). Em um sistema educacional, a conveniência de experimentar uma aplicação não basta para legitimar a coleta indiscriminada.
A conformidade jurídica não deve ser confundida com ética suficiente. Consentimento, quando usado, pode ser frágil em relações assimétricas: o aluno pode recear que recusar uma plataforma prejudique sua avaliação. A instituição precisa justificar a finalidade, limitar os dados, esclarecer quem trata a informação, reduzir retenção, proteger crianças e adolescentes e oferecer alternativas reais. Em vez de enviar trabalhos identificáveis a uma ferramenta aberta, uma escola pode anonimizar exemplos, processar dados localmente quando possível e evitar inserir informações sensíveis em serviços cuja governança seja incerta. A avaliação de impacto deve anteceder a aquisição de sistemas que perfilizem estudantes, recomendem trajetórias ou automatizem decisões relevantes. A UNESCO associa governança ética a avaliação de impacto, auditoria, rastreabilidade e responsabilização ao longo do ciclo de vida da IA (UNESCO, 2021).
O segundo problema é o viés. Dados históricos não são retratos neutros da aprendizagem; registram desigualdades de acesso, práticas de avaliação, expectativas institucionais e diferentes oportunidades de participação. Um modelo treinado nesses dados pode reproduzir e ampliar padrões existentes. Além disso, diferenças linguísticas, culturais, raciais, de gênero, socioeconômicas e relacionadas à deficiência podem produzir desempenhos desiguais de reconhecimento, classificação ou geração. Baker e Hawn (2022) sistematizam evidências sobre raça, etnia, gênero e nacionalidade e registram lacunas importantes em relação a deficiência e status socioeconômico. Em contexto brasileiro, uma ferramenta pouco sensível à variedade do português, a repertórios regionais ou a formas de expressão de estudantes com deficiência pode apresentar erro como incapacidade.
A resposta não é buscar um algoritmo abstratamente neutro. É preciso perguntar qual problema está sendo definido, para quem ele é útil, quais grupos não aparecem nos dados, que taxa de erro é aceitável e quais efeitos decorrem de um falso positivo ou falso negativo. Um sinal de risco pode receber tratamento diferente segundo o território e as condições sociais do estudante. A justiça demanda participação das comunidades afetadas, testes desagregados, documentação de dados e modelos, monitoramento contínuo e possibilidade de revisão humana. A UNESCO recomenda que a IA seja orientada por direitos humanos, dignidade, equidade, transparência, sustentabilidade e supervisão humana, e reconhece que ela pode aprofundar divisões sociais quando o acesso e a proteção são distribuídos desigualmente (UNESCO, 2021).
A opacidade possui pelo menos três camadas. Há a opacidade técnica, quando usuários não compreendem o funcionamento do modelo; a opacidade institucional, quando contratos e fornecedores ocultam dados, critérios ou atualizações; e a opacidade pedagógica, quando não se explica como a ferramenta interfere no currículo e na avaliação. Um resultado gerado por modelo de linguagem pode não ter uma cadeia de fontes confiável. Uma recomendação adaptativa pode parecer individualizada sem explicitar a regra que a produziu. Uma nota automatizada pode converter uma inferência estatística em julgamento sobre a pessoa. A inteligibilidade exigida na educação não é apenas a abertura do código: é a capacidade de explicar finalidade, evidência, limites e vias de contestação em linguagem acessível.
Há ainda a desigualdade de acesso. A IA pode ampliar oportunidades de estudantes com conectividade, dispositivos, domínio linguístico e possibilidade de pagar por versões mais capazes, enquanto desloca custos para famílias e escolas com menos recursos. A PNED vincula educação digital a inclusão, competências midiáticas e informacionais, conectividade, acessibilidade, direitos digitais e proteção de dados, com prioridade para populações vulneráveis (Brasil, 2023). Isso impede que o debate seja reduzido a “permitir ou proibir ChatGPT”: a política pública deve garantir infraestrutura, formação e apoio antes de exigir que a IA se torne requisito tácito para produzir um bom trabalho. A exclusão também pode ocorrer quando modelos privilegiam línguas e repertórios dominantes, deixando o português brasileiro e conhecimentos locais em posição subordinada.
No plano normativo, a LGPD encontra-se vigente e a PNED determina, em seu art. 12, entrada em vigor na data de sua publicação (Brasil, 2018; Brasil, 2023). O PBIA, por sua vez, é um plano de política pública: orienta prioridades e investimentos, mas não substitui lei, regulamentação setorial, avaliação de impacto ou decisão pedagógica situada.
O PBIA oferece um marco de política pública que inclui formação, infraestrutura, modelos em português, governança e regulação, mas não substitui avaliação educacional nem cria, por si só, autorização para uso escolar. Seus objetivos de inclusão, integridade da informação e proteção de direitos são compromissos a serem traduzidos em instrumentos institucionais, e não evidência de que toda solução nacional será adequada (Brasil, s.d.). Essa distinção é importante para evitar que planos de inovação funcionem como propaganda ou como atalho para a contratação sem controle.
5. IMPLICAÇÕES PEDAGÓGICAS: AGÊNCIA, ENSINO E AVALIAÇÃO
A relação pedagógica não é uma cadeia de transmissão de respostas. Ela envolve intencionalidade, diagnóstico, diálogo, conflito interpretativo, acompanhamento e responsabilidade pelo desenvolvimento de sujeitos. Quando a IA entra na sala de aula, a relação pode se tornar uma configuração professor–IA–estudante, como observa o framework da UNESCO para docentes (UNESCO, 2024b). A questão decisiva é se o terceiro elemento amplia a capacidade de ensinar e aprender ou se introduz uma autoridade não examinada entre os sujeitos.
O uso pedagogicamente justificado começa pelo objetivo de aprendizagem. Uma ferramenta generativa pode ser adequada para comparar versões de uma explicação, criar contraexemplos para análise, simular um interlocutor em uma língua estrangeira, produzir um rascunho a ser criticado, sugerir perguntas de investigação ou apoiar recursos de acessibilidade. Em todos esses casos, a atividade não se encerra no output: exige verificação de fontes, explicitação de critérios, revisão e reflexão sobre escolhas. A revisão de Zhang et al. (2024) identifica evidências de usos como apoio à aprendizagem, design instrucional, feedback e novas formas de avaliação, mas também registra imperfeições, dilemas éticos e desalinhamento entre as capacidades das ferramentas e as competências dos usuários. O benefício depende do desenho da tarefa, e não do rótulo “personalizado”.
A agência docente não deve ser substituída por recomendações geradas automaticamente. Professores conhecem o contexto, interpretam sinais ambíguos, negociam significados e assumem responsabilidade por incluir ou desafiar estudantes. Uma IA pode ajudar a organizar alternativas, adaptar uma explicação ou localizar padrões em um conjunto de respostas, mas não deve decidir sozinha sobre aprovação, retenção, encaminhamento ou diagnóstico pedagógico. A formação necessária não consiste apenas em aprender comandos. O framework docente da UNESCO combina fundamentos de IA, ética, pedagogia e desenvolvimento profissional em níveis progressivos, o que reforça que a competência é crítica e situada (UNESCO, 2024b). Instituições devem assegurar tempo de formação, participação na escolha da ferramenta e reconhecimento do trabalho de supervisão, em vez de presumir que a automação reduzirá a carga sem criar novas tarefas de verificação.
A agência discente também possui dupla dimensão. O estudante deve poder usar tecnologias para explorar, criar e receber apoio, mas precisa compreender que delegar uma operação não equivale a aprender o conceito. A dependência cognitiva aparece quando o aluno terceiriza a formulação do problema, a busca de argumentos, a revisão e a tomada de decisão, preservando somente a entrega final. A literatura recente aponta preocupações com metacognição e com o possível desalinhamento entre respostas instantâneas e desenvolvimento de competências (Zhang et al., 2024). A resposta pedagógica não é moralizar toda ajuda tecnológica; é tornar visíveis os passos que a ferramenta pode apoiar e os que o estudante deve realizar, justificar e avaliar.
Isso exige redesenho da avaliação. Trabalhos exclusivamente finais e descontextualizados são vulneráveis tanto à terceirização para uma IA quanto à avaliação superficial por detectores. A avaliação pode combinar proposta inicial, versões sucessivas, registro de decisões, comentários sobre fontes, defesa oral ou diálogo com o professor, aplicação a um problema local e reflexão sobre o uso ou não uso de IA. O objetivo não é vigiar cada clique, mas recolher evidências do processo e do raciocínio. Cotton, Cotton e Shipway (2024) discutem as dificuldades de detectar desonestidade e defendem políticas, formação e estratégias de avaliação proativas. A integridade acadêmica se fortalece quando autoria é compreendida como responsabilidade pelo processo e pelo resultado, e não apenas como proibição da ferramenta.
A autoria, nesse contexto, não pode ser resolvida pela pergunta binária “foi escrito por humano?”. Um texto pode ser redigido por um estudante com auxílio de correção, tradução ou brainstorming sem deixar de expressar sua autoria; também pode ser produzido quase integralmente por um sistema e apenas assinado pelo aluno. A instituição deve definir usos permitidos, usos que exigem declaração e usos incompatíveis com o objetivo da atividade. A declaração deve informar a ferramenta, a finalidade e a extensão do apoio, sem transformar a confissão em punição automática. É inadequado atribuir ao sistema a autoria ou responsabilidade por argumentos, referências e erros. O estudante responde pelo conteúdo entregue; o professor responde pelo desenho avaliativo; a instituição responde pelas regras e pelas condições oferecidas.
A acessibilidade merece tratamento específico. Recursos de voz, tradução, simplificação, descrição de imagens e apoio à escrita podem ampliar participação de pessoas com deficiência ou com barreiras linguísticas. Kasneci et al. (2023) apontam possibilidades desse tipo, mas também ressaltam a necessidade de profissionais que adaptem o recurso às necessidades concretas. A acessibilidade não deve ser usada como justificativa para expor dados sensíveis nem para retirar do aluno o direito de escolher outra forma de participação. O princípio é oferecer apoio proporcional, com controle do usuário e avaliação de sua qualidade.
A PNED brasileira já exige que a educação digital fortaleça os papéis de docência e aprendizagem de professores e estudantes, estimule cultura digital crítica e responsável e promova formação inicial e continuada (Brasil, 2023). Isso fornece uma direção normativa para que a IA seja abordada como conteúdo de cidadania e como ferramenta subordinada ao currículo. Ensinar sobre erros, vieses, limites, dados e interesses econômicos dos sistemas é tão importante quanto ensinar a utilizá-los. O estudante não deve ser formado como usuário passivo, mas como cidadão capaz de questionar e participar das escolhas sociotécnicas.
6. IMPLICAÇÕES EPISTEMOLÓGICAS: O QUE SIGNIFICA SABER EM UM ENSINO MEDIADO POR IA
A epistemologia educacional pergunta não somente se uma resposta está correta, mas como se justifica, quem pode contestá-la, que experiências são reconhecidas e quais condições tornam possível aprender. A IA generativa introduz uma tensão entre fluência e conhecimento. Um texto bem estruturado pode conter referências inexistentes, inferências não sustentadas ou simplificações inadequadas. Como modelos de linguagem produzem sequências plausíveis a partir de padrões, sua saída não é uma testemunha independente dos fatos. Bender et al. (2021) ajudam a compreender por que escala e aparência de coerência não resolvem problemas de dados, documentação, contexto e responsabilidade. A escola precisa ensinar a verificar, não apenas a solicitar.
A segunda tensão envolve autoridade. Quando uma plataforma recomenda uma trilha ou um modelo apresenta uma explicação, o estudante pode atribuir-lhe uma autoridade impessoal, como se o cálculo fosse equivalente a julgamento válido. Essa autoridade é perigosa porque desloca a pergunta “por que aceitar esta resposta?” para “o sistema disse”. A transparência pedagógica exige comparar a resposta algorítmica com fontes, conhecimentos da comunidade, resultados de experimentos e argumentos de colegas. O erro deixa de ser apenas falha a corrigir; torna-se oportunidade para ensinar critérios de evidência e limites de generalização.
A terceira tensão diz respeito à produção de conhecimento e à diversidade. Modelos treinados em grandes corpora podem privilegiar o que é mais frequente e visível, reproduzindo hierarquias linguísticas e culturais. A UNESCO recomenda que o ensino de IA considere agência humana, inclusão, diversidade cultural e linguística, pluralidade de opiniões e sustentabilidade (UNESCO, 2023). Em vez de aceitar a síntese do modelo como visão universal, atividades podem pedir que estudantes identifiquem ausências, comparem perspectivas, pesquisem fontes locais e explicitem o lugar social de cada conhecimento. A IA, nesse caso, torna-se objeto de crítica epistemológica.
A quarta tensão está na escrita. Escrever é simultaneamente comunicar e pensar: formular uma tese, ordenar razões, lidar com incerteza e responder a um leitor. Se o sistema produz o texto antes que o estudante desenvolva essas operações, a entrega pode aumentar enquanto a aprendizagem diminui. Isso não implica rejeitar toda assistência. Rascunhos, reformulações ou traduções podem liberar atenção para aspectos mais complexos, desde que o estudante explique decisões, compare alternativas e mantenha domínio do argumento. A pergunta pedagógica é qual trabalho cognitivo a ferramenta desloca e se o deslocamento fortalece ou enfraquece a formação.
Por fim, sistemas preditivos transformam o estudante em objeto de conhecimento institucional. Uma classificação de “risco” pode orientar cuidado, mas também pode produzir profecia autorrealizável se expectativas baixas alterarem as oportunidades oferecidas. O direito de saber que uma decisão foi mediada por algoritmo, de compreender seus fundamentos e de contestá-la precisa integrar a cultura escolar. A Recomendação da UNESCO articula auditabilidade, rastreabilidade e responsabilidade, enquanto a LGPD exige transparência, não discriminação e prestação de contas (UNESCO, 2021; Brasil, 2018). A epistemologia, assim, encontra a ética: não há conhecimento educacional legítimo quando a pessoa afetada não pode questionar a categoria que a define.
7. CRITÉRIOS E RECOMENDAÇÕES PARA UMA ADOÇÃO RESPONSÁVEL
A partir da tese desenvolvida, propõem-se sete critérios institucionais. Primeiro, toda adoção deve começar por uma finalidade de aprendizagem ou de trabalho claramente descrita. “Inovar” ou “acompanhar a tendência” não é finalidade suficiente. A instituição deve indicar qual problema existe, que alternativa não automatizada foi considerada e que evidência permitirá avaliar o efeito.
Segundo, é necessário classificar o risco do uso. Apoio à revisão linguística de um texto próprio, com declaração, não tem o mesmo risco que predição de evasão, seleção de estudantes, avaliação somativa ou análise de dados de crianças. Usos de alto impacto devem exigir validação independente, supervisão humana competente, auditoria, documentação e canal de recurso. Sistemas não validados não devem decidir notas, acesso a direitos, encaminhamentos disciplinares ou trajetórias irreversíveis.
Terceiro, a governança de dados precisa ser anterior ao contrato. O plano deve especificar finalidade, minimização, bases legais, retenção, segurança, compartilhamento, localização e resposta a incidentes, em diálogo com o encarregado e com a comunidade. A LGPD não autoriza transformar estudantes em fonte ilimitada de dados para treinamento. A PNED acrescenta a necessidade de cultura de direitos digitais, conectividade segura e proteção de grupos vulneráveis (Brasil, 2018; Brasil, 2023).
Quarto, a instituição deve adotar transparência significativa. Professores e estudantes precisam saber se há IA, que função desempenha, quais dados utiliza, quais são suas limitações e como contestar resultados. Explicar que uma ferramenta é “baseada em IA” não basta. A transparência deve alcançar exemplos de erros, condições de uso e responsabilidades humanas. Documentação acessível pode ser complementada por avaliações participativas com estudantes, famílias, docentes e especialistas em acessibilidade.
Quinto, a formação deve alcançar todos os envolvidos. Docentes necessitam compreender fundamentos, ética, pedagogia e desenho de avaliação; estudantes precisam aprender verificação, privacidade, autoria, segurança, vieses e uso crítico; gestores devem dominar compras, proteção de dados e análise de impacto. Os frameworks da UNESCO podem orientar progressões, mas precisam ser adaptados ao currículo brasileiro, às etapas de ensino e às realidades territoriais (UNESCO, 2024b; UNESCO, 2024a). Formação não deve ser um tutorial de prompts, e sim uma política permanente de julgamento profissional e cidadania.
Sexto, recomenda-se avaliar a ferramenta por resultados educacionais e distributivos. A instituição deve observar aprendizagem, participação, carga de trabalho, acessibilidade, erros, diferenças entre grupos e efeitos não previstos. Pilotos de pequena escala, com critérios de interrupção, são preferíveis à implementação total. A pergunta não é apenas se os usuários gostam da ferramenta, mas se aprendem melhor, com mais autonomia e menor desigualdade, sem violação de direitos.
Sétimo, é preciso preservar espaços de não automação. Uma escola pode decidir que determinadas conversas de cuidado, decisões disciplinares, avaliações de autoria complexa ou diagnósticos de necessidades educacionais exigem encontro humano e não serão delegados a sistemas. O framework da UNESCO para estudantes insiste na proporcionalidade e na capacidade de decidir quando a IA não deve ser usada (UNESCO, 2024a). A recusa justificada não é tecnofobia; é reconhecimento de que alguns bens educacionais dependem de presença, confiança, escuta e responsabilidade compartilhada.
Para professores, uma regra prática é formular a sequência “objetivo–risco–evidência–declaração”. Antes de usar IA, define-se a aprendizagem; em seguida, identifica-se o risco para dados, autonomia e equidade; depois, estabelece-se como a resposta será verificada; por fim, informa-se ao estudante o que pode ou não ser delegado e como deve declarar o uso. Para estudantes, a regra correspondente é “perguntar–comparar–verificar–assumir”: perguntar à ferramenta não substitui investigar, comparar respostas amplia a análise, verificar fontes protege contra erro e assumir responsabilidade impede que o output seja apresentado como autoria do sistema. São heurísticas, não protocolos universais, e devem ser ajustadas à idade, à disciplina e ao contexto.
8. CONSIDERAÇÕES FINAIS
A IA transforma o ensino quando altera, de modo duradouro, quem formula problemas, quem interpreta evidências, quem decide trajetórias e quem responde por resultados. Essa transformação pode apoiar aprendizagem, acessibilidade, feedback e planejamento, mas também pode reproduzir vieses, coletar dados em excesso, ocultar critérios, ampliar desigualdades e substituir o trabalho cognitivo que a escola deveria formar. O ponto central não é decidir entre adesão total e proibição geral. É construir condições para que a tecnologia permaneça subordinada a finalidades educativas, direitos e relações pedagógicas.
A distinção entre IA generativa, sistemas adaptativos e sistemas algorítmicos mostra que os riscos variam segundo a função: a geração exige verificação e responsabilidade autoral; a adaptação exige escrutínio das representações do estudante; a classificação exige equidade, explicação e contestabilidade. Em todas as modalidades, professores e estudantes devem conservar agência, e a instituição deve responder por dados, contratos, avaliação e reparação.
No Brasil, a LGPD fornece princípios vinculantes para proteção de dados e não discriminação; a PNED articula inclusão, cultura e direitos digitais e formação de profissionais; o PBIA oferece prioridades nacionais de desenvolvimento e governança, sem substituir a análise pedagógica. Em diálogo com a UNESCO, esses marcos sustentam uma educação que não trate a IA como destino inevitável nem como solução universal. A adoção responsável requer propósito, proporcionalidade, transparência, participação, acessibilidade e a disposição institucional de interromper usos que não possam demonstrar benefício educativo e respeito às pessoas.
REFERÊNCIAS BIBLIOGRÁFICAS
BAKER, Ryan S.; HAWN, Aaron. Algorithmic bias in education. International Journal of Artificial Intelligence in Education, v. 32, n. 4, p. 1052–1092, 2022. DOI: https://doi.org/10.1007/s40593-021-00285-9. Acesso em: 21 out. 2026.
BENDER, Emily M.; GEBRU, Timnit; MCMILLAN-MAJOR, Angelina; SHMITCHELL, Shmargaret. On the dangers of stochastic parrots. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, p. 610–623, 2021. DOI: https://doi.org/10.1145/3442188.3445922. Acesso em: 21 out. 2026.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF: Presidência da República, 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 21 out. 2026.
BRASIL. Lei nº 14.533, de 11 de janeiro de 2023. Institui a Política Nacional de Educação Digital. Brasília, DF: Presidência da República, 2023. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2023-2026/2023/lei/l14533.htm. Acesso em: 21 out. 2026.
BRASIL. Ministério da Ciência, Tecnologia e Inovação. Plano Brasileiro de Inteligência Artificial (PBIA) 2024–2028: IA para o bem de todos. Brasília, DF: MCTI, [s.d.]. Disponível em: https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/plano-brasileiro-de-inteligencia-artificial. Acesso em: 21 out. 2026.
COTTON, Debby R. E.; COTTON, Peter A.; SHIPWAY, J. Reuben. Chatting and cheating: ensuring academic integrity in the era of ChatGPT. Innovations in Education and Teaching International, v. 61, n. 2, p. 228–239, 2024. DOI: https://doi.org/10.1080/14703297.2023.2190148. Acesso em: 21 out. 2026.
KASNECI, Enkelejda et al. ChatGPT for good? On opportunities and challenges of large language models for education. Learning and Individual Differences, v. 103, art. 102274, 2023. DOI: https://doi.org/10.1016/j.lindif.2023.102274. Acesso em: 21 out. 2026.
UNESCO. AI competency framework for students. Paris: UNESCO, 2024a. ISBN 978-92-3-100709-5. DOI: https://doi.org/10.54675/JKJB9835. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000391105.locale=en. Acesso em: 21 out. 2026.
UNESCO. AI competency framework for teachers. Paris: UNESCO, 2024b. ISBN 978-92-3-100707-1. DOI: https://doi.org/10.54675/ZJTE2084. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000391104.locale=en. Acesso em: 21 out. 2026.
UNESCO. Guidance for generative AI in education and research. Paris: UNESCO, 2023. ISBN 978-92-3-100612-8. DOI: https://doi.org/10.54675/EWZM9535. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000386693. Acesso em: 21 out. 2026.
UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021. Instrumento adotado em 23 nov. 2021; registro documental publicado no repositório em 2022. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137. Ver também: https://www.unesco.org/en/artificial-intelligence/recommendation-ethics. Acesso em: 21 out. 2026.
ZAWACKI-RICHTER, Olaf; MARÍN, Victoria I.; BOND, Melissa; GOUVERNEUR, Franziska. Systematic review of research on artificial intelligence applications in higher education – where are the educators? International Journal of Educational Technology in Higher Education, v. 16, n. 1, art. 39, 2019. DOI: https://doi.org/10.1186/s41239-019-0171-0. Acesso em: 21 out. 2026.
ZHANG, Xin et al. A systematic literature review of empirical research on applying generative artificial intelligence in education. Frontiers of Digital Education, v. 1, n. 3, p. 223–245, 2024. DOI: https://doi.org/10.1007/s44366-024-0028-5. Acesso em: 21 out. 2026.
1 Mestrado em Tecnologia Emergencial em Educação. Pós-graduação em Metodologia da Física para o Ensino Médio.