INTELIGÊNCIA ARTIFICIAL, PROTEÇÃO DE DADOS E GOVERNANÇA DIGITAL NAS INSTITUIÇÕES DE ENSINO: INTERFACES ENTRE O DIREITO E A EDUCAÇÃO TECNOLÓGICA

REGISTRO DOI: 10.70773/revistatopicos/783617341

RESUMO
Este artigo discute as interfaces entre Inteligência Artificial, proteção de dados e governança digital nas instituições de ensino, considerando a aproximação entre o Direito e a Educação Tecnológica. Parte-se da compreensão de que a incorporação de sistemas algorítmicos em escolas, universidades e redes de ensino amplia possibilidades pedagógicas e administrativas, mas também intensifica riscos relacionados à privacidade, à segurança informacional, à transparência, à equidade e à responsabilização institucional. Metodologicamente, trata-se de um ensaio teórico de natureza bibliográfica e documental, fundamentado em autores e documentos recentes publicados entre 2021 e 2026, com exceção das normas jurídicas indispensáveis ao tema. O estudo evidencia que a governança digital não pode ser reduzida à adoção de plataformas, pois exige políticas internas, mapeamento de dados, critérios de contratação, avaliação de impacto, formação docente, participação da comunidade escolar e observância da Lei Geral de Proteção de Dados. Conclui-se que a Educação Tecnológica, quando articulada ao Direito, contribui para uma cultura institucional de uso responsável da IA, na qual inovação, proteção de direitos fundamentais e qualidade pedagógica sejam tratadas como dimensões inseparáveis.
Palavras-chave: inteligência artificial; proteção de dados; governança digital; Direito Educacional; Educação Tecnológica.

ABSTRACT
This paper discusses the interfaces between Artificial Intelligence, data protection and digital governance in educational institutions, considering the relationship between Law and Technological Education. It assumes that the incorporation of algorithmic systems in schools, universities and educational networks expands pedagogical and administrative possibilities, but also increases risks related to privacy, information security, transparency, equity and institutional accountability. Methodologically, this is a theoretical essay based on bibliographic and documentary research, supported by recent authors and documents published between 2021 and 2026, except for legal norms that are indispensable to the subject. The study shows that digital governance cannot be reduced to the adoption of platforms, since it requires internal policies, data mapping, contracting criteria, impact assessments, teacher training, school community participation and compliance with the Brazilian General Data Protection Law. It concludes that Technological Education, when articulated with Law, contributes to an institutional culture of responsible AI use, in which innovation, fundamental rights protection and pedagogical quality are treated as inseparable dimensions.
Keywords: artificial intelligence; data protection; digital governance; Educational Law; Technological Education.

1. INTRODUÇÃO

A presença da Inteligência Artificial nas instituições de ensino deixou de ser apenas uma expectativa futurista e passou a integrar rotinas de gestão, comunicação, avaliação, produção textual, personalização de atividades e análise de dados educacionais. Essa transformação cria novas possibilidades para a Educação Tecnológica, mas desloca a discussão para uma esfera mais complexa: a escola não lida apenas com ferramentas, e sim com sistemas que coletam, inferem, classificam e recomendam ações a partir de grandes volumes de dados de estudantes, professores e famílias. Por isso, o tema exige leitura interdisciplinar, pois a inovação pedagógica precisa ser acompanhada de responsabilidade jurídica e de governança institucional. Almeida, Fernandes Junior e Fernandes (2025) observam que a presença da IA na educação básica deve ser examinada em conexão com a proteção de dados pessoais, especialmente porque a mediação tecnológica escolar envolve sujeitos em desenvolvimento e ambientes marcados por assimetrias de poder.

A interface entre Direito e Educação Tecnológica torna-se relevante porque os dados educacionais não são informações neutras. Frequência, desempenho, comportamento, localização, imagem, voz, necessidades educacionais específicas, dados de saúde e registros de interação em plataformas podem revelar aspectos sensíveis da vida escolar. Quando esses dados são processados por ferramentas de IA, surgem perguntas sobre finalidade, consentimento, necessidade, segurança, transparência, explicabilidade e responsabilização. A Autoridade Nacional de Proteção de Dados (2023) reforça que o tratamento de dados de crianças e adolescentes deve observar o melhor interesse do titular, o que torna o ambiente educacional um espaço de proteção reforçada e não apenas de experimentação tecnológica.

O problema central deste texto consiste em compreender como as instituições de ensino podem utilizar IA e plataformas digitais sem fragilizar direitos fundamentais, sem reduzir a ação docente a decisões automatizadas e sem transformar a aprendizagem em mera extração de dados. A questão jurídica não se limita à conformidade documental, assim como a questão pedagógica não se limita à adoção de recursos digitais. O desafio é construir uma governança capaz de integrar proteção de dados, segurança informacional, ética, formação docente, inclusão digital e controle humano significativo. Costa e Silva (2025) sustentam que o debate ético sobre IA na educação profissional e tecnológica é necessário para evitar usos indiscriminados e para articular a inovação a princípios formativos.

A justificativa do tema decorre do crescimento das plataformas educacionais, da circulação de dados em ambientes digitais e da ampliação de ferramentas generativas que produzem textos, imagens, respostas, feedbacks e trilhas de estudo. Em muitas instituições, esses recursos chegam antes da elaboração de políticas internas, o que gera improviso, insegurança e decisões fragmentadas. A governança digital, nesse cenário, não deve ser compreendida como burocracia, mas como mecanismo de cuidado institucional. O Referencial do Ministério da Educação para o uso responsável da IA na educação afirma que a tecnologia deve estar a serviço da aprendizagem, da equidade e da dignidade humana, o que aproxima a política educacional de princípios jurídicos de proteção (BRASIL, 2026).

O objetivo geral deste texto é analisar as interfaces entre Inteligência Artificial, proteção de dados e governança digital nas instituições de ensino, destacando como o Direito e a Educação Tecnológica podem dialogar na formulação de práticas responsáveis. Como objetivos específicos, busca-se discutir a proteção de dados no contexto educacional, examinar riscos pedagógicos e jurídicos do uso de IA, compreender a governança digital como processo institucional e propor diretrizes para uma cultura escolar orientada por ética, transparência e responsabilidade. Heggler, Szmoski e Miquelin (2025) destacam que os vieses algorítmicos podem comprometer a equidade e a eficácia educacional, o que confirma a necessidade de critérios preventivos antes da implementação de sistemas inteligentes.

Metodologicamente, trata-se de um ensaio teórico de base bibliográfica e documental, construído a partir de artigos científicos recentes, documentos institucionais e normas jurídicas brasileiras. Foram priorizadas produções publicadas entre 2021 e 2026, além de documentos oficiais da ANPD, do MEC, da UNESCO e da OCDE. As normas legais, ainda que anteriores ao recorte temporal, são utilizadas por sua indispensabilidade ao tema. A UNESCO (2023) defende que a IA generativa na educação requer ação pública imediata, planejamento de longo prazo e desenvolvimento de capacidades humanas, orientação que fundamenta a articulação entre política educacional, governança e proteção de direitos.

2. PROTEÇÃO DE DADOS COMO DIREITO FUNDAMENTAL NO CONTEXTO EDUCACIONAL

A proteção de dados pessoais, no contexto escolar, deve ser compreendida como expressão concreta dos direitos fundamentais à privacidade, à liberdade, à igualdade e ao desenvolvimento da personalidade. Instituições de ensino registram informações que acompanham o estudante por longos períodos e que podem influenciar avaliações, encaminhamentos, diagnósticos, oportunidades acadêmicas e relações familiares. Assim, a proteção de dados não é um tema externo à educação, mas parte das condições para que a aprendizagem ocorra em ambiente seguro e respeitoso. A LGPD estabelece que o tratamento de dados deve observar princípios como finalidade, adequação, necessidade, transparência, segurança, prevenção e responsabilização, os quais se aplicam diretamente às práticas escolares (BRASIL, 2018).

A aplicação da LGPD na educação exige que a instituição identifique quais dados coleta, por que coleta, por quanto tempo conserva, com quem compartilha e quais medidas adota para prevenir incidentes. Essa lógica desloca a gestão escolar de uma postura reativa para uma postura preventiva, pois o risco não começa apenas no vazamento de dados, mas também na coleta excessiva, na ausência de informação clara às famílias e na contratação de plataformas sem avaliação jurídica e pedagógica. Gomes (2023) argumenta que a adequação de instituições de ensino à LGPD envolve reorganização de rotinas e procedimentos internos, e não apenas uma leitura formal da lei.

No caso de crianças e adolescentes, o cuidado deve ser ainda mais rigoroso, porque estudantes menores de idade possuem proteção jurídica diferenciada. A escola, ao utilizar sistemas digitais, deve considerar que a vulnerabilidade etária se soma à vulnerabilidade informacional: muitas famílias e alunos não compreendem como plataformas operam, quais dados são inferidos e quais terceiros podem acessar registros educacionais. A ANPD (2022) afirma que o tratamento de dados pessoais de crianças e adolescentes deve considerar o princípio do melhor interesse, o que obriga a instituição a justificar pedagogicamente e juridicamente cada tratamento realizado.

As atividades de tratamento de dados pessoais deverão observar a boa-fé e os seguintes princípios: finalidade; adequação; necessidade; livre acesso; qualidade dos dados; transparência; segurança; prevenção; não discriminação; e responsabilização e prestação de contas (BRASIL, 2018, art. 6º).

A citação legal evidencia que a governança de dados não se esgota em soluções técnicas, pois envolve princípios de conduta institucional. Quando a escola decide usar uma plataforma de aprendizagem adaptativa, por exemplo, deve demonstrar a finalidade educacional do tratamento, a adequação da ferramenta ao currículo, a necessidade dos dados coletados, a transparência para a comunidade e a segurança do armazenamento. Isso significa que o Direito oferece parâmetros para qualificar a inovação pedagógica. Minghelli et al. (2024) destacam que relatórios de impacto à proteção de dados são instrumentos relevantes para organizar riscos, finalidades, medidas de mitigação e responsabilidades no tratamento de dados pessoais.

A Educação Tecnológica também contribui para essa leitura ao compreender que tecnologias digitais são artefatos sociotécnicos, isto é, produzem efeitos pedagógicos, culturais, econômicos e jurídicos. Não se trata apenas de ensinar estudantes a usar recursos digitais, mas de formar sujeitos capazes de compreender como dados circulam, como algoritmos influenciam decisões e como direitos podem ser preservados em ambientes digitais. O CGI.br (2022) analisa a educação em cenário de plataformização e economia de dados, indicando que plataformas reconfiguram relações educacionais, trabalho docente e formas de produção de valor informacional.

A proteção de dados, portanto, deve ser incorporada ao projeto pedagógico, à gestão administrativa e à formação de professores. A escola que adota ferramentas digitais sem discutir privacidade, autoria, segurança e rastreamento tende a naturalizar práticas de vigilância ou dependência tecnológica. Já a escola que transforma a proteção de dados em eixo formativo fortalece a cidadania digital. A UNESCO (2023) recomenda que políticas de IA na educação preservem a agência humana, a inclusão, a diversidade cultural e a equidade, elementos que se conectam diretamente ao debate jurídico sobre direitos fundamentais.

3. INTELIGÊNCIA ARTIFICIAL NAS INSTITUIÇÕES DE ENSINO: POSSIBILIDADES E LIMITES

A IA pode apoiar instituições de ensino em diferentes dimensões: organização de materiais, criação de objetos digitais de aprendizagem, tutoria inteligente, análise de desempenho, identificação de dificuldades, feedback formativo, acessibilidade e automatização de tarefas administrativas. Entretanto, essas possibilidades não autorizam a substituição da mediação humana por decisões automatizadas. A tecnologia pode apoiar o professor, mas não deve ocupar o lugar da escuta pedagógica, do vínculo, da interpretação contextual e da responsabilidade ética. Costa e Silva (2025) defendem que a discussão sobre IA na educação profissional deve ser articulada à ética, justamente para que a formação técnica não seja reduzida ao uso funcional de ferramentas.

No campo pedagógico, uma das promessas mais frequentes da IA é a personalização da aprendizagem. Sistemas adaptativos podem propor trilhas, exercícios e feedbacks conforme o desempenho do estudante. Contudo, personalizar não significa isolar o aluno em uma bolha algorítmica nem reduzir sua aprendizagem ao que o sistema mede. O acompanhamento docente continua indispensável para interpretar dificuldades, considerar aspectos socioemocionais e evitar classificações precipitadas. Almeida, Fernandes Junior e Fernandes (2025) analisam que a presença da IA na educação básica precisa ser acompanhada de proteção de dados e de reflexão crítica sobre suas consequências para estudantes e escolas.

A adoção de IA generativa ampliou o debate porque ferramentas capazes de produzir texto, resumo, imagem, código e planejamento pedagógico passaram a circular no cotidiano escolar. Elas podem auxiliar docentes na elaboração de materiais e estudantes na revisão de ideias, mas também criam desafios sobre autoria, plágio, confiabilidade, dependência cognitiva e desigualdade de acesso. O MEC (2026) orienta que o uso responsável da IA na educação deve considerar benefícios, riscos, segurança, transparência e supervisão humana, reforçando que a inovação precisa ser regulada por finalidades educacionais claras.

No âmbito da gestão, a IA pode ser utilizada para prever evasão, acompanhar frequência, organizar dados de aprendizagem e apoiar decisões administrativas. Porém, quando esses sistemas operam sem transparência, podem transformar estudantes em perfis estatísticos e reforçar desigualdades existentes. O risco é maior quando indicadores são usados como verdades absolutas, sem considerar território, renda, acesso à internet, deficiência, raça, gênero e condições familiares. Heggler, Szmoski e Miquelin (2025) alertam que vieses algorítmicos podem afetar a equidade educacional, pois sistemas treinados com dados desiguais tendem a reproduzir desigualdades.

A escola também deve considerar que a IA depende de dados e infraestrutura. Plataformas educacionais coletam interações, tempos de acesso, respostas, cliques, áudios, imagens e padrões de comportamento. Se a instituição não define limites de coleta e compartilhamento, a adoção tecnológica pode produzir um ecossistema de extração contínua de dados. A OCDE (2024) discute que avanços recentes em IA, especialmente generativa, intensificam questões de governança de dados e privacidade, exigindo cooperação entre políticas de IA e políticas de proteção de dados.

Outro limite importante está na explicabilidade. Decisões pedagógicas devem ser compreensíveis para estudantes, famílias e professores. Quando um sistema recomenda reforço, classifica risco de evasão ou sugere intervenção, a instituição precisa saber quais critérios foram utilizados e como contestar resultados inadequados. A governança, nesse caso, deve exigir documentação técnica, critérios de auditoria e possibilidade de revisão humana. A UNESCO (2023) sustenta que a IA na educação deve manter visão centrada no humano, evitando que decisões educacionais sejam deslocadas para sistemas opacos.

4. GOVERNANÇA DIGITAL E RESPONSABILIZAÇÃO INSTITUCIONAL

Governança digital é o conjunto de princípios, estruturas, processos e responsabilidades que orientam o uso de tecnologias e dados em uma instituição. Em escolas e universidades, ela envolve decisões sobre plataformas, segurança, privacidade, formação docente, acessibilidade, contratos, armazenamento, avaliação de impacto, comunicação com famílias e mecanismos de resposta a incidentes. A governança não impede a inovação; ao contrário, cria condições para que a inovação seja sustentável e juridicamente segura. O MEC (2026) apresenta a governança de IA como dimensão necessária para que o uso educacional respeite dignidade humana, equidade e finalidade pedagógica.

A primeira etapa da governança digital é o mapeamento dos dados tratados. A instituição precisa saber quais dados estão em diários eletrônicos, ambientes virtuais, aplicativos de comunicação, plataformas de avaliação, sistemas de matrícula, registros de atendimento especializado e ferramentas de IA. Sem inventário, não há como aplicar os princípios de finalidade, necessidade e segurança. A ANPD no Brasil. (2023) orienta que agentes de tratamento devem identificar bases legais adequadas e observar o melhor interesse no tratamento de dados de crianças e adolescentes, o que exige controle institucional sobre fluxos de dados.

A segunda etapa é a definição de papéis e responsabilidades. A escola ou mantenedora deve identificar quem decide sobre o tratamento de dados, quem opera sistemas, quem responde a titulares, quem avalia contratos e quem conduz ações de segurança. A ausência de papéis claros gera improviso e fragiliza a responsabilização. A LGPD estabelece as figuras do controlador, do operador e do encarregado, criando uma arquitetura jurídica que deve ser traduzida em rotinas educacionais concretas (BRASIL, 2018).

A terceira etapa é a avaliação de riscos antes da contratação ou implementação de tecnologias. Uma ferramenta de IA não deve ser escolhida apenas por preço, popularidade ou promessa de eficiência. É preciso verificar política de privacidade, localização do armazenamento, compartilhamento com terceiros, possibilidade de uso dos dados para treinamento de modelos, mecanismos de exclusão, criptografia, acessibilidade e explicabilidade. Minghelli et al. (2024) tratam o relatório de impacto como instrumento de identificação de riscos e medidas de mitigação, especialmente relevante em atividades que envolvem dados pessoais sensíveis.

O tratamento de dados pessoais de crianças e de adolescentes deverá ser realizado em seu melhor interesse, nos termos deste artigo e da legislação pertinente (BRASIL, 2018, art. 14).

A citação direta do art. 14 da LGPD indica que a governança digital escolar precisa partir de uma pergunta anterior à eficiência: o tratamento protege ou expõe o estudante? Essa pergunta deve orientar o uso de reconhecimento facial, monitoramento de comportamento, plataformas adaptativas, aplicativos de comunicação e ferramentas generativas. Quando o titular é criança ou adolescente, a justificativa institucional deve ser mais cuidadosa, documentada e compreensível. A ANPD (2022) ressalta que o melhor interesse exige análise concreta do contexto, não podendo ser usado como justificativa genérica para qualquer tratamento de dados.

A governança também exige formação continuada. Professores, coordenadores, gestores e equipes administrativas precisam compreender conceitos mínimos de dados pessoais, dados sensíveis, base legal, anonimização, segurança, incidente, viés algorítmico e supervisão humana. Sem formação, a política de proteção de dados permanece no papel. Costa e Silva (2025) afirmam que o debate sobre ética e IA deve integrar a formação na educação profissional e tecnológica, o que pode ser ampliado para toda instituição que trabalha com tecnologias educacionais.

Outro componente da governança é a participação da comunidade escolar. Famílias e estudantes devem receber informações claras sobre as tecnologias utilizadas, as finalidades do tratamento, os riscos, os benefícios e os canais de atendimento. A transparência não pode ser confundida com termos longos e incompreensíveis. A UNESCO (2023) recomenda que políticas de IA considerem participação, desenvolvimento de capacidades e proteção de valores humanistas, especialmente em ambientes educacionais sujeitos a assimetrias entre fornecedores, instituições e usuários.

5. INTERFACES ENTRE O DIREITO E A EDUCAÇÃO TECNOLÓGICA

O Direito e a Educação Tecnológica se encontram quando a instituição de ensino precisa transformar princípios legais em práticas pedagógicas e administrativas. A LGPD, por exemplo, não ensina como planejar uma aula com IA, mas define limites para a coleta e o uso de dados; a Educação Tecnológica, por sua vez, não substitui a análise jurídica, mas ajuda a compreender como as ferramentas digitais interferem na aprendizagem e na cultura escolar. Essa interface produz uma abordagem integrada, na qual compliance, ética e pedagogia deixam de ser áreas separadas. Gomes (2023) demonstra que a adequação de instituições de ensino à LGPD exige adaptação criativa das rotinas internas, indicando que a lei precisa ser traduzida para a realidade educacional.

A primeira interface está na finalidade pedagógica. Toda tecnologia adotada pela escola deve responder a uma finalidade educacional legítima e claramente documentada. Não basta afirmar que a IA é moderna ou eficiente; é necessário demonstrar qual problema pedagógico pretende resolver, quais dados são indispensáveis e como o resultado será avaliado. O princípio da finalidade impede usos secundários incompatíveis com a relação educacional. A LGPD estabelece que o tratamento deve ocorrer para propósitos legítimos, específicos, explícitos e informados ao titular, sem possibilidade de tratamento posterior incompatível (BRASIL, 2018).

A segunda interface está na competência digital crítica. Estudantes precisam aprender a usar ferramentas de IA, mas também a questionar respostas, reconhecer vieses, proteger dados, verificar fontes, compreender autoria e perceber limites dos sistemas. A Educação Tecnológica, nesse sentido, não pode ser treinamento acrítico de aplicativos. Ela deve formar para a cidadania digital e para a leitura crítica de ambientes algorítmicos. Hermann (2025) problematiza as repercussões éticas da IA na educação, indicando que a técnica interfere no modo como os sujeitos fazem experiência e interpretam o mundo.

A terceira interface está na inclusão. A IA pode ampliar acessibilidade, produzir materiais em formatos variados, apoiar estudantes com deficiência e favorecer percursos diferenciados. Entretanto, também pode excluir quando depende de conexão estável, dispositivos atualizados, letramento digital e modelos linguísticos pouco sensíveis à diversidade cultural. Por isso, a governança deve avaliar acessibilidade e equidade antes da implementação. O MEC (2026) afirma que a IA na educação deve contribuir para reduzir desigualdades e promover equidade, evitando que a tecnologia amplie barreiras já existentes.

A quarta interface está na responsabilização por decisões automatizadas. Quando um sistema recomenda intervenções, classifica desempenho ou indica risco de evasão, a escola não pode transferir integralmente a responsabilidade para o fornecedor da tecnologia. A decisão educacional deve permanecer submetida à revisão humana e à fundamentação pedagógica. A OCDE (2024) enfatiza que IA, governança de dados e privacidade possuem zonas de interdependência, o que exige coordenação entre atores técnicos, jurídicos e institucionais.

A quinta interface está nos contratos. Muitas escolas adotam plataformas por meio de contratos padronizados, sem revisar cláusulas sobre privacidade, subcontratação, treinamento de modelos, armazenamento internacional, exclusão de dados e resposta a incidentes. Essa prática é arriscada porque transfere dados educacionais a terceiros sem análise suficiente. O CGI.br (2022) discute a plataformização da educação como fenômeno que reorganiza relações entre setor público, empresas de tecnologia, escolas e dados, o que torna indispensável avaliar poder econômico e dependência tecnológica.

6. RISCOS ÉTICOS, JURÍDICOS E PEDAGÓGICOS DO USO DE IA

O primeiro risco é a violação da privacidade. Ferramentas de IA podem coletar mais dados do que o necessário, armazenar informações por tempo indeterminado ou utilizar registros escolares para aperfeiçoar modelos comerciais. Em instituições de ensino, esse risco é agravado pela presença de crianças e adolescentes, cujas informações podem acompanhá-los por toda a vida. A ANPD (2023) destaca que o tratamento de dados de crianças e adolescentes pode utilizar hipóteses legais previstas na LGPD, mas sempre condicionado ao melhor interesse e à avaliação do caso concreto.

O segundo risco é o viés algorítmico. Sistemas treinados com bases desiguais podem recomendar menos oportunidades para estudantes historicamente vulnerabilizados, interpretar padrões linguísticos de forma inadequada ou associar baixo desempenho a características socioeconômicas. Na escola, isso pode afetar expectativas docentes, encaminhamentos e avaliações. Heggler, Szmoski e Miquelin (2025) identificam que os vieses algorítmicos na educação podem comprometer equidade e eficácia, exigindo auditoria, transparência e supervisão humana.

O terceiro risco é a dependência pedagógica. Quando professores e estudantes passam a aceitar respostas automatizadas sem análise crítica, a IA deixa de ser apoio e se torna autoridade. Esse deslocamento enfraquece a autonomia intelectual e o papel formativo da escola. A tecnologia deve ser usada para ampliar perguntas, comparar argumentos, revisar ideias e diversificar estratégias, não para substituir o processo de pensamento. Hermann (2025) alerta que a IA produz transformações no modo de fazer experiência, o que exige uma ética educacional atenta aos efeitos da técnica sobre a formação humana.

O quarto risco é a opacidade. Muitas ferramentas não explicam adequadamente como produzem respostas, classificam estudantes ou elaboram recomendações. Essa opacidade dificulta contestação, revisão pedagógica e responsabilização. Em termos jurídicos, decisões opacas fragilizam transparência e prestação de contas; em termos educacionais, limitam a compreensão do processo de aprendizagem. A UNESCO (2023) orienta que sistemas de IA em educação sejam submetidos a políticas que preservem agência humana e responsabilidade, evitando automatismos que escapem ao controle institucional.

O quinto risco é a desigualdade de acesso. Escolas com maior infraestrutura podem usar IA para enriquecer práticas pedagógicas, enquanto escolas com menor conectividade podem ficar dependentes de soluções precárias ou gratuitas, muitas vezes baseadas em coleta intensa de dados. A inovação pode aprofundar desigualdades se não vier acompanhada de política pública, formação e infraestrutura. O MEC (2026) associa uso responsável da IA a equidade, inclusão e segurança, reconhecendo que tecnologia educacional deve ser pensada em função das condições reais das redes de ensino.

O sexto risco é a fragilização da autoria e da integridade acadêmica. IA generativa pode produzir trabalhos, respostas e resumos de forma rápida, dificultando a avaliação tradicional. A resposta institucional não deve ser apenas punitiva, mas pedagógica: repensar instrumentos avaliativos, valorizar processo, oralidade, autoria situada, pesquisa orientada e declaração transparente de uso. Costa e Silva (2025) defendem que o debate ético sobre IA na educação deve integrar a formação, o que inclui discutir autoria, responsabilidade e limites do uso tecnológico.

7. DIRETRIZES PARA UMA GOVERNANÇA RESPONSÁVEL DA IA NA EDUCAÇÃO

Uma primeira diretriz é instituir política interna de uso de IA e proteção de dados. Essa política deve definir finalidades permitidas, responsabilidades, critérios de contratação, procedimentos de consentimento quando aplicável, canais de atendimento, regras de uso por estudantes e orientações docentes. O documento não deve ser genérico; precisa dialogar com a realidade da instituição e com o projeto pedagógico. O MEC (2026) propõe que o desenvolvimento e o uso de IA na educação ocorram com responsabilidade, transparência, segurança, equidade e supervisão humana.

Uma segunda diretriz é elaborar inventário de dados educacionais. A instituição deve listar dados coletados em matrícula, avaliação, frequência, plataformas, aplicativos, atendimento educacional especializado, saúde escolar, biblioteca, transporte e comunicação. Esse inventário permite identificar excesso de coleta, compartilhamentos indevidos e fragilidades de segurança. A LGPD exige responsabilização e prestação de contas, o que significa demonstrar medidas eficazes de observância e comprovação do cumprimento das normas de proteção de dados (BRASIL, 2018).

Uma terceira diretriz é realizar avaliação de impacto para ferramentas de maior risco. Sistemas que tratam dados de crianças, dados sensíveis, biometria, geolocalização, monitoramento comportamental ou decisões automatizadas devem passar por análise prévia. Essa avaliação deve considerar necessidade, proporcionalidade, riscos aos titulares, medidas de mitigação e alternativas menos invasivas. Minghelli et al. (2024) mostram que o Relatório de Impacto à Proteção de Dados Pessoais contribui para organizar riscos e justificar medidas preventivas em processos de tratamento.

Uma quarta diretriz é adotar o princípio da intervenção humana significativa. Nenhuma classificação feita por IA deve produzir consequência pedagógica sem revisão de professor ou equipe responsável. A IA pode indicar hipóteses, mas a decisão educacional precisa considerar contexto, diálogo, histórico e acompanhamento. A UNESCO (2023) defende que a visão centrada no humano deve orientar políticas de IA na educação, especialmente para preservar autonomia, agência e diversidade dos sujeitos.

Uma quinta diretriz é exigir transparência contratual dos fornecedores. Antes de contratar plataformas, a instituição deve verificar se há cláusulas sobre finalidade do tratamento, segurança, suboperadores, eliminação, transferência internacional, treinamento de modelos e comunicação de incidentes. A contratação pública ou privada de tecnologia educacional precisa sair da lógica meramente comercial e entrar na lógica de governança. O CGI.br (2022) alerta que a plataformização da educação envolve economia de dados e dependência de infraestruturas privadas, o que exige leitura crítica dos contratos.

Uma sexta diretriz é promover formação continuada para professores e gestores. Essa formação deve integrar aspectos pedagógicos, jurídicos e técnicos: uso crítico da IA, proteção de dados, autoria, avaliação, acessibilidade, segurança e viés. Quando o professor compreende o funcionamento e os limites das ferramentas, consegue orientar estudantes de forma mais segura. Costa e Silva (2025) reforçam a necessidade de inserir ética e IA na educação profissional e tecnológica, o que demonstra que a formação docente é parte da governança.

Uma sétima diretriz é criar protocolos de resposta a incidentes. Vazamentos, acessos indevidos, exposição de notas, compartilhamento de imagens e uso inadequado de ferramentas devem ter procedimentos claros. A instituição precisa saber quem aciona, quem comunica, quem registra, quem corrige e quando notificar autoridades ou titulares. A ANPD (2023) enfatiza a importância de segurança jurídica e proteção reforçada quando o tratamento envolve crianças e adolescentes, o que torna protocolos escolares indispensáveis.

Uma oitava diretriz é incluir estudantes e famílias no processo. A governança democrática pressupõe comunicação clara e participação social. Famílias precisam compreender quais tecnologias são usadas e quais direitos possuem; estudantes precisam desenvolver letramento algorítmico e consciência de privacidade. A OCDE (2024) indica que políticas de IA e privacidade devem dialogar para enfrentar riscos de forma coordenada, o que reforça a necessidade de envolver diferentes atores institucionais e sociais.

8. PROPOSTA DE MATRIZ INSTITUCIONAL DE GOVERNANÇA DIGITAL

Para tornar a discussão aplicável, propõe-se uma matriz institucional de governança digital organizada em cinco eixos: diagnóstico, política, implementação, acompanhamento e revisão. O diagnóstico identifica tecnologias, dados, riscos e atores; a política define regras e responsabilidades; a implementação estabelece formação e protocolos; o acompanhamento verifica resultados e incidentes; e a revisão atualiza práticas conforme novas tecnologias e mudanças legais. Essa matriz dialoga com a ideia de que a governança é processo contínuo, não documento isolado. O MEC (2026) defende que o uso de IA na educação seja orientado por salvaguardas, avaliação de riscos e compromisso com a aprendizagem.

A matriz apresentada organiza a governança digital em linguagem próxima da gestão escolar, permitindo que a instituição avance da intenção para a prática. O ponto decisivo é vincular cada tecnologia a uma finalidade pedagógica, a uma base legal, a um responsável e a um mecanismo de revisão. Com isso, a escola evita tanto o tecnofetichismo quanto a recusa acrítica da inovação. Gomes (2023) afirma que a adequação à LGPD em instituições de ensino requer adaptação negociada e criativa de procedimentos, aspecto que se aproxima da proposta de matriz institucional.

A matriz também favorece a integração entre equipes pedagógicas, jurídicas, administrativas e tecnológicas. A governança não deve ser deixada apenas ao setor de tecnologia da informação, porque envolve direitos fundamentais e decisões pedagógicas. Do mesmo modo, não deve ser limitada ao setor jurídico, porque precisa dialogar com currículo, avaliação, inclusão e formação docente. A UNESCO (2023) sustenta que políticas educacionais de IA devem desenvolver capacidades humanas e planejar ações de longo prazo, o que reforça a necessidade de integração institucional.

Na prática, a instituição pode iniciar por uma pergunta simples: quais ferramentas digitais utilizam dados de estudantes e quais delas usam ou podem usar IA? A resposta permite priorizar riscos e organizar um cronograma. Plataformas de maior impacto, como sistemas de avaliação automatizada, reconhecimento facial, monitoramento comportamental e IA generativa integrada a ambientes virtuais, devem receber análise mais cuidadosa. A OCDE (2024) demonstra que os avanços da IA intensificam interações entre governança de dados e privacidade, exigindo respostas institucionais coordenadas.

A participação da comunidade escolar deve atravessar todos os eixos da matriz. A escola pode criar materiais de orientação para famílias, rodas de conversa com estudantes, formação docente e canais de dúvidas sobre dados pessoais. Essas ações transformam a proteção de dados em educação para a cidadania digital. O CGI.br (2022) destaca que a plataformização da educação envolve problemas conceituais e políticos, de modo que a comunidade precisa compreender o papel dos dados nos ambientes educacionais digitais.

A avaliação da matriz deve combinar indicadores técnicos e pedagógicos. Não basta verificar se uma plataforma funciona; é necessário avaliar se ela melhora a aprendizagem, se respeita privacidade, se reduz desigualdades, se é acessível e se permite revisão humana. A governança responsável se mede pela capacidade de proteger pessoas enquanto qualifica processos formativos. Heggler, Szmoski e Miquelin (2025) mostram que a atenção aos vieses algorítmicos é indispensável para evitar que a IA reproduza exclusões sob aparência de neutralidade técnica.

Por fim, a governança digital deve ser avaliada periodicamente. Tecnologias mudam rapidamente, políticas de privacidade são alteradas, novas ferramentas surgem e práticas antes aceitáveis podem se tornar inadequadas. A escola precisa revisar seus instrumentos e manter diálogo com professores, estudantes, famílias e equipes técnicas. A UNESCO (2023) recomenda planejamento de longo prazo e desenvolvimento de capacidades humanas para lidar com IA generativa, o que confirma a necessidade de atualização contínua e institucionalizada.

A relação com fornecedores deve ser tratada como parte do projeto educacional. Plataformas que prometem rapidez, correção automática e relatórios sofisticados podem seduzir gestores, mas é preciso avaliar se a tecnologia respeita o currículo, a diversidade dos estudantes e a legislação. Contratos devem prever exclusão de dados ao fim da relação, restrição de uso para treinamento de modelos, confidencialidade e comunicação de incidentes. O CGI.br (2022) ressalta que a plataformização da educação se insere em uma economia de dados, na qual informações educacionais podem adquirir valor comercial.

Outro aspecto relevante é a documentação. Instituições de ensino frequentemente realizam boas práticas, mas não as registram; em caso de questionamento, a ausência de documentação dificulta demonstrar conformidade. Políticas internas, atas de formação, registros de consentimento quando necessário, inventários de dados e relatórios de avaliação podem comprovar responsabilidade. Minghelli et al. (2024) mostram que o relatório de impacto organiza informações sobre tratamento de dados e medidas de mitigação, funcionando como instrumento de governança.

A proteção de dados também deve orientar práticas simples do cotidiano escolar. Fotografias de estudantes, grupos de mensagens, formulários online, planilhas compartilhadas, senhas de plataformas e gravações de aulas são exemplos de situações que exigem cuidado. A cultura institucional de proteção começa nessas rotinas, não apenas em grandes sistemas de IA. A LGPD determina que o tratamento de dados deve observar necessidade e segurança, princípios que podem ser traduzidos em minimização de coleta, controle de acesso e orientação permanente (BRASIL, 2018).

A gestão de riscos deve ser incorporada ao planejamento pedagógico. Antes de utilizar IA para corrigir redações, prever evasão ou recomendar trilhas de aprendizagem, a escola deve perguntar quais erros o sistema pode cometer, quem será prejudicado, como o resultado poderá ser contestado e qual professor fará a revisão. Essa postura evita que a eficiência se sobreponha à justiça educacional. Heggler, Szmoski e Miquelin (2025) apontam que vieses algorítmicos podem gerar efeitos desiguais, razão pela qual a supervisão humana e a auditoria são necessárias.

A educação tecnológica, por sua vez, deve superar uma perspectiva instrumental. Ensinar tecnologia não é apenas demonstrar funcionalidades, mas desenvolver capacidade crítica para avaliar impactos sociais, jurídicos e éticos dos sistemas digitais. Estudantes devem compreender que uma resposta gerada por IA não é conhecimento absoluto, mas resultado probabilístico produzido por modelos treinados com dados e critérios específicos. Hermann (2025) afirma que a IA inquieta a educação porque modifica a experiência humana diante da técnica, o que exige reflexão ética e formativa.

A gestão escolar precisa reconhecer que a escolha de uma plataforma educacional é também uma decisão jurídica. Quando a escola adota aplicativo de comunicação, diário eletrônico, ambiente virtual, sistema de monitoramento ou ferramenta de IA, ela define fluxos de dados e cria obrigações. Não basta que o fornecedor declare conformidade; a instituição deve compreender e documentar o que será coletado, por qual finalidade e com quais garantias. A OCDE (2024) observa que IA, governança de dados e privacidade possuem pontos de contato que precisam ser coordenados para evitar lacunas entre tecnologia e proteção de direitos.

No campo do Direito Educacional, a governança digital amplia a compreensão de responsabilidade das instituições de ensino. A responsabilidade não se limita ao dever de ofertar ensino, cumprir calendário e avaliar estudantes, mas inclui proteger dados, garantir transparência tecnológica, prevenir discriminações algorítmicas e assegurar que decisões educacionais permaneçam submetidas a critérios humanos e pedagógicos. Essa ampliação não deve ser vista como sobrecarga sem sentido, mas como consequência da própria digitalização da escola. Gomes (2023) demonstra que a adequação de rotinas educacionais à LGPD exige reorganização institucional, pois a proteção de dados passa a integrar os procedimentos ordinários da instituição.

9. CONSIDERAÇÕES FINAIS

A análise desenvolvida permite afirmar que Inteligência Artificial, proteção de dados e governança digital constituem dimensões indissociáveis nas instituições de ensino contemporâneas. A IA pode apoiar práticas pedagógicas, gestão educacional e acessibilidade, mas sua incorporação exige critérios jurídicos, éticos e pedagógicos. O Direito contribui ao estabelecer limites, princípios, responsabilidades e garantias; a Educação Tecnológica contribui ao formar sujeitos capazes de compreender, usar e questionar criticamente as tecnologias. Almeida, Fernandes Junior e Fernandes (2025) evidenciam que a cartografia da IA e da proteção de dados na educação básica já se tornou questão central para pensar a escola em contexto digital.

Conclui-se que a governança digital deve ser compreendida como cultura institucional, e não como mera exigência burocrática. Ela envolve inventário de dados, revisão de contratos, formação docente, transparência com famílias, avaliação de impacto, protocolos de segurança, supervisão humana e participação democrática. Nas instituições de ensino, essa governança deve proteger especialmente crianças e adolescentes, sujeitos que demandam cuidado reforçado. A ANPD (2023) confirma que o tratamento de dados de menores deve observar o melhor interesse, o que coloca a proteção de direitos no centro da inovação educacional.

Por fim, a interface entre Direito e Educação Tecnológica aponta para uma postura equilibrada: não se trata de rejeitar a IA, nem de adotá-la como solução automática para problemas educacionais históricos. Trata-se de construir condições para que a tecnologia seja usada com finalidade pedagógica, responsabilidade, equidade, transparência e controle humano. A escola que assume essa perspectiva amplia sua capacidade de inovar sem abandonar sua função formativa, democrática e protetiva. O MEC (2026) reforça que o uso responsável da IA deve respeitar dignidade humana e equidade, diretriz que sintetiza o compromisso necessário entre inovação e direitos fundamentais.

REFERÊNCIAS BIBLIOGRÁFICAS

ALMEIDA, Siderly do Carmo Dahle de; FERNANDES JUNIOR, Alvaro Martins; FERNANDES, Daniel Maciel Martins. Cartografia da inteligência artificial e da proteção de dados na educação básica. Educação & Sociedade, Campinas, v. 46, e300372, 2025. DOI: 10.1590/ES.300372. Disponível em: https://doi.org/10.1590/ES.300372. Acesso em: 4 jul. 2026.

AUTORIDADE NACIONAL DE PROTEÇÃO DE DADOS (ANPD). ANPD divulga enunciado sobre o tratamento de dados pessoais de crianças e adolescentes. Brasília: ANPD, 2023. Disponível em: https://www.gov.br/anpd. Acesso em: 4 jul. 2026.

AUTORIDADE NACIONAL DE PROTEÇÃO DE DADOS (ANPD). Estudo preliminar: tratamento de dados pessoais de crianças e adolescentes. Brasília: ANPD, 2022. Disponível em: https://www.gov.br/anpd. Acesso em: 4 jul. 2026.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais. Brasília, DF: Presidência da República, 2018. Disponível em: https://www.planalto.gov.br. Acesso em: 4 jul. 2026.

BRASIL. Ministério da Educação. Referencial para o uso e desenvolvimento responsáveis de inteligência artificial na educação. Brasília: MEC, 2026. Disponível em: https://www.gov.br/mec. Acesso em: 4 jul. 2026.

CGI.BR. Educação em um cenário de plataformização e de economia dos dados: problemas e conceitos. São Paulo: Comitê Gestor da Internet no Brasil, 2022. Disponível em: https://cgi.br. Acesso em: 4 jul. 2026.

COSTA, Leandro Silva; SILVA, Lenina Lopes Soares. Ética e uso de inteligência artificial na educação profissional técnica de nível médio no Brasil. Revista Brasileira da Educação Profissional e Tecnológica, v. 3, n. 25, e17800, 2025. DOI: 10.15628/rbept.2025.17800. Disponível em: https://doi.org/10.15628/rbept.2025.17800. Acesso em: 4 jul. 2026.

GOMES, Fernando Vidal. Proteção de dados pessoais em instituições de ensino superior: adequação de rotinas e procedimentos internos à Lei Geral de Proteção de Dados. Revista Brasileira de Políticas Públicas, v. 13, n. 1, 2023. DOI: 10.5102/rbpp.v13i1.7996. Disponível em: https://doi.org/10.5102/rbpp.v13i1.7996. Acesso em: 4 jul. 2026.

HEGGLER, João Marcos; SZMOSKI, Romeu Miqueias; MIQUELIN, Awdry Feisser. As dualidades entre o uso da inteligência artificial na educação e os riscos de vieses algorítmicos. Educação & Sociedade, Campinas, v. 46, e289323, 2025. DOI: 10.1590/ES.289323. Disponível em: https://doi.org/10.1590/ES.289323. Acesso em: 4 jul. 2026.

HERMANN, Nadja. Ética e inteligência artificial: o que inquieta? Educação & Sociedade, Campinas, v. 46, e296750, 2025. DOI: 10.1590/ES.296750. Disponível em: https://doi.org/10.1590/ES.296750. Acesso em: 4 jul. 2026.

MINGHELLI, Marcelo; GARCIA, Bárbara Balbis; VALE, Mariene Alves do; SANTOS, Patricia Siqueira. Lei Geral de Proteção de Dados e a elaboração do Relatório de Impacto à Proteção de Dados Pessoais. Em Questão, Porto Alegre, v. 30, 2024. DOI: 10.1590/1808-5245.30.138249. Disponível em: https://doi.org/10.1590/1808-5245.30.138249. Acesso em: 4 jul. 2026.

OECD. AI, data governance and privacy: synergies and areas of international co-operation. Paris: OECD Publishing, 2024. Disponível em: https://www.oecd.org. Acesso em: 4 jul. 2026.

UNESCO. Guidance for generative AI in education and research. Paris: UNESCO, 2023. Disponível em: https://unesdoc.unesco.org. Acesso em: 4 jul. 2026.