PRINCÍPIOS PARA O DESENVOLVIMENTO E A AVALIAÇÃO DE ARTEFATOS EDUCACIONAIS COM INTELIGÊNCIA ARTIFICIAL

REGISTRO DOI: 10.70773/revistatopicos/792274560

RESUMO
O desenvolvimento de artefatos educacionais com inteligência artificial exige a articulação entre fundamentos pedagógicos, critérios tecnológicos, procedimentos metodológicos e princípios éticos capazes de assegurar sua pertinência aos contextos educacionais. Embora essas tecnologias ampliem as possibilidades de organização, recuperação e produção do conhecimento, sua incorporação às instituições de ensino não garante, por si só, melhorias nos processos educativos. Este artigo tem como objetivo analisar os fundamentos que orientam o desenvolvimento e a avaliação de artefatos educacionais com inteligência artificial, propondo princípios que contribuam para a concepção de soluções tecnológicas cientificamente fundamentadas, pedagogicamente relevantes e socialmente responsáveis. A investigação caracteriza-se como um estudo qualitativo, de natureza bibliográfica, documental e teórico-propositiva, fundamentado nos pressupostos da Design Science Research. A análise articula contribuições da literatura sobre construção de artefatos, inteligência artificial na Educação, avaliação de tecnologias e responsabilidade ética. Como contribuição, propõe-se uma sistematização de princípios relacionados à intencionalidade pedagógica, identificação das necessidades dos usuários, rigor metodológico, acessibilidade, transparência, proteção de dados, avaliação multidimensional e aperfeiçoamento contínuo. Argumenta-se que a qualidade de um artefato educacional inteligente não pode ser determinada exclusivamente por seu desempenho técnico, devendo considerar sua adequação às finalidades educativas e às condições concretas de utilização. Conclui-se que o desenvolvimento responsável dessas soluções demanda processos avaliativos articulados, participação dos sujeitos e compromisso com a formação humana.
Palavras-chave: Inteligência artificial; Artefatos educacionais; Design Science Research; Avaliação educacional; Tecnologias digitais.

ABSTRACT
The development of educational artifacts incorporating artificial intelligence requires the integration of pedagogical foundations, technological criteria, methodological procedures, and ethical principles to ensure their relevance to educational contexts. Although these technologies expand opportunities for organizing, retrieving, and producing knowledge, their incorporation into educational institutions does not, in itself, guarantee improvements in educational processes. This article aims to analyze the foundations guiding the development and evaluation of AI-based educational artifacts and to propose principles that support the design of scientifically grounded, pedagogically relevant, and socially responsible technological solutions. The investigation is characterized as a qualitative, bibliographic, documentary, and theoretical-propositional study, informed by the foundations of Design Science Research. The analysis brings together contributions from the literature on artifact development, artificial intelligence in education, technology evaluation, and ethical responsibility. As its main contribution, the article proposes a systematization of principles addressing pedagogical intentionality, identification of user needs, methodological rigor, accessibility, transparency, data protection, multidimensional evaluation, and continuous improvement. It argues that the quality of an intelligent educational artifact cannot be determined solely by its technical performance but must also consider its alignment with educational purposes and actual conditions of use. The study concludes that the responsible development of these solutions requires integrated evaluation processes, stakeholder participation, and a commitment to human development.
Keywords: Artificial intelligence; Educational artifacts; Design Science Research; Educational evaluation; Digital technologies.

1. INTRODUÇÃO

A incorporação da inteligência artificial aos processos educacionais tem ampliado as possibilidades de desenvolvimento de ambientes digitais, sistemas de acompanhamento da aprendizagem, plataformas de gestão acadêmica e ferramentas destinadas à organização e à produção do conhecimento. Essas tecnologias passaram a integrar diferentes dimensões da atividade educativa, oferecendo recursos para automatizar procedimentos, identificar padrões, recuperar informações e apoiar determinadas decisões pedagógicas e institucionais. Entretanto, a ampliação de suas funcionalidades também evidencia a necessidade de compreender sob quais condições tais recursos efetivamente contribuem para as finalidades da Educação, especialmente quando sua utilização envolve sujeitos, práticas e relações que não podem ser reduzidos à lógica do funcionamento computacional.

Holmes e Tuomi (2022), ao examinarem o estado da arte e as práticas relacionadas à inteligência artificial na Educação, evidenciam a importância de considerar as diferentes concepções educacionais subjacentes ao desenvolvimento e à utilização dessas tecnologias. A contribuição dos autores permite compreender que a incorporação de sistemas inteligentes não corresponde a um processo pedagogicamente neutro, uma vez que envolve determinadas compreensões sobre ensino, aprendizagem, conhecimento e participação humana. Consequentemente, a análise de artefatos educacionais precisa considerar não apenas aquilo que os sistemas conseguem executar, mas também os pressupostos que orientam suas funcionalidades e os efeitos de sua utilização sobre os processos educativos.

Essa perspectiva aproxima-se das orientações da UNESCO (2023), que defende uma abordagem centrada no ser humano para o emprego da inteligência artificial generativa na Educação e na pesquisa. O documento destaca a necessidade de políticas e procedimentos capazes de orientar o desenvolvimento e a utilização dessas tecnologias, considerando questões relacionadas à proteção de dados, à inclusão, à autonomia dos sujeitos e à adequação pedagógica. Embora tais recomendações tenham abrangência internacional, sua aplicação exige atenção às condições concretas das instituições educacionais, particularmente às desigualdades de acesso, infraestrutura e formação tecnológica.

A Design Science Research (DSR) oferece contribuições relevantes para enfrentar essa questão ao articular investigação científica, identificação de problemas concretos e desenvolvimento de soluções orientadas à transformação de determinadas situações. Dresch, Lacerda e Antunes Júnior (2015) apresentam essa abordagem como uma possibilidade de produção de conhecimento comprometida com a construção e a avaliação de artefatos. Sua contribuição ultrapassa a elaboração de produtos tecnológicos, pois envolve a fundamentação das decisões de projeto, a explicitação dos requisitos que orientam o desenvolvimento e a produção de conhecimentos que possam subsidiar intervenções em problemas semelhantes.

No entanto, a utilização de uma abordagem metodológica consistente não elimina a necessidade de explicitar os critérios pelos quais a qualidade de um artefato será analisada. O desenvolvimento de sistemas com inteligência artificial acrescenta dificuldades específicas, como a possibilidade de respostas incorretas, resultados enviesados, baixa transparência dos procedimentos automatizados e tratamento inadequado de informações pessoais. Essas questões evidenciam os limites de avaliações restritas à satisfação dos usuários ou ao funcionamento de determinadas ferramentas, indicando a necessidade de procedimentos que considerem diferentes dimensões da qualidade tecnológica e educacional.

Diante disso, estabelece-se a seguinte questão norteadora: quais princípios teóricos, metodológicos, pedagógicos e éticos devem orientar o desenvolvimento e a avaliação de artefatos educacionais com inteligência artificial, considerando sua adequação às necessidades dos usuários, sua finalidade educativa e sua contribuição para os processos de ensino, aprendizagem e produção do conhecimento? O objetivo do artigo consiste em analisar esses fundamentos e propor um conjunto articulado de princípios que possa subsidiar a concepção, o desenvolvimento e a avaliação de soluções tecnológicas educacionalmente relevantes, metodologicamente consistentes e socialmente responsáveis.

Para responder à questão proposta, o artigo está organizado em cinco seções, incluindo esta introdução. A segunda seção apresenta a fundamentação teórica, contemplando os conceitos de artefatos educacionais, inteligência artificial, Design Science Research e avaliação de tecnologias. A terceira descreve o percurso metodológico adotado na investigação. A quarta reúne os resultados e as discussões, com a proposição de princípios orientadores e um quadro-síntese de suas possibilidades de aplicação. Por fim, a quinta seção apresenta as considerações finais, retomando as contribuições do estudo, seus limites e as possibilidades de aprofundamento em pesquisas futuras.

2. FUNDAMENTAÇÃO TEÓRICA

2.1. Artefatos Educacionais e Inteligência Artificial: Fundamentos Conceituais e Possibilidades Pedagógicas

A compreensão dos artefatos educacionais pressupõe o reconhecimento de que as tecnologias desenvolvidas para responder a determinadas necessidades humanas resultam de processos intencionais de elaboração, organização e transformação da realidade. Diferentemente de uma concepção restrita à materialidade dos equipamentos ou ao funcionamento de programas computacionais, o conceito de artefato envolve soluções concebidas para atender a problemas específicos, considerando objetivos, requisitos e condições de utilização. Quando vinculados à Educação, esses recursos adquirem características próprias, pois suas finalidades se relacionam à formação dos sujeitos, à organização dos processos educativos e à produção e circulação do conhecimento.

Dresch, Lacerda e Antunes Júnior (2015) contribuem para essa compreensão ao relacionarem a construção de artefatos à produção de conhecimento orientada à solução de problemas. Nessa perspectiva, o desenvolvimento tecnológico não se limita à aplicação instrumental de conhecimentos previamente estabelecidos, mas constitui um processo investigativo que exige compreender a situação problemática, examinar alternativas e avaliar a adequação da solução construída. O artefato, portanto, não representa apenas um produto final, mas também a materialização de decisões fundamentadas, passíveis de análise, aperfeiçoamento e comunicação científica.

A inteligência artificial amplia essa diversidade ao permitir o desenvolvimento de sistemas que realizam tarefas relacionadas à classificação de informações, ao reconhecimento de padrões, à geração de conteúdos e ao apoio à tomada de decisões. Entretanto, a incorporação desses recursos não transforma automaticamente um sistema em uma solução pedagogicamente consistente. Para que exista uma contribuição educacional relevante, torna-se necessário examinar como as funcionalidades inteligentes se articulam aos objetivos institucionais e formativos, quais procedimentos orientam seu funcionamento e de que maneira os usuários podem compreender, questionar e avaliar seus resultados.

Holmes e Tuomi (2022) contribuem para essa discussão ao examinarem as diferentes orientações que fundamentam a inteligência artificial aplicada à Educação. A análise dos autores permite reconhecer que determinadas aplicações são desenvolvidas a partir de perspectivas centradas na identificação de comportamentos, no acompanhamento de desempenhos ou na automatização de processos. Outras possibilidades enfatizam o apoio às atividades educacionais e a ampliação das condições de participação dos sujeitos. Essas diferenças não são secundárias, pois influenciam o modo como os problemas são definidos, as informações são selecionadas e os resultados são interpretados.

Essa discussão aproxima-se das contribuições de Moran (2007), ao reconhecer a importância de reorganizar práticas educativas diante das transformações culturais e tecnológicas. A presença de recursos digitais pode ampliar possibilidades de comunicação, interação e acesso à informação, mas seus efeitos dependem das formas de utilização e das mediações estabelecidas. A inovação educacional, sob essa perspectiva, não decorre simplesmente da substituição de recursos tradicionais por ferramentas digitais, mas da capacidade de construir práticas coerentes com os objetivos formativos e com as necessidades dos estudantes.

Essa compreensão encontra aproximação com a investigação desenvolvida por Junqueira (2026), cuja dissertação de mestrado propôs um artefato tecnológico voltado ao acompanhamento da produção intelectual e das trajetórias de discentes e egressos de um Programa de Pós-Graduação em Educação. A pesquisa identificou necessidades institucionais relacionadas à organização e à recuperação de informações acadêmicas e desenvolveu uma solução em estado funcional inicial, permitindo analisar a relação entre problemas concretos, requisitos tecnológicos e percepção dos usuários. A investigação também distinguiu as funcionalidades já implementadas das possibilidades de incorporação futura de recursos avançados de inteligência artificial, aspecto importante para evitar que potencialidades previstas sejam apresentadas como resultados tecnológicos efetivamente alcançados.

A UNESCO (2023) enfatiza uma perspectiva humanocentrada para o desenvolvimento e a utilização de inteligência artificial generativa na Educação. Essa orientação pressupõe atenção à proteção de dados, à autonomia dos usuários, à inclusão e às condições institucionais necessárias para a utilização responsável das tecnologias. Sua relevância reside em reconhecer que a qualidade de uma solução tecnológica não pode ser dissociada das consequências sociais e educacionais de sua implementação.

2.2. Design Science Research Como Abordagem para o Desenvolvimento de Artefatos Educacionais

A Design Science Research constitui uma abordagem investigativa orientada à produção de conhecimento por meio da concepção, do desenvolvimento e da avaliação de artefatos destinados à resolução de problemas. Sua contribuição metodológica decorre da possibilidade de articular fundamentação científica e intervenção na realidade, reconhecendo que determinadas questões de pesquisa demandam não apenas a compreensão dos fenômenos, mas também a elaboração fundamentada de soluções que possam transformar situações existentes.

Dresch, Lacerda e Antunes Júnior (2015) apresentam a DSR como uma alternativa metodológica especialmente pertinente às pesquisas cuja finalidade envolve a construção de artefatos ou proposições orientadas à resolução de problemas. Diferentemente de abordagens exclusivamente descritivas, a DSR incorpora uma dimensão propositiva, na qual a produção de conhecimento se relaciona à elaboração e à avaliação de soluções fundamentadas. Isso não significa reduzir a pesquisa científica à produção de ferramentas, mas compreender que os processos de desenvolvimento podem contribuir para a elaboração de conhecimentos sobre problemas, requisitos, decisões de projeto e condições de aplicação.

Essa interpretação foi incorporada à dissertação de Junqueira (2026), que apresenta a Design Science Research como eixo metodológico para o desenvolvimento de um artefato tecnológico em contexto educacional. Ao explicar o percurso da investigação, a autora registra:

A aplicação do método seguiu uma sequência estruturada, conforme sintetizado na Figura 2, que apresenta as etapas da pesquisa e sua correspondência com os objetivos do estudo. [...] A primeira etapa consistiu na identificação do problema, realizada a partir da análise do contexto institucional do PPGE, evidenciando limitações na localização e recuperação das produções acadêmicas, bem como dificuldades no acompanhamento de egressos. Essa fase também considerou as exigências da avaliação da CAPES, que atribuem relevância aos conteúdos produzidos como indicador de desempenho. (Junqueira, 2026, p. 35–36).

A passagem evidencia a centralidade do diagnóstico na elaboração de artefatos tecnológicos. Antes da definição das funcionalidades, a investigação precisa identificar o problema que justifica o desenvolvimento da solução e compreender suas manifestações no contexto estudado. Quando essa etapa é negligenciada, aumenta-se o risco de produzir sistemas tecnicamente sofisticados, mas pouco aderentes às demandas dos usuários. A identificação do problema, portanto, possui simultaneamente uma dimensão investigativa e uma dimensão projetual, pois orienta as escolhas posteriores relacionadas à arquitetura, à implementação e à avaliação do artefato.

A avaliação ocupa uma posição central na Design Science Research porque permite investigar em que medida a solução desenvolvida responde ao problema que fundamentou sua elaboração. Dresch, Lacerda e Antunes Júnior (2015) destacam a importância da construção e da avaliação dos artefatos na produção de conhecimento orientada à transformação de situações. Essa perspectiva exige que os procedimentos avaliativos sejam definidos com clareza, estabelecendo critérios coerentes com os objetivos pretendidos e com as características da solução.

A experiência metodológica de Junqueira (2026) contribui para ilustrar essa relação entre desenvolvimento e avaliação. Ao apresentar a etapa de construção de seu artefato tecnológico, a autora explicita os limites da versão inicial:

A etapa de desenvolvimento compreendeu a concepção e implementação do artefato em estado funcional inicial. Foram estruturados recursos como cadastro de usuários, inserção de informações acadêmicas, publicação de conteúdos e organização de materiais. Embora não contemple, neste momento, funcionalidades avançadas de inteligência artificial, a arquitetura do sistema foi projetada com potencial para incorporação futura desses recursos. (Junqueira, 2026, p. 36).

Essa distinção entre funcionalidades implementadas e possibilidades previstas constitui um aspecto metodológico importante, especialmente nas pesquisas que envolvem inteligência artificial. O reconhecimento dos limites do artefato evita atribuir à solução resultados que ainda não foram demonstrados e permite compreender a avaliação como parte de um processo de aperfeiçoamento. A possibilidade de incorporar recursos inteligentes não equivale à comprovação de sua eficácia, assim como uma avaliação inicial de usabilidade não substitui a análise de impactos educacionais em condições prolongadas de utilização.

Nielsen (1993), ao discutir a engenharia de usabilidade, oferece fundamentos relevantes para compreender a importância da interação entre usuários e sistemas. Os procedimentos de avaliação de usabilidade contribuem para identificar dificuldades de navegação, problemas de compreensão e obstáculos que comprometem a utilização de determinados recursos. Entretanto, a usabilidade não esgota a avaliação de um artefato educacional. Um sistema pode ser intuitivo e apresentar boa experiência de interação sem demonstrar contribuição efetiva para os processos educativos que pretende apoiar.

2.3. Dimensões Pedagógicas, Tecnológicas e Éticas da Avaliação de Artefatos com Inteligência Artificial

A avaliação de artefatos educacionais com inteligência artificial constitui um processo multidimensional, cuja complexidade decorre da interação entre características tecnológicas, finalidades pedagógicas, condições institucionais e responsabilidades éticas. Diferentemente de uma análise limitada à verificação de funcionalidades, a avaliação precisa investigar a adequação da solução ao problema que justificou sua elaboração, considerando os efeitos pretendidos e as condições necessárias para sua utilização. Essa compreensão exige critérios capazes de articular indicadores técnicos e educacionais sem reduzir uma dimensão à outra.

No âmbito tecnológico, a avaliação contempla aspectos relacionados ao funcionamento do sistema, à estabilidade, à facilidade de utilização, à acessibilidade e à segurança das informações. Nielsen (1993) oferece contribuições importantes para o exame da usabilidade, reconhecendo a necessidade de considerar as condições de interação entre os usuários e as interfaces. A relevância dessa dimensão reside no fato de que dificuldades de navegação, organização inadequada das informações e procedimentos excessivamente complexos podem comprometer a utilização de uma solução, mesmo quando suas funcionalidades correspondem aos requisitos previstos.

Entretanto, a avaliação tecnológica apresenta limitações quando utilizada isoladamente no contexto educacional. A eficiência operacional de um sistema não assegura sua adequação às necessidades pedagógicas, assim como a satisfação dos usuários não constitui evidência suficiente de aprendizagem ou de melhoria institucional. Torna-se necessário, portanto, diferenciar indicadores de funcionamento, indicadores de experiência dos usuários e evidências relacionadas aos resultados educacionais pretendidos. Essa distinção evita que a qualidade de um artefato seja determinada exclusivamente por percepções favoráveis ou pelo desempenho de determinadas operações.

A avaliação pedagógica, por sua vez, exige examinar a relação entre as funcionalidades do artefato e as concepções de ensino, aprendizagem e produção do conhecimento que fundamentam sua utilização. Moran (2007) contribui para compreender a necessidade de reorganização das práticas educativas diante das possibilidades oferecidas pelas tecnologias, ressaltando a importância de metodologias e mediações coerentes com os objetivos formativos. Sob essa perspectiva, a incorporação de inteligência artificial precisa estar associada a uma intencionalidade pedagógica explícita, capaz de orientar tanto o desenvolvimento quanto a avaliação das soluções.

A dimensão ética representa outro componente indispensável. A UNESCO (2023) apresenta orientações para a utilização da inteligência artificial generativa na Educação e na pesquisa, enfatizando a necessidade de uma abordagem centrada no ser humano. O documento destaca preocupações relacionadas à proteção de dados, à equidade, à segurança e à adequação pedagógica, além de reconhecer que a disponibilidade de recursos inteligentes não assegura sua utilização responsável. Essas orientações contribuem para compreender que o desenvolvimento tecnológico exige decisões institucionais relacionadas à governança, à definição de responsabilidades e à proteção dos direitos dos sujeitos envolvidos.

No contexto brasileiro, a Lei Geral de Proteção de Dados Pessoais, instituída pela Lei nº 13.709/2018, estabelece disposições relevantes para o tratamento de informações pessoais. Artefatos educacionais que utilizam dados de estudantes, docentes ou outros integrantes da comunidade acadêmica precisam considerar requisitos relacionados à finalidade, à necessidade, à segurança e à transparência no tratamento dessas informações. A conformidade com a legislação não deve ser compreendida apenas como exigência posterior à implementação, mas como condição a ser considerada desde a concepção do sistema.

A acessibilidade e a inclusão constituem igualmente dimensões indispensáveis. O desenvolvimento de um artefato educacional precisa considerar que os usuários apresentam diferentes características, necessidades e condições de acesso às tecnologias. Interfaces pouco acessíveis, funcionalidades que exigem conhecimentos técnicos excessivos ou sistemas incompatíveis com recursos assistivos podem restringir a participação de determinados grupos. Dessa forma, avaliar a acessibilidade não representa apenas verificar a existência de funcionalidades específicas, mas compreender em que medida o sistema oferece condições efetivas de utilização por diferentes sujeitos.

Nesse sentido, a qualidade dos artefatos educacionais inteligentes deve ser compreendida como uma construção contextual e progressiva, resultante da relação entre objetivos, sujeitos, recursos e condições de utilização. Não se trata de estabelecer indicadores universais capazes de determinar isoladamente o valor de qualquer solução tecnológica, mas de reconhecer dimensões que precisam ser consideradas e adaptadas aos problemas investigados. Essa compreensão fundamenta a proposição desenvolvida neste artigo, segundo a qual o desenvolvimento e a avaliação de artefatos educacionais com inteligência artificial devem constituir processos articulados, orientados simultaneamente pelo rigor científico, pela pertinência pedagógica e pela responsabilidade ética.

3. METODOLOGIA

A presente investigação caracteriza-se como uma pesquisa de abordagem qualitativa, de natureza bibliográfica e documental, com finalidade teórico-propositiva. Essa opção metodológica decorre do objetivo de analisar fundamentos conceituais e metodológicos relacionados ao desenvolvimento e à avaliação de artefatos educacionais com inteligência artificial, buscando sistematizar princípios que possam orientar futuras investigações e aplicações tecnológicas. Não se pretende, nesta etapa, desenvolver ou implementar um novo sistema, mas construir uma proposição fundamentada na articulação de conhecimentos já produzidos sobre a temática.

A seleção das referências orienta-se por sua pertinência ao problema de pesquisa, por sua contribuição para a compreensão das dimensões investigadas e pela possibilidade de estabelecer relações entre desenvolvimento tecnológico, avaliação e finalidades educacionais. O corpus inicial constitui uma seleção teórica intencional, fundamentada em referências previamente mobilizadas na pesquisa de mestrado e em documentos normativos relacionados ao objeto. Dessa forma, o trabalho não se caracteriza como revisão sistemática da literatura, uma vez que não foi organizado a partir de protocolo de busca exaustivo em bases bibliográficas ou de procedimentos destinados à recuperação integral das publicações disponíveis sobre o tema.

O procedimento analítico foi estruturado a partir de quatro dimensões: pedagógica, metodológica, tecnológica e ético-institucional. A dimensão pedagógica contempla as finalidades educativas, a mediação humana, a participação dos sujeitos e a adequação das funcionalidades aos processos de ensino, aprendizagem e produção do conhecimento. A dimensão metodológica considera a identificação do problema, a definição de requisitos, o desenvolvimento, a avaliação e o aperfeiçoamento progressivo dos artefatos. A dimensão tecnológica envolve aspectos relacionados à usabilidade, à acessibilidade, à confiabilidade e ao desempenho das soluções. Por fim, a dimensão ético-institucional compreende a proteção de dados, a transparência, a equidade, a responsabilização e as condições de sustentabilidade e governança.

A elaboração dos princípios orientadores segue uma lógica de síntese teórico-analítica. Inicialmente, são identificados fundamentos recorrentes nas obras selecionadas, examinando suas contribuições para o desenvolvimento e a avaliação de artefatos. Posteriormente, esses fundamentos são relacionados às dimensões analíticas estabelecidas, buscando reconhecer critérios capazes de orientar decisões concretas. Por fim, os critérios são organizados em princípios acompanhados de possibilidades de aplicação e avaliação, constituindo uma proposição destinada a subsidiar pesquisas futuras e processos de desenvolvimento tecnológico em contextos educacionais.

A Design Science Research constitui o principal referencial para compreender a articulação entre problema, construção e avaliação de soluções, mas não corresponde ao método integralmente executado neste artigo. Essa distinção é necessária porque a investigação não contempla um novo ciclo empírico de desenvolvimento e testagem de artefato, concentrando-se na sistematização de fundamentos que possam orientar tais procedimentos. A contribuição da DSR ocorre, portanto, no plano teórico e metodológico, especialmente por oferecer uma perspectiva que relaciona rigor científico, relevância prática e produção de conhecimentos aplicáveis à resolução de problemas.

4. RESULTADOS E DISCUSSÕES

A partir dessa articulação, propõe-se um conjunto de dez princípios orientadores, organizados em quatro dimensões interdependentes: pedagógica, metodológica, tecnológica e ético-institucional. Esses princípios não constituem requisitos universais ou um instrumento de avaliação previamente validado. Representam uma sistematização teórico-propositiva destinada a subsidiar decisões relacionadas ao desenvolvimento, à implementação e à avaliação de artefatos educacionais inteligentes. Sua aplicabilidade depende da natureza da solução, de seus objetivos e das condições institucionais em que será utilizada.

4.1. Centralidade das Necessidades Educacionais e dos Sujeitos

O primeiro princípio estabelece que o desenvolvimento de um artefato educacional com inteligência artificial deve partir da compreensão das necessidades concretas dos sujeitos e das instituições, e não exclusivamente das possibilidades oferecidas pelas tecnologias disponíveis. Essa orientação encontra sustentação na Design Science Research, que atribui à identificação do problema uma posição determinante na construção das soluções. Para Dresch, Lacerda e Antunes Júnior (2015), a produção de artefatos envolve a busca de alternativas capazes de transformar situações existentes, o que pressupõe compreender adequadamente as condições que justificam a intervenção.

Como implicação prática, propõe-se que o desenvolvimento seja precedido de um diagnóstico documentado, contendo a caracterização do problema, a identificação dos usuários, a descrição das necessidades e a definição dos resultados pretendidos. A avaliação deverá examinar a correspondência entre esses elementos e as funcionalidades desenvolvidas, considerando a percepção dos participantes e as evidências de atendimento às necessidades inicialmente identificadas.

4.2. Intencionalidade Pedagógica e Alinhamento aos Objetivos Educacionais

O segundo princípio refere-se à necessidade de assegurar que as funcionalidades dos artefatos estejam relacionadas a finalidades educacionais claramente estabelecidas. Embora a inteligência artificial possibilite automatizar procedimentos e ampliar a capacidade de processamento de informações, essas características não determinam, isoladamente, a qualidade pedagógica de uma solução. A presença de recursos inteligentes precisa estar associada a objetivos capazes de justificar sua utilização nos processos de ensino, aprendizagem, gestão educacional ou produção do conhecimento.

A avaliação desse princípio exige critérios que ultrapassem a facilidade de utilização e a satisfação imediata dos usuários. É necessário investigar se as funcionalidades contribuem para os objetivos estabelecidos e se sua utilização favorece processos educacionais coerentes com a proposta pedagógica. No caso de sistemas voltados à aprendizagem, poderão ser consideradas evidências relacionadas à participação, à compreensão dos conteúdos e ao desenvolvimento de competências. Para artefatos de gestão acadêmica, os critérios poderão envolver a qualidade da organização das informações, o acompanhamento de trajetórias e o apoio a decisões institucionais.

4.3. Fundamentação Científica e Rigor Metodológico no Desenvolvimento

O terceiro princípio estabelece que o desenvolvimento de artefatos educacionais inteligentes deve estar fundamentado em conhecimentos científicos e procedimentos metodológicos capazes de justificar as decisões adotadas. A inovação tecnológica, embora possa representar uma contribuição relevante, não constitui evidência suficiente da qualidade de uma solução. É necessário demonstrar como o problema foi identificado, quais fundamentos orientaram a definição dos requisitos, quais alternativas foram consideradas e por quais critérios o artefato será avaliado.

Propõe-se, portanto, que o rigor metodológico seja examinado a partir da existência de um percurso documentado, contendo diagnóstico, requisitos, justificativas, etapas de desenvolvimento, critérios avaliativos e registro das modificações realizadas. A produção científica decorrente desse processo deverá explicitar tanto os resultados alcançados quanto as limitações identificadas, evitando atribuir eficácia a funcionalidades que ainda não foram efetivamente implementadas ou avaliadas.

4.4. Participação dos Usuários e Aperfeiçoamento Iterativo

O quarto princípio reconhece a participação dos usuários como componente essencial do desenvolvimento e da avaliação de artefatos educacionais. Essa participação não deve ser compreendida apenas como procedimento destinado à obtenção de opiniões sobre uma solução concluída, mas como possibilidade de incorporar diferentes perspectivas ao longo do processo de concepção, construção e aperfeiçoamento.

O aperfeiçoamento iterativo exige, portanto, a articulação entre percepções, evidências de utilização e critérios previamente definidos. Como orientação prática, propõe-se a realização de avaliações em diferentes estágios do desenvolvimento, com registro das dificuldades identificadas, das decisões de modificação e dos resultados observados após os ajustes. Esse procedimento favorece a rastreabilidade das escolhas e contribui para uma compreensão progressiva da qualidade do artefato.

4.5. Usabilidade, Acessibilidade e Inclusão

O quinto princípio estabelece que a qualidade de um artefato educacional inteligente deve contemplar condições efetivas de utilização por diferentes sujeitos. A existência de funcionalidades tecnicamente adequadas não assegura que os usuários consigam compreendê-las, acessá-las ou utilizá-las de maneira autônoma. Por essa razão, usabilidade e acessibilidade precisam ser consideradas desde a concepção da solução, integrando os requisitos de desenvolvimento e os procedimentos avaliativos.

A acessibilidade amplia essa compreensão ao reconhecer que os usuários apresentam diferentes condições sensoriais, cognitivas, motoras e tecnológicas. Um sistema pode apresentar navegação considerada intuitiva por determinado grupo e, ainda assim, impor obstáculos significativos a outros participantes. Dessa maneira, a avaliação não deve se limitar à identificação de dificuldades médias de utilização, mas considerar barreiras específicas que possam restringir a participação de pessoas com diferentes necessidades.

Propõe-se que a usabilidade e a acessibilidade sejam analisadas por meio de testes com usuários de diferentes perfis, observação das dificuldades encontradas, verificação da compatibilidade com recursos assistivos e registro de barreiras que comprometam a realização das atividades. A finalidade desses procedimentos não consiste apenas em ampliar a aceitação da tecnologia, mas em assegurar que sua utilização não produza restrições desnecessárias ao acesso e à participação educacional.

4.6. Transparência, Explicabilidade e Supervisão Humana

O sexto princípio relaciona-se à necessidade de assegurar condições para que os usuários compreendam as finalidades, as possibilidades e as limitações dos sistemas inteligentes. A utilização de inteligência artificial pode envolver processos computacionais cuja complexidade dificulta a interpretação de determinados resultados. Essa característica exige atenção à transparência das funcionalidades e à definição de mecanismos que permitam questionar, revisar ou interromper procedimentos automatizados.

A explicabilidade, por sua vez, relaciona-se à possibilidade de oferecer justificativas compreensíveis sobre os resultados ou recomendações produzidos, dentro dos limites técnicos de cada solução. Em ambientes educacionais, essa preocupação adquire relevância quando sistemas inteligentes são utilizados para apoiar avaliações, identificar dificuldades ou recomendar determinados percursos formativos. Nesses casos, a impossibilidade de compreender os critérios envolvidos pode comprometer a confiança dos usuários e dificultar a identificação de decisões inadequadas.

Como critérios avaliativos, propõe-se verificar a clareza das informações disponibilizadas aos usuários, a identificação das funcionalidades automatizadas, os mecanismos de revisão das respostas e a existência de procedimentos para comunicação e correção de resultados inadequados. Esses elementos permitem compreender a transparência como uma característica relacionada à autonomia dos sujeitos e à responsabilidade institucional.

4.7. Privacidade, Proteção de Dados e Responsabilidade Ética

O sétimo princípio estabelece que o desenvolvimento de artefatos educacionais com inteligência artificial deve incorporar a proteção dos dados pessoais e a responsabilidade ética desde as etapas iniciais de concepção. A utilização de sistemas inteligentes pode envolver informações acadêmicas, registros de participação, produções intelectuais e outros dados relacionados às trajetórias dos sujeitos. O tratamento dessas informações exige cuidados que ultrapassam a segurança técnica, envolvendo finalidades legítimas, necessidade dos dados utilizados e definição das responsabilidades institucionais.

A Lei nº 13.709/2018, que institui a Lei Geral de Proteção de Dados Pessoais, estabelece princípios e disposições aplicáveis ao tratamento de dados pessoais no Brasil. Sua observância no desenvolvimento de artefatos educacionais exige analisar quais informações são necessárias, como serão utilizadas, por quanto tempo serão mantidas e quais medidas de segurança deverão ser adotadas. Essas decisões precisam ser compatíveis com a finalidade do sistema e com as condições legais de tratamento.

A avaliação ética deve contemplar a existência de políticas de privacidade, mecanismos de controle de acesso, definição de responsabilidades e procedimentos para identificação e tratamento de riscos. Também se propõe verificar a possibilidade de resultados discriminatórios, considerando que determinadas bases de dados ou critérios automatizados podem reproduzir desigualdades já presentes nos contextos sociais.

4.8. Avaliação Multidimensional Baseada em Evidências

O oitavo princípio constitui um dos elementos centrais da proposição desenvolvida neste estudo. Estabelece que a qualidade dos artefatos educacionais inteligentes deve ser examinada por meio de procedimentos avaliativos capazes de articular diferentes dimensões, evitando que indicadores isolados sejam interpretados como comprovação suficiente de sua eficácia.

Em artefatos educacionais inteligentes, propõe-se distinguir pelo menos quatro conjuntos de evidências: desempenho técnico, experiência dos usuários, adequação às finalidades educacionais e conformidade ética e institucional. O desempenho técnico poderá contemplar a confiabilidade das funcionalidades, a estabilidade do sistema e a consistência das informações processadas. A experiência dos usuários poderá ser examinada a partir da facilidade de utilização, das dificuldades identificadas e das condições de acessibilidade.

A adequação educacional deverá ser avaliada em relação aos objetivos específicos do artefato. Para sistemas destinados à aprendizagem, poderão ser investigadas evidências relacionadas à compreensão dos conteúdos, à participação e ao desenvolvimento de competências. Para soluções voltadas à gestão acadêmica, poderão ser examinadas a organização das informações, a recuperação de registros e a contribuição para procedimentos institucionais. A conformidade ética, por sua vez, exigirá critérios relacionados à privacidade, à transparência e à definição de responsabilidades.

Essa organização permite evitar interpretações indevidas sobre os resultados obtidos. Um elevado nível de satisfação dos usuários, por exemplo, não autoriza afirmar que determinado artefato produziu melhorias na aprendizagem. Da mesma maneira, a identificação de dificuldades de navegação não significa necessariamente que a concepção pedagógica da solução seja inadequada. Cada evidência precisa ser interpretada em relação à dimensão que efetivamente permite examinar.

A principal contribuição desse princípio consiste em compreender a avaliação não como uma etapa destinada apenas à aprovação ou rejeição de determinada tecnologia, mas como um processo de produção de conhecimento sobre suas possibilidades, limitações e condições de aperfeiçoamento.

4.9. Sustentabilidade, Atualização e Governança dos Artefatos

O nono princípio refere-se à necessidade de considerar as condições de continuidade dos artefatos educacionais inteligentes. A qualidade de uma solução tecnológica não pode ser determinada exclusivamente por seu desempenho no momento da implementação, uma vez que sua utilização pode depender de atualizações, manutenção, disponibilidade de infraestrutura e adaptação a novas demandas institucionais.

Propõe-se, como critérios de avaliação, examinar a existência de planejamento para manutenção, a disponibilidade de recursos institucionais, os procedimentos de atualização, a documentação técnica e as condições de continuidade do sistema. Também devem ser considerados os riscos de dependência de fornecedores, a possibilidade de migração de dados e a adequação da solução às mudanças nas necessidades educacionais.

4.10. Produção, Compartilhamento e Apropriação Crítica do Conhecimento

O décimo princípio estabelece que o desenvolvimento de artefatos educacionais inteligentes deve considerar sua contribuição para a produção, a circulação e a apropriação crítica do conhecimento. Essa orientação amplia a avaliação para além das funcionalidades imediatas, reconhecendo que determinadas soluções podem modificar as relações entre sujeitos, informações e processos de construção de saberes.

A utilização de inteligência artificial também exige atenção às relações entre autoria e produção intelectual. Ferramentas que geram conteúdos podem apoiar determinadas atividades, mas sua utilização precisa estar acompanhada de procedimentos que favoreçam a verificação das informações, o reconhecimento das fontes e a compreensão dos limites da produção automatizada.

Como critérios avaliativos, propõe-se analisar as possibilidades de organização e compartilhamento das informações, os recursos de colaboração, os mecanismos de identificação das fontes e as condições oferecidas aos usuários para examinar criticamente os conteúdos disponibilizados. A contribuição educacional do artefato dependerá, portanto, não apenas de sua capacidade de processar informações, mas também de sua adequação aos processos humanos de interpretação e produção do conhecimento.

4.11. Sistematização dos Princípios Orientadores

A articulação dos dez princípios permite compreender que o desenvolvimento e a avaliação de artefatos educacionais com inteligência artificial constituem processos interdependentes. As necessidades dos sujeitos orientam a definição dos objetivos, que fundamentam os requisitos de desenvolvimento e os critérios de avaliação. A participação dos usuários, a acessibilidade e a transparência influenciam as condições de utilização, enquanto a responsabilidade ética e a governança estabelecem parâmetros para a continuidade e a legitimidade institucional das soluções.

O Quadro 1 apresenta a sistematização dos princípios e suas possibilidades de aplicação, constituindo a contribuição teórico-metodológica central deste estudo.

Quadro 1. Princípios orientadores para o desenvolvimento e a avaliação de artefatos educacionais com inteligência artificial

Fonte: elaboração própria (2026), com base na articulação teórica dos referenciais analisados.

A sistematização apresentada constitui uma proposta de orientação e não um instrumento de mensuração previamente validado. Sua utilização requer que os princípios sejam convertidos em critérios específicos, considerando a finalidade, a complexidade e o estágio de desenvolvimento de cada artefato. A aplicação indiscriminada dos mesmos indicadores a soluções com objetivos diferentes poderia comprometer a pertinência da avaliação e produzir interpretações pouco representativas das condições investigadas.

A principal contribuição científica reside na organização de um referencial que poderá subsidiar a elaboração de requisitos, a definição de procedimentos de avaliação e a identificação de possibilidades de aperfeiçoamento. Entretanto, sua consolidação dependerá de investigações posteriores, capazes de examinar a aplicabilidade dos princípios em diferentes contextos e identificar eventuais necessidades de reformulação. Essa condição não diminui a relevância da proposta, mas explicita seu caráter teórico-propositivo e estabelece possibilidades de continuidade da pesquisa.

5. CONSIDERAÇÕES FINAIS

Este artigo teve como objetivo analisar os fundamentos teóricos, metodológicos, pedagógicos e éticos que orientam o desenvolvimento e a avaliação de artefatos educacionais com inteligência artificial, propondo um conjunto articulado de princípios que possa contribuir para a concepção de soluções tecnologicamente consistentes, educacionalmente relevantes e socialmente responsáveis. A investigação partiu do reconhecimento de que a ampliação das possibilidades oferecidas pela inteligência artificial não assegura, por si só, a qualidade dos artefatos desenvolvidos, tornando necessária a definição de critérios capazes de relacionar suas funcionalidades às necessidades dos sujeitos e às finalidades da Educação.

A sistematização dos dez princípios propostos constitui a principal contribuição do estudo. Ao reunir dimensões pedagógicas, metodológicas, tecnológicas e ético-institucionais, buscou-se construir um referencial capaz de orientar decisões de desenvolvimento e procedimentos de avaliação em diferentes contextos educacionais. A proposta reconhece que a qualidade de um artefato inteligente não pode ser determinada por um único indicador, exigindo a articulação entre evidências de funcionamento, condições de utilização, adequação às finalidades educativas e responsabilidade institucional.

Reconhece-se como limitação do estudo seu caráter bibliográfico, documental e teórico-propositivo. Os princípios apresentados não foram submetidos à validação empírica, não sendo possível afirmar sua eficácia ou aplicabilidade universal. Sua contribuição consiste na organização de fundamentos capazes de orientar investigações posteriores, nas quais será possível examinar a consistência dos critérios, a pertinência dos indicadores e as condições necessárias à utilização em diferentes tipos de artefatos educacionais.

Conclui-se que o desenvolvimento responsável de artefatos educacionais com inteligência artificial exige reconhecer a tecnologia como parte de processos humanos, institucionais e formativos mais amplos. Sua contribuição não deve ser definida exclusivamente pela capacidade de automatizar tarefas, produzir respostas ou ampliar o processamento de informações, mas pela possibilidade de responder a necessidades reais, favorecer a participação dos sujeitos e apoiar práticas comprometidas com a produção crítica do conhecimento. Nesse sentido, o rigor metodológico, a intencionalidade pedagógica e a responsabilidade ética constituem condições indissociáveis para que a inteligência artificial seja incorporada à Educação de maneira fundamentada, inclusiva e socialmente relevante.

REFERÊNCIAS BIBLIOGRÁFICAS

ANGELUCI, Alan Cesar Belo; REDIGOLO, Gabriela Leal; ARAKAKI, Patrícia Jaqueline; SILVA, Paulo Sergio Felix da. Design Science Research como método para pesquisas em TDIC na Educação. In: CONGRESSO INTERNACIONAL DE EDUCAÇÃO E TECNOLOGIAS; ENCONTRO DE PESQUISADORES EM EDUCAÇÃO A DISTÂNCIA, 2020. Anais eletrônicos [...]. São Carlos: UFSCar, 2020. Disponível em: https://ciet.ufscar.br/submissao/index.php/ciet/article/view/683. Acesso em: 8 out. 2026.

BARDIN, Laurence. Análise de conteúdo. São Paulo: Edições 70, 2011.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Brasília, DF: Presidência da República, 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 8 out. 2026.

CASTELLS, Manuel. A sociedade em rede. São Paulo: Paz e Terra, 1999.

DRESCH, Aline; LACERDA, Daniel Pacheco; ANTUNES JÚNIOR, José Antonio Valle. Design Science Research: método de pesquisa para avanço da ciência e tecnologia. Porto Alegre: Bookman, 2015.

HOFFMANN, Jussara. Avaliação: mito e desafio. Porto Alegre: Mediação, 2014.

HOLMES, Wayne; TUOMI, Ilkka. State of the art and practice in AI in education. European Journal of Education, v. 57, n. 4, p. 542–570, 2022. DOI: https://doi.org/10.1111/ejed.12533. Disponível em: https://onlinelibrary.wiley.com/doi/10.1111/ejed.12533. Acesso em: 8 out. 2026.

JUNQUEIRA, Joice Marisa Görgen. Acompanhamento da produção intelectual e das trajetórias de discentes e egressos do Programa de Pós-Graduação em Educação da Universidade La Salle: proposição de um artefato tecnológico inteligente. 2026. Dissertação (Mestrado em Educação) – Universidade La Salle, Canoas, 2026.

KNOBEL, Michele; LANKSHEAR, Colin. New literacies: everyday practices and social learning. 3. ed. Maidenhead: Open University Press, 2011.

MINAYO, Maria Cecília de Souza. O desafio do conhecimento: pesquisa qualitativa em saúde. 14. ed. São Paulo: Hucitec, 2017.

MORAN, José Manuel. A educação que desejamos: novos desafios e como chegar lá. Campinas: Papirus, 2007.

NIELSEN, Jakob. Usability engineering. Boston: Academic Press, 1993.

SOMMERVILLE, Ian. Engenharia de software. 10. ed. São Paulo: Pearson, 2011.

UNESCO. Guidance for generative AI in education and research. Paris: UNESCO, 2023. DOI: https://doi.org/10.54675/EWZM9535. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000386693. Acesso em: 3 set. 2026.

UNESCO. Recomendação sobre a ética da inteligência artificial. Paris: UNESCO, 2021. Disponível em: https://unesdoc.unesco.org/ark:/48223/pf0000381137_por. Acesso em: 2 set. 2026.

¹ Unilasalle - Canoas, RS. Mestra em Educação. Lattes: https://lattes.cnpq.br/9732638144266607. E-mail: [clique para visualizar o e-mail]acesse o artigo original para visualizar o e-mail.

² Universidade Federal Rural de Pernambuco (UFRPE). Doutoranda em Ensino. Lattes: https://lattes.cnpq.br/4311814747716213. E-mail: [clique para visualizar o e-mail]acesse o artigo original para visualizar o e-mail.

³ Universidade Federal de Pernambuco - UFPE. Recife/PE. Mestrado. E-mail: [clique para visualizar o e-mail]acesse o artigo original para visualizar o e-mail.

⁴ IFPB. João Pessoa-PB. Especialização. Lattes: https://lattes.cnpq.br/5248040585145584. E-mail: [clique para visualizar o e-mail]acesse o artigo original para visualizar o e-mail.