Tensiones éticas en la regulación de IA educativa: Análisis comparativo de marcos internacionales

Autores/as

DOI:

https://doi.org/10.54167/qvadrata.v8i16.2279

Palabras clave:

educación, ética, inteligencia artificial, marcos normativos, autonomía docente

Resumen

Los marcos normativos internacionales sobre inteligencia artificial en educación prometen orientar el desarrollo tecnológico hacia principios éticos fundamentales. Sin embargo, persiste una brecha significativa entre estos principios declarados y su implementación efectiva en contextos educativos reales. Este artículo examina esa desconexión mediante análisis documental de marcos normativos (UNESCO, OCDE, Comisión Europea), legislación nacional de diez países y literatura académica publicada entre 2018 y 2024. Empleando codificación temática, el estudio identifica tres dimensiones éticas recurrentes que, aunque mencionadas en todos los marcos analizados, presentan tensiones conceptuales y operativas no resueltas. Primero, la equidad se entiende predominantemente como acceso tecnológico, omitiendo cuestiones de justicia epistémica sobre qué conocimientos privilegian los algoritmos y quién participa en su diseño. Segundo, la protección de datos personales enfrenta contradicciones específicas en contextos educativos donde el "consentimiento libre" resulta problemático ante la obligatoriedad escolar y donde la granularidad de los datos recopilados permite inferencias no anticipadas por las regulaciones generales. Tercero, la autonomía docente frecuentemente invocada en los marcos convive con sistemas que reconfiguran decisiones pedagógicas sin participación genuina de quienes enseñan. Los hallazgos muestran que los marcos normativos actuales adoptan concepciones limitadas de estas dimensiones éticas, concentrándose en cumplimiento formal más que en transformación sustantiva de dinámicas de poder en el desarrollo e implementación de IA educativa. Se argumenta que superar esta brecha requiere no solo refinamiento de principios éticos, sino mecanismos de gobernanza participativa que involucren a comunidades educativas en todas las etapas del ciclo de vida de estos sistemas.

Biografía del autor/a

Jesus Humberto Perez Dominguez, Centro de Investigación y Docencia

Profesor-investigador de tiempo completo en el Centro de Investigación y Docencia (CID), con
amplia trayectoria en docencia, investigación y gestión académica. Integrante del Cuerpo
Académico Formación Docente y Tecnologías de Aprendizaje. Ha participado en la formación
de docentes, el desarrollo de proyectos educativos y la dirección de áreas académicas en
instituciones de educación superior. Sus líneas de trabajo incluyen práctica y formación docente,
tecnología educativa e inteligencia artificial, enseñanza y aprendizaje de idiomas, y gestión y
cultura organizacional. Actualmente participa en un proyecto institucional de sistematización
orientado al diseño y desarrollo de un sistema integral que articule las diversas áreas de la
institución. Perfil PRODEP.

Es Licenciado en Informática y Maestro en Administración por el TECNM campus Cd.
Cuauhtémoc, y Doctor en Educación por el Instituto Universitario UEEM. Actualmente cursa el
Doctorado en Ingeniería en el TECNM campus Chihuahua.

Maricarmen Pérez Carbajal, Centro de Investigación y Docencia

Profesora-investigadora de tiempo completo en el Centro de Investigación y Docencia (CID),
con destacada trayectoria en investigación educativa y desarrollo de innovaciones pedagógicas.
Integrante del Cuerpo Académico Formación Docente y Tecnologías de Aprendizaje. Su trabajo
se centra en la integración de herramientas de inteligencia artificial aplicadas a la enseñanza y la
investigación. Acreedora a la Beca CDAF, con la cual desarrolló y coordinó los talleres
Empowering English Teachers, impactando la formación docente a través de metodologías
innovadoras y el uso estratégico de tecnología educativa. Actualmente participa en un proyecto
institucional de sistematización orientado al diseño y desarrollo de un sistema integral que
articule las diversas áreas de la institución. Perfil PRODEP.
Es Ingeniera Industrial y de Sistemas por la Universidad Tecmilenio, Maestra en Docencia y
Doctora en Educación por la Universidad Regional del Norte. Realizó una estancia postdoctoral
en Supervisión Educativa en la misma institución.

Claudia Isela Gutiérrez Quezada, Centro de Investigación y Docencia

Profesora-investigadora de tiempo completo en el Centro de Investigación y Docencia (CID),
con experiencia en formación de docentes desde 2013. Integrante del Cuerpo Académico
Práctica Educativa y Educomunicación. Responsable de la acreditación de inglés del
estudiantado del CID. Editora de doce libros académicos de enseñanza en educación básica
desde 2004. Su labor académica incluye publicación, edición y coautoría de libros de texto,
coordinación de programas estatales de educación, dirección de programas educativos,
programas de internacionalización y desarrollo de programas de investigación. Perfil PRODEP

Es Licenciada en Lengua Inglesa, Maestra en Educación por la UACH y Maestra en
Comunicación por el ITESM. Doctora en Educación por el Instituto Universitario UEEM y
candidata a Doctora en Pedagogía Crítica por el Instituto de Pedagogía Crítica.

Luis Horacio Álvarez Peregrino, Centro de Investigación y Docencia

Profesor-investigador de tiempo completo en el Centro de Investigación y Docencia (CID),
donde desarrolla proyectos relacionados con la integración de tecnologías emergentes en los
procesos educativos. Integrante del Cuerpo Académico Formación Docente y Tecnologías de
Aprendizaje. Sus líneas de investigación se centran en las tecnologías de la información y la
comunicación, la inteligencia artificial aplicada a la educación y el fortalecimiento de las
competencias digitales docentes. Actualmente participa en un proyecto institucional de
sistematización orientado al diseño y desarrollo de un sistema integral que articule las diversas
áreas de la institución.
Es Ingeniero en Sistemas por la Universidad Tecmilenio y Maestro en Educación con énfasis en
Gestión Educativa por la Universidad Pedagógica Nacional. Actualmente es candidato a Doctor
en Ciencias de la Educación por el Centro de Investigación y Docencia.

Rigoberto Marín Trejo, Centro de Investigación y Docencia

Profesor-investigador de tiempo completo en el Centro de Investigación y Docencia (CID),
donde desarrolla investigación sobre competencias digitales y comunicación educativa, además
de participar en dirección de tesis y proyectos académicos. Integrante del Cuerpo Académico
Formación Docente y Tecnologías de Aprendizaje. Ha sido docente en secundaria, bachillerato,
universidad y formación de profesores, impartiendo asignaturas relacionadas con informática,
tecnología, computación e investigación. Actualmente participa en un proyecto institucional de
sistematización orientado al diseño y desarrollo de un sistema integral que articule las diversas
áreas de la institución. SNII nivel 1. Perfil PRODEP.
Es Licenciado en Ciencias de la Información y Maestro en Sistemas de Información por la
Universidad Autónoma de Chihuahua, Doctorante en Ciencias de la Educación por el Centro de
Investigación y Docencia y Doctor en Tecnología Educativa por la Universidad de las Islas
Baleares, España. Cuenta además con formación en educación secundaria con especialidad en
física y química.

Citas

Ananny, M. y Crawford, K. (2018). Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability. New Media & Society, 20(3), 973-989. https://doi.org/10.1177/1461444816676645

Baker, R. S. y Hawn, A. (2022). Algorithmic bias in education. International Journal of Artificial Intelligence in Education, 32(4), 1052-1092. https://doi.org/10.1007/s40593-021-00285-9

Barocas, S. y Selbst, A. D. (2016). Big data's disparate impact. California Law Review, 104(3), 671-732. https://doi.org/10.15779/Z38BG31

Bietti, E. (2020). From ethics washing to ethics bashing: A view on tech ethics from within moral philosophy. En Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (pp. 210-219). https://doi.org/10.1145/3351095.3372860

Burrell, J. (2016). How the machine 'thinks': Understanding opacity in machine learning algorithms. Big Data & Society, 3(1), 1-12. https://doi.org/10.1177/2053951715622512

Comisión Europea. (2019). Ethics guidelines for trustworthy AI. High-Level Expert Group on Artificial Intelligence. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai

Consejo de Europa. (2024). Convención marco sobre la inteligencia artificial y los derechos humanos, la democracia y el Estado de derecho (Serie de Tratados del Consejo de Europa n.º 225). Consejo de Europa. https://www.coe.int/en/web/artificial-intelligence/the-framework-convention-on-artificial-intelligence

D'Ignazio, C. y Klein, L. F. (2020). Data feminism. MIT Press. https://doi.org/10.7551/mitpress/11805.001.0001

Departamento de Educación de EE.UU. (2023). Artificial intelligence and the future of teaching and learning: Insights and recommendations. Office of Educational Technology. https://www.ed.gov/sites/ed/files/documents/ai-report/ai-report.pdf

Fjeld, J., Achten, N., Hilligoss, H., Nagy, A. y Srikumar, M. (2020). Principled artificial intelligence: Mapping consensus in ethical and rights-based approaches to principles for AI. Berkman Klein Center for Internet & Society. https://doi.org/10.2139/ssrn.3518482

Giannini, S. (2023). Generative AI and the future of education. UNESCO. https://doi.org/10.54675/HOXG8740

Hagendorff, T. (2020). The ethics of AI ethics: An evaluation of guidelines. Minds and Machines, 30(1), 99-120. https://doi.org/10.1007/s11023-020-09517-8

Hoffmann, A. L. (2019). Where fairness fails: Data, algorithms, and the limits of antidiscrimination discourse. Information, Communication & Society, 22(7), 900-915. https://doi.org/10.1080/1369118X.2019.1573912

Holstein, K., McLaren, B. M. y Aleven, V. (2019). Co-designing a real-time classroom orchestration tool to support teacher-AI complementarity. Journal of Learning Analytics, 6(2), 27-52. https://doi.org/10.18608/jla.2019.62.3

Mittelstadt, B. (2019). Principles alone cannot guarantee ethical AI. Nature Machine Intelligence, 1(11), 501-507. https://doi.org/10.1038/s42256-019-0114-4

Nemorin, S. (2017). Post-panoptic pedagogies: The changing nature of school surveillance in the digital age. Surveillance & Society, 15(2), 239-253. https://doi.org/10.24908/ss.v15i2.6033

Noble, S. U. (2018). Algorithms of oppression: How search engines reinforce racism. NYU Press. https://doi.org/10.18574/nyu/9781479833641.001.0001

Obermeyer, Z., Powers, B., Vogeli, C. y Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447-453. https://doi.org/10.1126/science.aax2342

OCDE. (2019). Artificial intelligence in education: Challenges and opportunities for sustainable development. OECD Publishing. https://doi.org/10.1787/db14d5e9-en

Selwyn, N., Rivera-Vargas, P., Passeron, E., y Miño-Puigcercós, R. (2021). ¿Por qué no todo es (ni debe ser) digital? Interrogantes para pensar sobre digitalización, datificación e inteligencia artificial en educación. https://doi.org/10.31235/osf.io/vx4zr

UNESCO. (2019). Beijing consensus on artificial intelligence and education. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000368303

UNESCO. (2021). Recommendation on the ethics of artificial intelligence. UNESCO. https://www.unesco.org/en/articles/recommendation-ethics-artificial-intelligence 

Unión Europea. (2016). Reglamento general de protección de datos (GDPR). Reglamento (UE) 2016/679. http://data.europa.eu/eli/reg/2016/679/oj

Unión Europea. (2024). Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial (Reglamento de Inteligencia Artificial). Diario Oficial de la Unión Europea. http://data.europa.eu/eli/reg/2024/1689/oj 

Williamson, B. (2017). Big Data in Education: The digital future of learning, policy and practice. SAGE Publications. https://doi.org/10.4135/9781529714920

Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power. PublicAffairs. https://doi.org/10.1007/s00146-020-01100-0

Descargas

Publicado

2026-07-01

Cómo citar

Perez Dominguez, J. H., Pérez Carbajal, M., Gutiérrez Quezada, C. I., Álvarez Peregrino, L. H., & Marín Trejo, R. (2026). Tensiones éticas en la regulación de IA educativa: Análisis comparativo de marcos internacionales. QVADRATA. Estudios Sobre educación, Artes Y Humanidades, 8(16), 41–56. https://doi.org/10.54167/qvadrata.v8i16.2279

Número

Vol. 8 Núm. 16 (2026): julio-diciembre 2026

Sección

Artículos

Licencia

Derechos de autor 2026 Jesus Humberto Perez Dominguez, Maricarmen Pérez Carbajal, Claudia Isela Gutiérrez Quezada, Luis Horacio Álvarez Peregrino, Rigoberto Marín Trejo

Creative Commons License

Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial 4.0.

Artículos similares

1 2 3 4 5 6 7 8 9 10 > >> 

También puede {advancedSearchLink} para este artículo.