Valores y principios de la IA en la práctica docente

Diseño de Contenidos Digitales Educativos I

Docente: Lina Lindsay Tenorio Ramírez

Estudiante: Leislie Yuliet Saldaña Vélez

Tema: Principios de la IA (UNESCO): Sostenibilidad, Privacidad y Supervisión Humana

Propósito: Identificar, comprender y aplicar los principios de la Recomendación UNESCO sobre la ética de la IA.

Principios Asignados (UNESCO)

🌍

Sostenibilidad

Definición: Minimizar la huella de carbono de la IA y promover el desarrollo sostenible.

🔒

Privacidad

Privacidad y Datos

Definición: Garantizar que la información de los estudiantes se maneje con confidencialidad y consentimiento.

👩‍🏫

Supervisión Humana

Definición: Las decisiones con impacto significativo deben recaer en humanos, no en la máquina.

Caso Educativo: El Dilema del "Tutor Total"

Contexto: En el marco de su proceso de transformación digital, una institución educativa decide incorporar herramientas de inteligencia artificial en el área de programación, con el objetivo de optimizar los procesos de evaluación y seguimiento del aprendizaje de los estudiantes. Para ello, la institución adquiere un sistema económico de IA denominado “Tutor Total”, el cual promete automatizar la revisión de ejercicios de programación, analizar el comportamiento de los estudiantes durante las actividades en línea y ofrecer retroalimentación inmediata.

Dilema Ético: Aunque la institución implementó el sistema con la intención de mejorar los procesos de evaluación y seguimiento de los estudiantes, la forma en que se utiliza la tecnología puede vulnerar algunos principios importantes como la sostenibilidad, la privacidad y la supervisión humana.

Fuente: Foto de Unsplash por Taylor Vick (Licencia Libre)

Caso Educativo: El Dilema del "Tutor Total"

El Problema y Dilema Ético aplicado a la:

Vulneración Sostenible: Con el objetivo de reducir los costos iniciales del proyecto, la institución decidió instalar servidores de segunda mano que utilizan tecnología antigua. Este tipo de equipos consume grandes cantidades de energía eléctrica, lo que genera un impacto ambiental negativo y mayores gastos a largo plazo. Desde una perspectiva ética, esto evidencia una falta de responsabilidad con el uso sostenible de los recursos tecnológicos, ya que el diseño y uso de las TIC también debe considerar su impacto ambiental.

Fuente: Haz Revista. (2024). Inteligencia artificial y sostenibilidad [Imagen].

Caso Educativo: El Dilema del "Tutor Total"

El Problema y Dilema Ético aplicado a la:

Vulneración de Intimidad: El sistema de IA utiliza la cámara web de los estudiantes para analizar sus microexpresiones faciales y determinar si están atentos, aburridos o distraídos durante las actividades académicas. Sin embargo, esta función se implementó sin solicitar previamente el consentimiento de los padres o acudientes. Esto representa un problema ético importante, ya que la inteligencia artificial puede recolectar y analizar grandes cantidades de datos personales de los estudiantes, lo que puede afectar su privacidad si no existen políticas claras de autorización y protección de datos.

Fuente: Science Media Centre España. (2023). Deepfake [Imagen].

Caso Educativo: El Dilema del "Tutor Total"

El Problema y Dilema Ético aplicado a la:

Vulneración de Supervisión Docente: Otra situación problemática ocurre cuando el sistema de IA evalúa automáticamente los ejercicios de programación. Si el código de un estudiante contiene errores, la plataforma asigna de manera automática una calificación de “cero” y bloquea el acceso al siguiente módulo del curso. Además, el docente no tiene la posibilidad de revisar o modificar esa nota. Esto genera un dilema ético porque se está delegando completamente la decisión evaluativa a un algoritmo, sin permitir la intervención humana ni el análisis del proceso de aprendizaje del estudiante. En la ética de la inteligencia artificial se advierte que la falta de supervisión humana puede generar decisiones injustas o poco transparentes dentro de los sistemas automatizados.

Fuente: Adaptado de Servidor de datos antiguo, por la Procuraduría General de la Nación (s.f.). [Imagen].

Solución Basada en Recomendaciones de la UNESCO

¿Cómo debería abordarse el caso del "Tutor Total" aplicando los principios éticos?

🌍 Sostenibilidad:

La escuela debería usar una IA más “ahorradora”, como cuando cambiamos un bombillo viejo por uno LED que consume menos energía. En vez de usar sistemas grandes y pesados, puede usar opciones en la nube optimizadas o modelos pequeños (Green AI), que funcionan con menos recursos. Esto ayudaría a no “gastar tanta luz”, Esto permitiría reducir el gasto de energía y el impacto ambiental.

🔒 Derecho a la Intimidad y Protección de Datos:

Se debería desactivar el reconocimiento facial para proteger la privacidad. Además, los datos de los estudiantes deben manejarse con códigos (por ejemplo, la estudiante "Leislie" debe aparecer como “ID-377401” en lugar del nombre), evitando que los estudiantes sean identificados. También es necesario solicitar autorización a las familias, explicando qué datos se van a usar y para qué, ya que el consentimiento informado es obligatorio en el manejo de información personal.

Solución Basada en Recomendaciones de la UNESCO

¿Cómo debería abordarse el caso del "Tutor Total" aplicando los principios éticos?

👩‍🏫 Supervisión y Decisión Humanas:

La IA debería funcionar como un asistente, no como el profesor. Es como el corrector del celular: te sugiere errores, pero tú decides si cambiar o no. De la misma forma, la IA solo debería dar alertas o sugerencias sobre el código, mientras que el docente es quien revisa, entiende el proceso del estudiante y decide la nota final. Esto es importante porque la IA es una herramienta de apoyo, pero la última decisión siempre debe ser humana para evitar errores o injusticias.

Profundización: Recomendación Ética de la IA

En este video oficial se explica por qué la UNESCO promueve un marco ético global, fundamental para aplicar estos principios en nuestras aulas.

Fuente: Dirección E-learning - Cipte. (2026). La IA generativa y sus dilemas éticos en la educación actual

Si el video no carga, haz clic aquí para verlo en YouTube

Actividad 1: ¡Conecta la Acción con el Principio!

Instrucciones: Arrastra la solución (izquierda) hacia el principio que la respalda (derecha). Si es incorrecto, volverá a su lugar.

Seudonimizar los nombres en la base de datos

El profesor audita la calificación sugerida por la IA

Implementar algoritmos de bajo consumo energético

🌍 Sostenibilidad

🔒 Intimidad y Datos

👩‍🏫 Supervisión Humana

Actividad 2: Trivia de Casos Escolares

Instrucciones: Lee el dilema y selecciona la opción correcta.

Una app gratuita promete calificar los exámenes de tus alumnos, pero en sus "términos y condiciones" indica que venderá los correos electrónicos de los niños a empresas de publicidad. Como docente, rechazas usarla. ¿Qué principio estás defendiendo?

Actividad 3: Verdadero o Falso

Instrucciones: Lee la siguiente afirmación y decide si es verdadera o falsa según los principios éticos.

"Es completamente ético que una escuela utilice una Inteligencia Artificial para predecir qué estudiantes cometerán faltas disciplinarias analizando sus redes sociales sin pedirles permiso, ya que es por su propia seguridad."

Actividad 4: Completa la frase

Instrucciones: Selecciona el concepto que falta en el espacio en blanco.

"La Recomendación de la UNESCO indica que la ___________ es fundamental, lo que significa que un sistema automatizado de IA nunca debe tomar la decisión final sobre si un estudiante aprueba o reprueba un año escolar."

Actividad 5: Emparejamiento Rápido

Instrucciones: Selecciona el principio que corresponde a la siguiente acción en una escuela.

Acción: "El colegio decide contratar servicios en la nube (cloud computing) únicamente de empresas tecnológicas que certifiquen el uso del 100% de energía solar o eólica para hacer funcionar los servidores donde se aloja la IA educativa."

Aprendizajes Adquiridos

Teniendo en cuenta lo aprendido, se comprende que la inteligencia artificial puede aportar grandes beneficios a la educación, pero su uso debe estar guiado por principios éticos. La Recomendación sobre la ética de la IA de la UNESCO, destaca la importancia de proteger los derechos humanos, la privacidad y garantizar la supervisión humana en los sistemas tecnológicos. Ello permite reflexionar que la tecnología no debe reemplazar el pensamiento crítico ni el papel del docente, sino servir como una herramienta de apoyo para mejorar el aprendizaje. Por ello, el reto como futuros profesionales en informática educativa es aprender a utilizar la IA de manera responsable, asegurando que su implementación contribuya al bienestar de los estudiantes y a una educación más justa y consciente.

Bibliografía

UNESCO. (2021). Recomendación sobre la ética de la inteligencia artificial . Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura.

Tenorio Ramírez, L. L. (s.f.). Actividad final momento 1: Valores y principios de la IA en la práctica docente . Diseño de Contenidos Digitales Educativos II.

¡Muchas gracias!