2.6 Directrices éticas

Dentro del Plan de Acción de Educación Digital Europeo (2021-2027) encontramos 14 medidas, de entre las que destacaremos dos:

1. Actualización del Marco de Competencias Digitales, incluyendo competencias relacionadas con la IA y el uso de datos.
2. Consejos prácticos para el profesorado de primaria y secundaria sobre el uso de la IA: Directrices éticas sobre la IA.

En octubre de 2022, la Comisión Europea publicó las "Directrices éticas sobre el uso de la inteligencia artificial y los datos en la enseñanza y el aprendizaje para los educadores". En 2026 se han actualizado y están publicadas aquí. Estas directrices traducen los principios del Grupo de Expertos de Alto Nivel sobre IA a la realidad del aula, estructurándose en siete requisitos fundamentales:

 

Intervención y supervisión humanas: El docente debe conservar la autoridad final sobre las decisiones pedagógicas. La IA debe actuar como un soporte que aumente las capacidades del profesor, no que las reemplace.   

Solidez técnica y seguridad: Los sistemas deben ser fiables y contar con planes de contingencia ante fallos técnicos, garantizando que un error del algoritmo no penalice el historial académico de un estudiante.   

Privacidad y gestión de datos: El cumplimiento del RGPD es innegociable. La recolección de datos en entornos de aprendizaje debe ser mínima, justificada y transparente.   

Transparencia: La "explicabilidad" es clave. Los estudiantes y docentes deben poder comprender por qué un sistema de IA ha generado una recomendación o una nota determinada.   

Diversidad, no discriminación y equidad: Se deben implementar mecanismos para detectar y mitigar los sesgos algorítmicos que puedan discriminar por género, raza, discapacidad o nivel socioeconómico.   

Bienestar social y ambiental: El uso de la IA debe fomentar el desarrollo de competencias sociales y el bienestar mental, considerando también el impacto ecológico de la computación a gran escala.   

Rendición de cuentas: Deben existir canales claros para auditar los sistemas y para que los afectados puedan reclamar ante decisiones automatizadas injustas.   

Además, la UNESCO complementa la visión de la Comisión Europea con un enfoque global centrado en los derechos humanos. Su "Guía para el uso de IA generativa en educación e investigación" (2024) advierte sobre los riesgos de la "plataformización" y la pérdida de soberanía de los datos educativos. Una recomendación notable de la UNESCO es la necesidad de establecer límites de edad para el uso de herramientas de IA generativa, sugiriendo los 13 años como umbral para proteger el desarrollo cognitivo de los menores.