2.6 Directrices éticas

Comisión Europea + visión UNESCO

En octubre de 2022, la Comisión Europea publicó las "Directrices éticas sobre el uso de la inteligencia artificial y los datos en la enseñanza y el aprendizaje para los educadores". Estas directrices traducen los principios del Grupo de Expertos de Alto Nivel sobre IA a la realidad del aula, estructurándose en siete requisitos fundamentales:

Intervención y supervisión humanas: El docente debe conservar la autoridad final sobre las decisiones pedagógicas. La IA debe actuar como un soporte que aumente las capacidades del profesor, no que las reemplace.   

Solidez técnica y seguridad: Los sistemas deben ser fiables y contar con planes de contingencia ante fallos técnicos, garantizando que un error del algoritmo no penalice el historial académico de un estudiante.   

Privacidad y gestión de datos: El cumplimiento del RGPD es innegociable. La recolección de datos en entornos de aprendizaje debe ser mínima, justificada y transparente.   

Transparencia: La "explicabilidad" es clave. Los estudiantes y docentes deben poder comprender por qué un sistema de IA ha generado una recomendación o una nota determinada.   

Diversidad, no discriminación y equidad: Se deben implementar mecanismos para detectar y mitigar los sesgos algorítmicos que puedan discriminar por género, raza, discapacidad o nivel socioeconómico.   

Bienestar social y ambiental: El uso de la IA debe fomentar el desarrollo de competencias sociales y el bienestar mental, considerando también el impacto ecológico de la computación a gran escala.   

Rendición de cuentas: Deben existir canales claros para auditar los sistemas y para que los afectados puedan reclamar ante decisiones automatizadas injustas.