2.1 Principios éticos universales de la IA

 

Intro

La libertad humana y la tentación de delegar decisiones existenciales

La indefensión adquirida como elección política del esclavo y del cobarde

La lucha por un futuro con todas las dimensiones de la experiencia humana 

Unesco

ChatGPT: UNESCO 2021, Recomendación sobre la ética de la IA, OCDE 2019 Principios sobre IA, Comisión Europea 2019 Ethics Guidelines for Trustworthy AI

Principio de dignidad humana
El alumnado no puede ser tratado como “dato” ni como “perfil estadístico”.
Toda decisión educativa debe respetar la singularidad del estudiante.
📌 Implicación docente: evitar sistemas que reduzcan al alumno a un score o etiqueta fija.

 
Principio de justicia y no discriminación
La IA no debe producir ni reforzar desigualdades.
Requiere análisis de sesgos y evaluación continua.
📌 Buena práctica: contrastar resultados de la IA con diversidad de casos reales.

 
Principio de transparencia y explicabilidad
Los usuarios deben entender qué hace la IA y con qué límites.
En educación, la opacidad es incompatible con la función formativa.
📌 Regla ética: si no se puede explicar a un estudiante, no debería usarse para evaluarlo.

 
Principio de responsabilidad
Siempre debe haber un responsable humano.
La IA no es sujeto moral ni legal.
📌 Consecuencia: el docente y la institución responden del uso y de los efectos.

 
Principio de beneficencia y no maleficencia
Maximizar beneficios educativos reales.
Minimizar daños cognitivos, emocionales o sociales.
 
Principio de autonomía humana
La IA debe apoyar la toma de decisiones, no imponerlas.
El profesorado mantiene la última palabra.