2.1 Principios éticos universales de la IA
Introducción
Principios éticos universales de la inteligencia artificial: Una perspectiva existencial y pedagógica
La irrupción global de la inteligencia artificial no es simplemente un cambio en el paradigma del procesamiento de la información, sino que puede suponer una reconfiguración de las bases mismas de la identidad humana y de nuestra autoimagen.
La historia de los avances científicos y los cambios en nuestra cosmovisión que vienen asociados son una constante cura de humildad para la humanidad. El paso del geocentrismo al heliocentrismo, propuesto en el siglo III AC por Aristarco de Samos se consolida como cosmovisión dominante tras "De Revolutionibus Orbium Coelestium" publicada por Copernico en 1543. En este primer salto abandonamos el centro del universo para pasar a ser viajeros sobre un planeta más.
Posteriormente tras El origen de las especies (1854) de Charles Darwin dejamos de ser la cima de un plan de diseño, la más perfecta de las especies, para ser un afortunado producto de las variaciones en la replicación unidas a la presión selectiva. Nuestra mente singular, dotada de autoconsciencia, un milagro de la casualidad que nos permite, entre otras cosas más profanas, comunicarnos, amar, admirar la belleza del mundo e incluso crear belleza a través de la expresión artística.
El auge de la Inteligencia artificial ya ha destronado a los seres humanos en algunos campos en los que, hasta donde nosotros sabíamos, teníamos el monopolio. La victoria de Deep Blue frente a Kasparov en 1996 marcó el inicio de la amenaza de los algoritmos sobre nuestra primacía intelectual. La confirmación indudable llega en el duelo en el complejísimo juego oriental de "Go" en el que Alpha Go vence Lee Sedol en 2016. Estos juegos son altamente algoritmizables y no dejan de tener unas reglas definidas y lógicas que permiten una mayor facilidad para el funcionamiento de una máquina.
-------------VOY POR AQUÍ-------
La llegada de la Inteligencia Artificial Generativa
El Reglamento (UE) 2024/1689 define a los sistemas de IA como entidades basadas en máquinas diseñadas para operar con diversos niveles de autonomía, capaces de inferir resultados —predicciones, contenidos, recomendaciones o decisiones— que influyen en entornos físicos y virtuales. Esta capacidad de inferencia, sin embargo, plantea interrogantes que trascienden la eficiencia técnica para adentrarse en el terreno de la ética universal. Los principios que deben regir esta tecnología no pueden ser meras recomendaciones técnicas; deben constituir una defensa activa de la libertad humana frente a la delegación masiva de decisiones, una denuncia de la indefensión aprendida como estrategia de control político y un reconocimiento de las dimensiones no computables que definen nuestra especie
La libertad humana y la tentación de delegar decisiones existenciales
La indefensión adquirida como elección política del esclavo y del cobarde
La lucha por un futuro con todas las dimensiones de la experiencia humana
Unesco
ChatGPT: UNESCO 2021, Recomendación sobre la ética de la IA, OCDE 2019 Principios sobre IA, Comisión Europea 2019 Ethics Guidelines for Trustworthy AI
Principio de dignidad humana
El alumnado no puede ser tratado como “dato” ni como “perfil estadístico”.
Toda decisión educativa debe respetar la singularidad del estudiante.
📌 Implicación docente: evitar sistemas que reduzcan al alumno a un score o etiqueta fija.
Principio de justicia y no discriminación
La IA no debe producir ni reforzar desigualdades.
Requiere análisis de sesgos y evaluación continua.
📌 Buena práctica: contrastar resultados de la IA con diversidad de casos reales.
Principio de transparencia y explicabilidad
Los usuarios deben entender qué hace la IA y con qué límites.
En educación, la opacidad es incompatible con la función formativa.
📌 Regla ética: si no se puede explicar a un estudiante, no debería usarse para evaluarlo.
Principio de responsabilidad
Siempre debe haber un responsable humano.
La IA no es sujeto moral ni legal.
📌 Consecuencia: el docente y la institución responden del uso y de los efectos.
Principio de beneficencia y no maleficencia
Maximizar beneficios educativos reales.
Minimizar daños cognitivos, emocionales o sociales.
Principio de autonomía humana
La IA debe apoyar la toma de decisiones, no imponerlas.
El profesorado mantiene la última palabra.