1.4. Riesgos éticos y educativos en el uso de IA para la accesibilidad y la inclusión

Fuente: Minerva Rodríguez + Gemini + Hailou A

La inteligencia artificial puede ayudar a eliminar barreras, pero también puede crear otras nuevas si se utiliza sin criterio pedagógico, sin revisión humana o sin atención suficiente a la equidad. En un curso centrado en accesibilidad e inclusión, resulta imprescindible mirar la tecnología desde una doble perspectiva: sus posibilidades de apoyo y los riesgos que puede introducir en contextos educativos reales.

Uno de los riesgos más importantes son los sesgos algorítmicos. Tal y como ya hemos tratado en los anteriores módulos del curso, los sistemas de IA aprenden a partir de grandes cantidades de datos, y esos datos pueden contener desigualdades, estereotipos o formas de representación poco diversas. Como consecuencia, una herramienta puede generar ejemplos poco inclusivos, invisibilizar determinadas realidades, reproducir sesgos de género, cultura, lengua o discapacidad, o presentar como neutras respuestas que no lo son. En el ámbito de la accesibilidad, este riesgo es especialmente delicado, porque una herramienta pensada para apoyar a alumnado vulnerable podría acabar reforzando una mirada limitada sobre sus capacidades, necesidades o formas de participar.

También debemos ser prudentes ante herramientas que prometen detectar dificultades, clasificar perfiles o anticipar necesidades de aprendizaje. La IA puede ayudar a observar patrones, organizar información o sugerir apoyos, pero no debe utilizarse para etiquetar al alumnado ni para realizar diagnósticos automáticos. Las necesidades educativas se comprenden desde la observación profesional, la evaluación psicopedagógica cuando procede, el contexto escolar, la historia del alumno o alumna y el trabajo coordinado del equipo docente y la Red Integrada de Orientación Educativa. Delegar este tipo de decisiones en una herramienta puede generar interpretaciones simplificadas, injustas o difíciles de revisar, y está ca

Otro aspecto relevante es la sobredependencia tecnológica. En inclusión, una herramienta puede facilitar el acceso a un texto, una imagen, una explicación o una actividad, pero el aprendizaje sigue necesitando interacción humana, acompañamiento, vínculo y participación en el grupo. Si una solución tecnológica desplaza de forma excesiva la mediación docente o reduce las oportunidades de interacción con iguales, puede empobrecer la experiencia educativa. La accesibilidad debe favorecer más autonomía y más participación, no aislar al alumnado en recorridos individuales gestionados por una plataforma.

Esta cautela tiene además respaldo normativo. El Reglamento Europeo de Inteligencia Artificial considera de alto riesgo determinados sistemas de IA utilizados en educación y formación profesional, especialmente aquellos destinados a evaluar los resultados del aprendizaje, orientar el proceso de aprendizaje o valorar el nivel educativo adecuado que recibirá una persona o al que podrá acceder. Por ello, cualquier sistema que influya de forma significativa en decisiones educativas sobre el alumnado debe abordarse con especial prudencia, garantías, supervisión humana y protección frente a posibles discriminaciones.

Además, una herramienta accesible sobre el papel puede generar nuevas barreras en la práctica. Puede exigir demasiados pasos, depender de una conexión estable, requerir registro individual, tener una interfaz compleja, ofrecer resultados imprecisos o aumentar la carga cognitiva del alumnado. También puede producir subtítulos con errores, traducciones inadecuadas, descripciones visuales incompletas o textos simplificados que pierden contenido esencial. Por eso, evaluar una herramienta implica probarla en contexto y preguntarse si realmente mejora la comprensión, la participación y la autonomía.

Ante estos riesgos, el papel del profesorado es decisivo. La IA debe ser revisada, contextualizada y ajustada antes de llegar al aula. Esto implica comprobar la calidad de los materiales generados, detectar posibles sesgos, validar la adecuación lingüística y cognitiva, proteger los datos personales y valorar si la herramienta aporta un beneficio real. La inclusión no se mide por la cantidad de tecnología utilizada, sino por la mejora efectiva en el acceso, la participación y el aprendizaje del alumnado.

Recuerda

Antes de incorporar una herramienta de IA con fines inclusivos, conviene hacerse cinco preguntas:

¿Reduce una barrera real de aprendizaje?

¿Puede usarla todo el alumnado en condiciones equitativas?

¿Requiere introducir datos personales o información sensible?

¿Sus resultados han sido revisados por el profesorado?

¿Mejora la autonomía y la participación, o genera nuevas dependencias?

La IA puede ser una aliada importante para la accesibilidad, pero necesita criterio profesional, protección de datos, revisión crítica y una mirada inclusiva centrada en las personas.

Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, Reglamento de Inteligencia Artificial. Anexo III, apartado 3: Educación y formación profesional; y considerando 56.