# 1.4. Riesgos éticos y educativos en el uso de IA para la accesibilidad y la inclusión
[](https://libros.catedu.es/uploads/images/gallery/2026-06/a-maquinaescribir-1.png)
Fuente: Minerva Rodríguez + Gemini + Hailou A
La inteligencia artificial puede ayudar a eliminar barreras, pero también puede crear otras nuevas si se utiliza sin criterio pedagógico, sin revisión humana o sin atención suficiente a la equidad. En un curso centrado en accesibilidad e inclusión, resulta imprescindible mirar la tecnología desde una doble perspectiva: **sus posibilidades de apoyo y los riesgos** que puede introducir en contextos educativos reales.
Uno de los riesgos más importantes son los **sesgos algorítmicos.** Tal y como ya hemos tratado en los anteriores módulos del curso, los sistemas de IA aprenden a partir de grandes cantidades de datos, y esos datos pueden contener desigualdades, estereotipos o formas de representación poco diversas. Como consecuencia, una herramienta puede generar ejemplos poco inclusivos, invisibilizar determinadas realidades, reproducir sesgos de género, cultura, lengua o discapacidad, o presentar como neutras respuestas que no lo son. En el ámbito de la accesibilidad, este riesgo es especialmente delicado, porque **una herramienta pensada para apoyar a alumnado vulnerable podría acabar reforzando una mirada limitada sobre sus capacidades, necesidades o formas de participar.**
Otro aspecto relevante es la **sobredependencia tecnológica**. En inclusión, una herramienta puede facilitar el acceso a un texto, una imagen, una explicación o una actividad, pero el aprendizaje sigue necesitando interacción humana, acompañamiento, vínculo y participación en el grupo. Si una solución tecnológica desplaza de forma excesiva la mediación docente o reduce las oportunidades de interacción con iguales, puede empobrecer la experiencia educativa. La accesibilidad debe favorecer más autonomía y más participación, no aislar al alumnado en recorridos individuales gestionados por una plataforma.
También debemos ser prudentes ante herramientas que prometen detectar dificultades, clasificar perfiles o anticipar necesidades de aprendizaje. La IA puede ayudar a observar patrones, organizar información o sugerir apoyos, pero **no debe utilizarse para etiquetar al alumnado ni para realizar diagnósticos automáticos**. Las necesidades educativas se comprenden desde la observación profesional, la evaluación psicopedagógica cuando procede, el contexto escolar, la historia del alumno o alumna y el trabajo coordinado del equipo docente y la Red Integrada de Orientación Educativa. Delegar este tipo de decisiones en una herramienta puede generar interpretaciones simplificadas, injustas o difíciles de revisar.
Esta cautela tiene además respaldo normativo. El **Reglamento Europeo de Inteligencia Artificial** considera **de alto riesgo** determinados sistemas de IA utilizados en educación y formación profesional, especialmente aquellos destinados a evaluar los resultados del aprendizaje, orientar el proceso de aprendizaje o valorar el nivel educativo adecuado que recibirá una persona o al que podrá acceder. **Por ello, cualquier sistema que influya de forma significativa en decisiones educativas sobre el alumnado debe abordarse con especial prudencia, garantías, supervisión humana y protección frente a posibles discriminaciones.**
Además, **una herramienta accesible sobre el papel puede generar nuevas barreras en la práctica**. Puede exigir demasiados pasos, depender de una conexión estable, requerir registro individual, tener una interfaz compleja, ofrecer resultados imprecisos o aumentar la carga cognitiva del alumnado. También puede producir subtítulos con errores, traducciones inadecuadas, descripciones visuales incompletas o textos simplificados que pierden contenido esencial. Por eso, evaluar una herramienta implica probarla en contexto y preguntarse si realmente mejora la comprensión, la participación y la autonomía.
Ante estos riesgos, el papel del profesorado es decisivo. **La IA debe ser revisada, contextualizada y ajustada antes de llegar al aula**. Esto implica comprobar la calidad de los materiales generados, detectar posibles sesgos, validar la adecuación lingüística y cognitiva, proteger los datos personales y valorar si la herramienta aporta un beneficio real. La inclusión no se mide por la cantidad de tecnología utilizada, sino por la mejora efectiva en el acceso, la participación y el aprendizaje del alumnado.
Si las propuestas en el aula, como hemos visto en capítulos anteriores de este itinerario, versan de **aprender sobre la IA**, tendremos que aprender a identificar también sesgos y riesgos con nuestro alumnado.
#### Recuerda
Antes de incorporar una herramienta de IA con fines inclusivos, conviene hacerse cinco preguntas:
¿Reduce una barrera real de aprendizaje?
¿Puede usarla todo el alumnado en condiciones equitativas?
¿Requiere introducir datos personales o información sensible?
¿Sus resultados han sido revisados por el profesorado?
¿Mejora la autonomía y la participación, o genera nuevas dependencias?
La IA puede ser una aliada importante para la accesibilidad, pero necesita criterio profesional, protección de datos, revisión crítica y una mirada inclusiva centrada en las personas.
Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, Reglamento de Inteligencia Artificial. Anexo III, apartado 3: Educación y formación profesional; y considerando 56.