1.4. Riesgos éticos y educativos en el uso de IA para la accesibilidad y la inclusión Fuente: Minerva Rodríguez + Gemini + Hailou A La inteligencia artificial puede ayudar a eliminar barreras, pero también puede crear otras nuevas si se utiliza sin criterio pedagógico, sin revisión humana o sin atención suficiente a la equidad. En un curso centrado en accesibilidad e inclusión, resulta imprescindible mirar la tecnología desde una doble perspectiva: sus posibilidades de apoyo y los riesgos que puede introducir en contextos educativos reales. Uno de los riesgos más importantes son los sesgos algorítmicos. Tal y como ya hemos tratado en los anteriores módulos del curso, los sistemas de IA aprenden a partir de grandes cantidades de datos, y esos datos pueden contener desigualdades, estereotipos o formas de representación poco diversas. Como consecuencia, una herramienta puede generar ejemplos poco inclusivos, invisibilizar determinadas realidades, reproducir sesgos de género, cultura, lengua o discapacidad, o presentar como neutras respuestas que no lo son. En el ámbito de la accesibilidad, este riesgo es especialmente delicado, porque una herramienta pensada para apoyar a alumnado vulnerable podría acabar reforzando una mirada limitada sobre sus capacidades, necesidades o formas de participar. Otro aspecto relevante es la sobredependencia tecnológica . En inclusión, una herramienta puede facilitar el acceso a un texto, una imagen, una explicación o una actividad, pero el aprendizaje sigue necesitando interacción humana, acompañamiento, vínculo y participación en el grupo. Si una solución tecnológica desplaza de forma excesiva la mediación docente o reduce las oportunidades de interacción con iguales, puede empobrecer la experiencia educativa. La accesibilidad debe favorecer más autonomía y más participación, no aislar al alumnado en recorridos individuales gestionados por una plataforma. También debemos ser prudentes ante herramientas que prometen detectar dificultades, clasificar perfiles o anticipar necesidades de aprendizaje. La IA puede ayudar a observar patrones, organizar información o sugerir apoyos, pero no debe utilizarse para etiquetar al alumnado ni para realizar diagnósticos automáticos . Las necesidades educativas se comprenden desde la observación profesional, la evaluación psicopedagógica cuando procede, el contexto escolar, la historia del alumno o alumna y el trabajo coordinado del equipo docente y la Red Integrada de Orientación Educativa. Delegar este tipo de decisiones en una herramienta puede generar interpretaciones simplificadas, injustas o difíciles de revisar. Esta cautela tiene además respaldo normativo. El Reglamento Europeo de Inteligencia Artificial considera de alto riesgo determinados sistemas de IA utilizados en educación y formación profesional, especialmente aquellos destinados a evaluar los resultados del aprendizaje, orientar el proceso de aprendizaje o valorar el nivel educativo adecuado que recibirá una persona o al que podrá acceder. Por ello, cualquier sistema que influya de forma significativa en decisiones educativas sobre el alumnado debe abordarse con especial prudencia, garantías, supervisión humana y protección frente a posibles discriminaciones. Además, una herramienta accesible sobre el papel puede generar nuevas barreras en la práctica . Puede exigir demasiados pasos, depender de una conexión estable, requerir registro individual, tener una interfaz compleja, ofrecer resultados imprecisos o aumentar la carga cognitiva del alumnado. También puede producir subtítulos con errores, traducciones inadecuadas, descripciones visuales incompletas o textos simplificados que pierden contenido esencial. Por eso, evaluar una herramienta implica probarla en contexto y preguntarse si realmente mejora la comprensión, la participación y la autonomía. Ante estos riesgos, el papel del profesorado es decisivo. La IA debe ser revisada, contextualizada y ajustada antes de llegar al aula . Esto implica comprobar la calidad de los materiales generados, detectar posibles sesgos, validar la adecuación lingüística y cognitiva, proteger los datos personales y valorar si la herramienta aporta un beneficio real. La inclusión no se mide por la cantidad de tecnología utilizada, sino por la mejora efectiva en el acceso, la participación y el aprendizaje del alumnado. Si las propuestas en el aula, como hemos visto en capítulos anteriores de este itinerario, versan de aprender sobre la IA , tendremos que aprender a identificar también sesgos y riesgos con nuestro alumnado.  Recuerda Antes de incorporar una herramienta de IA con fines inclusivos, conviene hacerse cinco preguntas: ¿Reduce una barrera real de aprendizaje? ¿Puede usarla todo el alumnado en condiciones equitativas? ¿Requiere introducir datos personales o información sensible? ¿Sus resultados han sido revisados por el profesorado? ¿Mejora la autonomía y la participación, o genera nuevas dependencias? La IA puede ser una aliada importante para la accesibilidad, pero necesita criterio profesional, protección de datos, revisión crítica y una mirada inclusiva centrada en las personas. Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, Reglamento de Inteligencia Artificial. Anexo III, apartado 3: Educación y formación profesional; y considerando 56.