1.4. Riesgos éticos y educativos en el uso de IA para la accesibilidad y la inclusión
La inteligencia artificial puede ayudar a eliminar barreras, pero también puede crear otras nuevas si se utiliza sin criterio pedagógico, sin revisión humana o sin atención suficiente a la equidad. En un curso centrado en accesibilidad e inclusión, resulta imprescindible mirar la tecnología desde una doble perspectiva: sus posibilidades de apoyo y los riesgos que puede introducir en contextos educativos reales.
Uno de los riesgos más importantes son los sesgos algorítmicos. Los sistemas de IA aprenden a partir de grandes cantidades de datos, y esos datos pueden contener desigualdades, estereotipos o formas de representación poco diversas. Como consecuencia, una herramienta puede generar ejemplos poco inclusivos, invisibilizar determinadas realidades, reproducir sesgos de género, cultura, lengua o discapacidad, o presentar como neutras respuestas que no lo son. En el ámbito de la accesibilidad, este riesgo es especialmente delicado, porque una herramienta pensada para apoyar a alumnado vulnerable podría acabar reforzando una mirada limitada sobre sus capacidades, necesidades o formas de participar.
También debemos ser prudentes ante herramientas que prometen detectar dificultades, clasificar perfiles o anticipar necesidades de aprendizaje. La IA puede ayudar a observar patrones, organizar información o sugerir apoyos, pero no debe utilizarse para etiquetar al alumnado ni para realizar diagnósticos automáticos. Las necesidades educativas se comprenden desde la observación profesional, la evaluación psicopedagógica cuando procede, el contexto escolar, la historia del alumno o alumna y el trabajo coordinado del equipo docente y de orientación. Delegar este tipo de decisiones en una herramienta puede generar interpretaciones simplificadas, injustas o difíciles de revisar.
Otro aspecto relevante es la sobredependencia tecnológica. En inclusión, una herramienta puede facilitar el acceso a un texto, una imagen, una explicación o una actividad, pero el aprendizaje sigue necesitando interacción humana, acompañamiento, vínculo y participación en el grupo. Si una solución tecnológica desplaza de forma excesiva la mediación docente o reduce las oportunidades de interacción con iguales, puede empobrecer la experiencia educativa. La accesibilidad debe favorecer más autonomía y más participación, no aislar al alumnado en recorridos individuales gestionados por una plataforma.
La protección de datos adquiere aquí una importancia especial. Cuando trabajamos con accesibilidad e inclusión, podemos manejar información muy sensible: dificultades de aprendizaje, apoyos específicos, discapacidad, salud, situación familiar, desconocimiento de la lengua de escolarización o necesidades comunicativas. Introducir esta información en herramientas de IA, especialmente si son externas, gratuitas o poco transparentes, puede comprometer la privacidad del alumnado. Por ello, debe aplicarse siempre el principio de minimización de datos: usar solo la información imprescindible, anonimizar ejemplos, evitar datos identificativos y no introducir documentos reales del alumnado en plataformas que no estén autorizadas o validadas por el centro.
Además, una herramienta accesible sobre el papel puede generar nuevas barreras en la práctica. Puede exigir demasiados pasos, depender de una conexión estable, requerir registro individual, tener una interfaz compleja, ofrecer resultados imprecisos o aumentar la carga cognitiva del alumnado. También puede producir subtítulos con errores, traducciones inadecuadas, descripciones visuales incompletas o textos simplificados que pierden contenido esencial. Por eso, evaluar una herramienta implica probarla en contexto y preguntarse si realmente mejora la comprensión, la participación y la autonomía.
Ante estos riesgos, el papel del profesorado es decisivo. La IA debe ser revisada, contextualizada y ajustada antes de llegar al aula. Esto implica comprobar la calidad de los materiales generados, detectar posibles sesgos, validar la adecuación lingüística y cognitiva, proteger los datos personales y valorar si la herramienta aporta un beneficio real. La inclusión no se mide por la cantidad de tecnología utilizada, sino por la mejora efectiva en el acceso, la participación y el aprendizaje del alumnado.
Recuerda
Antes de incorporar una herramienta de IA con fines inclusivos, conviene hacerse cinco preguntas:
¿Reduce una barrera real de aprendizaje o participación?
¿Puede usarla todo el alumnado en condiciones equitativas?
¿Requiere introducir datos personales o información sensible?
¿Sus resultados han sido revisados por el profesorado?
¿Mejora la autonomía y la participación, o genera nuevas dependencias?
La IA puede ser una aliada importante para la accesibilidad, pero necesita criterio profesional, protección de datos, revisión crítica y una mirada inclusiva centrada en las personas.