2.5. Limitaciones y responsabilidades del docente
La incorporación de herramientas de inteligencia artificial en los procesos de evaluación educativa ofrece oportunidades significativas para apoyar la labor docente. Sin embargo, también plantea limitaciones y responsabilidades que deben ser comprendidas y asumidas desde una perspectiva crítica y profesional.
La IA puede ayudarnos a analizar información, identificar patrones, generar propuestas de retroalimentación o facilitar la elaboración de informes. No obstante, estas capacidades no deben llevarnos a considerar estas herramientas como sistemas capaces de sustituir el criterio pedagógico humano. Su utilización exige conocer tanto sus posibilidades como sus límites, así como asumir las responsabilidades derivadas de su uso en contextos educativos.
En este apartado analizaremos, por una parte, las principales limitaciones de la inteligencia artificial aplicada a la evaluación y, por otra, las responsabilidades que corresponden al profesorado cuando decide incorporar estas herramientas a su práctica docente.
Limitaciones de la inteligencia artificial
Riesgo de errores e interpretaciones incorrectas
Uno de los aspectos más importantes que debemos tener presentes es que los sistemas de inteligencia artificial pueden cometer errores. Aunque sus respuestas suelen presentarse de forma coherente y convincente, esto no garantiza que la información generada sea correcta.
Las herramientas de IA pueden:
- proporcionar información inexacta;
- interpretar incorrectamente una respuesta del alumnado;
- generar retroalimentación poco adecuada;
- identificar patrones inexistentes;
- formular conclusiones erróneas a partir de los datos disponibles.
Este fenómeno resulta especialmente relevante en evaluación educativa, donde una interpretación incorrecta puede afectar a la percepción del aprendizaje o conducir a decisiones pedagógicas inadecuadas.
Por ello, cualquier resultado generado por una herramienta de IA debe considerarse una propuesta susceptible de revisión y nunca una conclusión definitiva.
Limitaciones en la comprensión del contexto educativo
La inteligencia artificial trabaja fundamentalmente a partir de patrones estadísticos presentes en los datos con los que ha sido entrenada. Sin embargo, carece de una comprensión real del contexto educativo en el que se producen los aprendizajes.
Una IA no conoce:
- la trayectoria personal del alumnado;
- las dinámicas del grupo;
- las circunstancias familiares;
- los factores emocionales;
- las relaciones interpersonales del aula;
- las características específicas del entorno educativo.
Por ejemplo, una disminución en el rendimiento académico puede estar relacionada con dificultades conceptuales, pero también con situaciones personales, cambios organizativos o circunstancias externas que la IA es incapaz de interpretar adecuadamente.
Como docentes, somos nosotros quienes aportamos el conocimiento contextual necesario para comprender el significado educativo de los datos.
Riesgo de sesgos
Los sistemas de inteligencia artificial aprenden a partir de grandes cantidades de información generada por personas e instituciones. Como consecuencia, pueden reproducir sesgos presentes en esos datos de entrenamiento.
En educación, esto implica que algunas respuestas o comportamientos del alumnado podrían ser interpretados de forma menos adecuada si se alejan de los patrones predominantes presentes en los datos utilizados para entrenar la herramienta. Por este motivo, es importante mantener una actitud crítica hacia los resultados generados por la IA y evitar asumir que sus análisis son necesariamente neutrales u objetivos.
Limitaciones en la interpretación de procesos complejos de aprendizaje
Los procesos educativos son complejos y no siempre pueden reducirse a indicadores cuantificables o patrones observables. Aspectos como la creatividad. el pensamiento crítico, la capacidad de trabajo en equipo, la evolución personal o la motivación, resultan difíciles de medir mediante sistemas automatizados.
LA IA no siempre es capaz de captar la riqueza y complejidad de estos procesos. Por ello, las analíticas generadas por IA deben entenderse como una fuente complementaria de información y no como una representación completa del aprendizaje del alumnado.