1.4. Qué puede y qué no debe hacer la IA en los procesos de evaluación
La incorporación de la inteligencia artificial en la evaluación educativa exige delimitar con claridad sus usos adecuados y sus límites. No se trata únicamente de una cuestión técnica, sino también pedagógica, ética y legal.
Establecer estos márgenes permite aprovechar su potencial sin comprometer la equidad, la validez de la evaluación ni los derechos del alumnado.
En cuanto a lo que la IA puede hacer, su utilidad se sitúa principalmente en tareas de apoyo al profesorado. Puede ayudar a generar instrumentos de evaluación (como rúbricas, listas de cotejo o preguntas), ofrecer propuestas de retroalimentación sobre producciones de nuestro alumnado o sugerir mejoras en el diseño de actividades. Por ejemplo, podemos introducir un texto anonimizado y solicitar a la IA ideas de feedback centradas en la estructura argumentativa o la adecuación al registro. También puede servir para analizar patrones generales en el aprendizaje del grupo (por ejemplo, errores frecuentes), facilitando así la toma de decisiones didácticas.
Sin embargo, estas posibilidades deben entenderse siempre como un apoyo orientativo, no como un sustituto del juicio profesional. Las respuestas de la IA no son infalibles ni neutras: pueden contener errores, sesgos o interpretaciones inadecuadas, por lo que requieren revisión crítica antes de ser utilizadas.
En relación con lo que la IA no debe hacer, es fundamental establecer límites claros. En primer lugar, no debe emplearse para la calificación automatizada del alumnado. La asignación de calificaciones implica una responsabilidad profesional y administrativa que no puede delegarse en un sistema automatizado, ya que requiere contextualización, interpretación y garantía de equidad.
Tampoco debe utilizarse para tomar decisiones que afecten directamente a nuestro alumnado sin nuestra supervisión, como la promoción, la repetición o la valoración final de competencias. Delegar este tipo de decisiones en la IA supondría una pérdida de control pedagógico y podría generar situaciones injustas o difíciles de justificar.
Desde el punto de vista ético, uno de los principales riesgos es la introducción de sesgos. Los sistemas de IA pueden reproducir o amplificar desigualdades si se utilizan de forma acrítica. Por ejemplo, una herramienta que genere feedback puede favorecer ciertos estilos de expresión o referencias culturales, penalizando indirectamente a parte de nuestro alumnado. Por ello, debemos revisar siempre las salidas de la IA y adaptarlas a la diversidad de nuestras aulas.
En el plano legal, destaca la importancia de la protección de datos personales. Muchas herramientas de IA funcionan a través de servicios externos, lo que implica la cesión de información. Es imprescindible anonimizar cualquier dato de nuestro alumnado antes de utilizar estas herramientas, evitando nombres, identificadores o cualquier elemento que permita su reconocimiento. Además, deben utilizarse únicamente plataformas que cumplan con la normativa vigente en materia de protección de datos. Aquí es dónde, insisto, creo que una relación de herramientas proporcionadas por el Departamento nos sería de gran utilidad.
Otro aspecto relevante es la transparencia en el uso de la IA. El alumnado debe conocer cuándo y cómo se están utilizando estas herramientas en los procesos de evaluación, así como los criterios que guían su uso. Esto contribuye a generar confianza y a fomentar un uso responsable por parte de toda la comunidad educativa. Si pedimos que cuando utilicen IA en un trabajo la citen y dejen claro que dónde y para qué la estén utilizando sería una buena práctica el comunicar a nuestro alumnado como usamos la IA para evaluar su desempeño.
La IA no debe sustituirnos como docentes garantes de la calidad y la justicia del proceso de evaluación. Su uso debe estar siempre subordinado a criterios pedagógicos, éticos y normativos, manteniendonos como responsables últimos/as de la interpretación de evidencias y de la toma de decisiones.