2.3. Flujo de trabajo seguro: del aula a la herramienta de IA
La utilización de herramientas de inteligencia artificial en procesos de evaluación educativa exige establecer procedimientos claros que garanticen un uso seguro, ético y pedagógicamente adecuado de la información del alumnado. No se trata únicamente de utilizar una herramienta tecnológica, sino de integrar su uso dentro de un flujo de trabajo estructurado que permita mantener el control sobre los datos, preservar la privacidad y asegurar la supervisión docente en todas las fases del proceso.
En este sentido, resulta especialmente importante comprender que la IA no debe incorporarse de forma improvisada. Del mismo modo que cualquier instrumento de evaluación requiere planificación y criterios pedagógicos definidos, el uso de IA debe apoyarse en protocolos de actuación que reduzcan riesgos y favorezcan una utilización responsable.
Un flujo de trabajo seguro implica establecer una secuencia organizada de actuaciones desde el momento en que el alumnado genera una evidencia hasta que el profesorado interpreta los resultados proporcionados por la herramienta de IA. A continuación, se presenta un modelo básico de flujo de trabajo seguro aplicable a contextos educativos.
León Larrondo + ChatGPT
Fase 1. Recogida en el aula
El proceso comienza con la recopilación de las actividades realizadas por el alumnado tanto en el aula o utilizando la plataforma educativa correspondiente.
Será decisión del docente, teniendo el contexto y la etapa educativa, si el alumnado es el responsable de entregar el archivo anonimizado o no.
Fase 2. Revisión previa del docente
Esta fase constituye uno de los elementos más importantes del flujo de trabajo seguro, ya que permite detectar información sensible o identificativa que no debería ser compartida con sistemas externos. Asimismo, resulta recomendable valorar si toda la información incluida en el documento es realmente necesaria para la tarea que se pretende realizar con IA. La intervención docente en esta fase es esencial, ya que ninguna herramienta automatizada puede garantizar por sí sola una anonimización completa y contextualizada.
Fase 3. Anonimización
En esta fase nos aseguramos que se ha producido la anonimización de lo que se a va enviar a la herramienta de inteligencia artificial.
Fase 4. Uso de la herramienta de IA
Una vez preparada la información, puede procederse a utilizar la herramienta de IA con una finalidad pedagógica concreta. No obstante, el uso de IA debe realizarse siempre bajo criterios pedagógicos claros. La herramienta no debe convertirse en un mecanismo automático de corrección o calificación, sino en un apoyo complementario al trabajo docente.
Fase 5. Validación humana
Uno de los principios fundamentales del uso responsable de la IA en educación es que toda salida generada por estos sistemas debe ser revisada críticamente por el profesorado. Las herramientas de IA pueden cometer errores, interpretar incorrectamente determinadas respuestas o generar retroalimentaciones poco adecuadas al contexto educativo.
La IA puede ayudar a procesar información, pero no sustituye el juicio profesional ni la capacidad de interpretación educativa del profesorado.
Fase 6. Decisión y retroalimentación
La fase final del proceso corresponde exclusivamente al docente. En ningún caso debe delegarse completamente en la IA la toma de decisiones en la evaluación del alumnado. Al finalizar esta fase informaremos al alumnado de su evaluación.
Es recomendable que el proceso de utilización de herramientas de inteligencia artificial sea transparente e informemos al alumnado de su uso cuando sea pertinente.