2.6. Qué datos educativos puede analizar la IA de forma segura

La incorporación de herramientas de inteligencia artificial en la práctica educativa no debería realizarse de manera automática o irreflexiva. Antes de utilizar una IA resulta recomendable detenerse y plantearse algunas preguntas que permitan valorar la pertinencia, seguridad y utilidad pedagógica de su uso.

Estas preguntas no pretenden actuar como una barrera para la innovación, sino como una guía para favorecer una utilización responsable y profesional de estas tecnologías.

Aunque las preguntas pueden ser muy diversas las hemos agrupados en los siguientes bloques:

• Finalidad Pedagógica
• Información
• Herramienta
• Resultados
• Evaluación y toma de decisiones
• Ética

Finalidad pedagógica

• ¿Qué objetivo educativo persigo con esta herramienta?
• ¿La IA aporta un valor real a esta tarea o simplemente automatiza algo que ya realizo adecuadamente?
• ¿Me ayudará a mejorar el aprendizaje del alumnado?
• ¿Podría alcanzar el mismo objetivo mediante otro procedimiento más sencillo?
• ¿Estoy utilizando la IA para apoyar el aprendizaje o únicamente para ahorrar tiempo?

Información

• ¿Es realmente necesario compartir esta información?
• ¿He anonimizado correctamente los datos?
  

Herramienta

• ¿Conozco cómo funciona esta herramienta y sus condiciones de uso?
• ¿Dispone de una política de privacidad clara?
• ¿Está autorizada o recomendada por mi organización educativa?
• ¿Sé qué ocurre con los datos que introduzco?
• ¿Los datos pueden almacenarse o reutilizarse posteriormente?

Resultados

• ¿Los resultados son coherentes con lo que conozco de mi alumnado?
• ¿He revisado posibles errores o interpretaciones incorrectas?
• ¿Existen otras explicaciones posibles para los patrones detectados?
• ¿Estoy aceptando las respuestas porque son convincentes o porque son correctas?
• ¿Qué evidencias respaldan las conclusiones obtenidas?

Evaluación y toma de decisiones

• ¿Estoy utilizando la IA para apoyar mi evaluación o para sustituirla?
• ¿Quién está tomando realmente la decisión final?
• ¿Podría justificar esta decisión sin recurrir a la IA?
• ¿He contrastado la información con otras evidencias?
• ¿Estoy valorando adecuadamente el contexto del alumnado?

Ética

• ¿El uso de esta herramienta beneficia realmente al alumnado?
• ¿Puede generar sesgos o desigualdades?
• ¿Estoy respetando los derechos digitales del alumnado?
• ¿La información generada es transparente y comprensible?
• ¿Sería capaz de explicar a una familia cómo se ha utilizado la IA en este proceso?

Como síntesis, antes de utilizar una herramienta de inteligencia artificial en evaluación, puede resultar útil realizar esta comprobación rápida:

• He anonimizado los datos.
  
• Conozco las condiciones de uso de la herramienta.
• No estoy compartiendo información sensible.
• He revisado críticamente los resultados obtenidos.
• He contrastado la información con otras evidencias.
• La decisión final sigue dependiendo de mí.
• Puedo justificar el uso de la IA desde un punto de vista pedagógico.
• El aprendizaje del alumnado sigue siendo el centro del proceso.