1. Introducción: La evaluación en la era de la inteligencia artificial 1.1 Introducción La irrupción de la inteligencia artificial (IA) en el ámbito educativo está transformando de manera significativa los procesos de enseñanza aprendizaje, y, de forma muy particular, la evaluación. En este nuevo contexto, el profesorado nos enfrentamos al reto de repensar cómo valorar el aprendizaje del alumnado en un entorno donde el acceso a herramientas capaces de generar textos, resolver problemas, crear productos complejos,... es inmediato y generalizado. La evaluación, entendida como un proceso sistemático para recoger información, interpretarla y tomar decisiones pedagógicas, adquiere una nueva dimensión en tiempos de IA ya no se trata únicamente de medir resultados finales, sino de comprender cómo se produce el aprendizaje en interacción con estas tecnologías. Esto nos obliga a desplazar el foco desde la simple comprobación de conocimientos hacia la valoración de competencias, procesos, pensamiento crítico y uso responsable de herramientas digitales. En este punto, recordemos: La evaluación educativa se define como un proceso continuo, sistemático y participativo de recogida de información relevante sobre los procesos de aprendizaje del alumnado y la práctica docente. Su objetivo principal no es la mera fiscalización del resultado, sino la comprensión del proceso educativo para orientar la toma de decisiones pedagógicas que permitan mejorar y ajustar la intervención educativa a las necesidades reales del grupo y de cada estudiante. Evaluación con IA (creado por Pablo Ruiz con Gemini) En cuanto a sus diferencias con la calificación: La evaluación es un concepto cualitativo y global que busca identificar fortalezas y áreas de mejora mediante el análisis de evidencias para fomentar el progreso constante del alumno. Por el contrario, la calificación es un acto administrativo y puntual a través del cual se traduce el juicio evaluativo en un valor escalar (numérico o nominal) que certifica el logro de unos objetivos en un momento específico. Mientras que evaluar es un proceso para ayudar a aprender, calificar es la formalización de un resultado con fines de acreditación. En este escenario, la IA puede convertirse en un apoyo relevante para nosotros/as los/as docentes, especialmente en tareas como la generación de retroalimentación (feedback), la creación de instrumentos de evaluación o el análisis de evidencias de aprendizaje. Por ejemplo, podemos utilizar una herramienta de IA para proponer distintos niveles de retroalimentación sobre un mismo texto escrito por el alumnado, facilitando así una atención más personalizada. Sin embargo, este uso debe realizarse siempre bajo criterios pedagógicos claros y con una supervisión constante. Es fundamental establecer desde el inicio algunos principios básicos que guiarán el uso de la IA en evaluación a lo largo del curso: La IA puede ser una herramienta útil para apoyar la evaluación, pero no debe sustituir el juicio profesional del docente. La toma de decisiones finales siempre nos corresponde a nosotros/as (profesorado). La IA es especialmente valiosa para proporcionar feedback formativo, pero no debe utilizarse como sistema de calificación automatizada del alumnado. El uso de datos en herramientas de IA exige una atención especial a la privacidad: es imprescindible anonimizar cualquier información de nuestro alumnado antes de introducirla en estos sistemas. Las salidas generadas por la IA deben ser siempre revisadas críticamente por nosotros/as como docentes antes de ser utilizadas o compartidas. Además, la presencia de la IA en el aula también plantea preguntas clave sobre la autoría, la originalidad y la validez de las evidencias de aprendizaje. Por ejemplo, si un estudiante nos entrega un ensayo elaborado con ayuda de una IA generativa, ¿qué es lo que se está evaluando realmente? ¿El producto final, el proceso seguido, o la capacidad de utilizar herramientas digitales de forma crítica y ética? Estas cuestiones obligan a revisar los enfoques tradicionales de evaluación. IA en abstracto (Pablo Ruiz con Gemini) Por otro lado, el uso educativo de la IA debe alinearse con el marco normativo vigente y con los principios de equidad, inclusión y protección de datos. En el contexto de Aragón y del sistema educativo español, esto implica integrar la IA dentro de una evaluación competencial, coherente con el currículo y respetuosa con los derechos de nuestro alumnado. En definitiva, la evaluación en la era de la inteligencia artificial no consiste en incorporar tecnología de manera acrítica, sino en redefinir los procesos evaluativos para que sigan siendo rigurosos, justos y centrados en el aprendizaje. La IA ofrece oportunidades, pero también exige una mayor responsabilidad profesional en la interpretación de evidencias y en la toma de decisiones pedagógicas. Un gran poder conlleva una gran responsabilidad Antiguo adagio, de al menos el siglo I a. C., que hace alusión a la espada de Damocles. Popularizado por los comics de Marvel 1.2. Retos actuales de la evaluación educativa La evaluación educativa atraviesa en la actualidad (y como siempre) un momento de cambio profundo, impulsado tanto por la transformación digital como por la incorporación creciente de la inteligencia artificial en los procesos de aprendizaje. Este contexto plantea una serie de retos que nos afecta en todas las etapas educativas y que nos obliga a revisar prácticas tradicionales para adaptarlas a nuevas realidades. Uno de los principales desafíos es la validez de las evidencias de aprendizaje. El acceso generalizado a herramientas de IA capaces de generar textos, resolver ejercicios o elaborar productos complejos dificulta determinar en qué medida una tarea refleja realmente el nivel de competencia de nuestro alumnado. Por ejemplo, un trabajo escrito puede presentar una gran calidad formal gracias al uso de IA, pero no necesariamente evidenciar una comprensión profunda de los contenidos. Esto obliga a diseñar situaciones de evaluación que pongan el foco en el proceso, la reflexión y la aplicación contextualizada del conocimiento . Relacionado con lo anterior, surge el reto de la autoría y la integridad académica. La facilidad para utilizar IA sin dejar rastro evidente plantea interrogantes sobre la originalidad de las producciones del alumnado. En lugar de centrarse exclusivamente en la detección del uso de estas herramientas, el profesorado necesita promover un uso ético y transparente , incorporando la IA como objeto de aprendizaje y estableciendo criterios claros sobre cuándo y cómo puede utilizarse . Otro aspecto clave es la transformación del tipo de tareas evaluativas. Las actividades basadas en la repetición o en la reproducción de información pierden sentido en un entorno donde la IA puede resolverlas de manera inmediata. Esto impulsa la necesidad de plantear tareas más complejas, abiertas y competenciales, que requieran análisis, pensamiento crítico, creatividad o transferencia a situaciones reales . Por ejemplo, en lugar de pedir un resumen de un tema, puede solicitarse una valoración crítica comparando distintas fuentes o la aplicación de un concepto a un caso práctico. IA vs retos (Pablo Ruiz con Gemini) Asimismo, la evaluación debe responder al reto de la personalización del aprendizaje . La diversidad en el aula exige instrumentos y estrategias que permitan recoger evidencias variadas y adaptadas a diferentes ritmos y estilos . En este sentido, la IA puede ofrecer apoyo para generar feedback individualizado, siempre bajo supervisión docente. Por ejemplo, un docente puede apoyarse en la IA para proponer diferentes formas de retroalimentación sobre una misma tarea, ajustándolas posteriormente a cada alumno o alumna. La gestión ética y segura de los datos constituye otro reto fundamental. El uso de herramientas digitales, especialmente aquellas basadas en IA, implica el tratamiento de información que puede ser sensible. Es imprescindible garantizar la protección de datos de nuestro alumnado , lo que implica, entre otras medidas, anonimizar cualquier información antes de introducirla en estas herramientas y seleccionar plataformas que cumplan con la normativa vigente. Todo lo indicado hasta el momento no dejar de ser una nueva tarea sobre nuestras sobrecargadas espaldas por lo que tratar de utilizar estas herramientas para conseguir eficiencia de los procesos de evaluación podría sernos de gran utilidad pues la evaluación continua y competencial requiere tiempo y dedicación , lo que puede generar dificultades en contextos con ratios elevadas,  múltiples grupos o una absurda carga de burocracia inútil. Aquí, la IA puede actuar como apoyo para agilizar ciertas tareas (como la generación de rúbricas o propuestas de feedback), pero sin sustituir el juicio profesional . En ningún caso debe delegarse en la IA la calificación automatizada del alumnado. Por último, emerge el reto de nuestro rol como docentes de garantes del proceso de evaluación. En un entorno mediado por tecnologías, debemos reforzar nuestro papel como diseñadores/as de situaciones de aprendizaje (recomendamos el curso IA en el Diseño Curricular para profundizar en esta cuestión) , intérpretes de evidencias y responsables últimos de las decisiones . Esto implica no solo utilizar la IA , sino comprender sus limitaciones, revisar críticamente sus resultados y asegurar que la evaluación siga siendo justa, inclusiva y orientada al aprendizaje . Si has vivido el surgimiento de cualquiera de estos elementos: Encarta , internet, El rincón del vago , Wikipedia,... estoy seguro de que todos estos retos no te son nuevos y esperamos que con esta formación podamos arrojarte algo de luz en la temática que nos ocupa (evaluación e IA). 1.3. Evaluación formativa, sumativa y competencial con apoyo de IA La integración de la inteligencia artificial en los procesos de evaluación permite reforzar distintos enfoques evaluativos , siempre que se utilice con criterios pedagógicos claros y bajo la supervisión del profesorado. En este sentido, resulta especialmente relevante analizar cómo puede apoyar la evaluación formativa, la sumativa y la evaluación por competencias, sin sustituir en ningún caso la responsabilidad docente en la toma de decisiones . La evaluación formativa , orientada a mejorar el aprendizaje durante el proceso, es el ámbito donde la IA ofrece mayores posibilidades . Su capacidad para generar retroalimentación inmediata puede ayudar a que nuestro alumnado identifique errores, comprenda cómo mejorar y avance de manera más autónoma. Por ejemplo, un/a docente puede utilizar una herramienta de IA para obtener sugerencias de mejora sobre un texto escrito, como la claridad de las ideas o la coherencia argumentativa. No obstante, este feedback debe ser siempre revisado, adaptado y contextualizado por el profesorado, evitando su uso automático o despersonalizado . La clave está en utilizar la IA como apoyo para enriquecer la retroalimentación, no para delegarla completamente. En el caso de la evaluación sumativa , cuyo objetivo es certificar el grado de logro en un momento determinado, el papel de la IA debe ser mucho más limitado . Aunque puede resultar útil para diseñar instrumentos de evaluación (como bancos de preguntas, rúbricas o criterios de corrección), no debe emplearse para asignar calificaciones de forma automatizada . La calificación implica un juicio profesional que debe tener en cuenta múltiples factores, incluyendo el contexto del alumnado y la interpretación de evidencias. Por ejemplo, una IA puede sugerir una posible valoración de una tarea, pero la decisión final sobre la calificación corresponde exclusivamente al docente. En cuanto a la evaluación competencial , centrada en la aplicación integrada de conocimientos, habilidades y actitudes en contextos significativos, la IA puede ser una aliada en el diseño de situaciones de aprendizaje más complejas y auténticas . Puede ayudar a generar escenarios, estudios de caso o problemas abiertos que requieran movilizar distintas competencias. Por ejemplo, en una materia como Ciencias Sociales, la IA puede proponer un caso práctico sobre la gestión de recursos en una ciudad que nuestro alumnado debe analizar desde diferentes perspectivas. Asimismo, puede sugerir indicadores de logro o descriptores para rúbricas competenciales, que posteriormente deberemos ajustar al currículo y a contexto específico. Los tortuosos caminos de la evaluación con IA (Pablo Ruiz con Gemini) Un aspecto transversal en estos tres enfoques es la necesidad de garantizar un uso ético y responsable de la IA . Esto implica, entre otras cuestiones, anonimizar los datos del alumnado cuando se utilicen herramientas externas, evitar la dependencia excesiva de estas tecnologías y fomentar en nuestro alumnado una comprensión crítica de su funcionamiento . Siempre que la IA se utilice como una herramienta complementaria al servicio de nuestro criterio pedagógico puede sernos de gran utilidad. 1.4. Qué puede y qué no debe hacer la IA en los procesos de evaluación La incorporación de la inteligencia artificial en la evaluación educativa exige delimitar con claridad sus usos adecuados y sus límites. No se trata únicamente de una cuestión técnica, sino también pedagógica, ética y legal. Establecer estos márgenes permite aprovechar su potencial sin comprometer la equidad, la validez de la evaluación ni los derechos del alumnado. En cuanto a lo que la IA puede hacer, su utilidad se sitúa principalmente en tareas de apoyo al profesorado. Puede ayudar a generar instrumentos de evaluación (como rúbricas, listas de cotejo o preguntas), ofrecer propuestas de retroalimentación sobre producciones de nuestro alumnado o sugerir mejoras en el diseño de actividades. Por ejemplo, podemos introducir un texto anonimizado y solicitar a la IA ideas de feedback centradas en la estructura argumentativa o la adecuación al registro. También puede servir para analizar patrones generales en el aprendizaje del grupo (por ejemplo, errores frecuentes), facilitando así la toma de decisiones didácticas. Sin embargo, estas posibilidades deben entenderse siempre como un apoyo orientativo, no como un sustituto del juicio profesional. Las respuestas de la IA no son infalibles ni neutras: pueden contener errores, sesgos o interpretaciones inadecuadas, por lo que requieren revisión crítica antes de ser utilizadas. En relación con lo que la IA no debe hacer, es fundamental establecer límites claros. En primer lugar, no debe emplearse para la calificación automatizada del alumnado . La asignación de calificaciones implica una responsabilidad profesional y administrativa que no puede delegarse en un sistema automatizado, ya que requiere contextualización, interpretación y garantía de equidad. Tampoco debe utilizarse para tomar decisiones que afecten directamente a nuestro alumnado sin nuestra supervisión , como la promoción, la repetición o la valoración final de competencias. Delegar este tipo de decisiones en la IA supondría una pérdida de control pedagógico y podría generar situaciones injustas o difíciles de justificar. Desde el punto de vista ético , uno de los principales riesgos es la introducción de sesgos . Los sistemas de IA pueden reproducir o amplificar desigualdades si se utilizan de forma acrítica. Por ejemplo, una herramienta que genere feedback puede favorecer ciertos estilos de expresión o referencias culturales, penalizando indirectamente a parte de nuestro alumnado. Por ello, debemos revisar siempre las salidas de la IA y adaptarlas a la diversidad de nuestras aulas . En el plano legal , destaca la importancia de la protección de datos personales. Muchas herramientas de IA funcionan a través de servicios externos, lo que implica la cesión de información. Es imprescindible anonimizar cualquier dato de nuestro alumnado antes de utilizar estas herramientas , evitando nombres, identificadores o cualquier elemento que permita su reconocimiento. Además, deben utilizarse únicamente plataformas que cumplan con la normativa vigente en materia de protección de datos . Aquí es dónde, insisto, creo que una relación de herramientas proporcionadas por el Departamento nos sería de gran utilidad. Representación gráfica de este capítulo (Pablo Ruiz con Gemini) Otro aspecto relevante es la transparencia en el uso de la IA . El alumnado debe conocer cuándo y cómo se están utilizando estas herramientas en los procesos de evaluación, así como los criterios que guían su uso. Esto contribuye a generar confianza y a fomentar un uso responsable por parte de toda la comunidad educativa. Si pedimos que cuando utilicen IA en un trabajo la citen y dejen claro que dónde y para qué la estén utilizando sería una buena práctica el comunicar a nuestro alumnado como usamos la IA para evaluar su desempeño. La IA no debe sustituirnos como docentes garantes de la calidad y la justicia del proceso de evaluación. Su uso debe estar siempre subordinado a criterios pedagógicos, éticos y normativos , manteniendonos como responsables últimos/as de la interpretación de evidencias y de la toma de decisiones. 1.5. Rol de docente: control pedagógico y toma de decisiones Nuestro rol del docente no se reduce, sino que se vuelve más relevante y complejo (si cabe). Lejos de delegar funciones asumimos un papel central como garantes del sentido pedagógico de la evaluación, responsable último de la interpretación de las evidencias de aprendizaje y de la toma de decisiones que afectan a nuestro alumnado. El control pedagógico implica que, como docentes, definimos qué se evalúa, cómo se evalúa y con qué finalidad (como ya hacíamos antes de la IA). Aunque la IA puede sugerir instrumentos, criterios o incluso propuestas de retroalimentación, somos nosotros/as quienes debemos seleccionar, adaptar y validar estos elementos en función del currículo, del contexto del aula y de las características de nuestro alumnado (como también hacíamos antes de la IA). Por ejemplo, una rúbrica generada con ayuda de IA debe ser revisada para asegurar que se ajusta a los criterios de evaluación establecidos y que es comprensible y útil para nuestro alumnado. Además, debemos ejercer una supervisión constante de las salidas de la IA . Esto supone analizar críticamente las propuestas generadas, detectar posibles errores o sesgos y decidir si son adecuadas antes de utilizarlas. La IA no tiene conocimiento del contexto específico de nuestro aula o centro, por lo que sus aportaciones requieren siempre una contextualización pedagógica. Esta supervisión no es opcional, sino una responsabilidad inherente al uso de estas herramientas . Docentes al mando (Pablo Ruiz con Gemini) En relación con la toma de decisiones, debemos mantener la responsabilidad exclusiva sobre aspectos clave como la valoración del aprendizaje, la calificación y las decisiones académicas. La IA puede ofrecer información o sugerencias, pero no puede sustituir nuestro juicio profesional. Por ejemplo, ante una producción del alumnado, una herramienta de IA puede proponer distintos niveles de logro, pero nos corresponde a nosotros/as interpretar esa evidencia teniendo en cuenta el proceso seguido, el progreso del alumno/a y la normativa. Otro elemento fundamental de nuestra labor es la mediación y orientación del alumnado en el uso de la IA. Debemos enseñar no solo contenidos, sino también a utilizar estas herramientas de forma crítica, ética y responsable. Esto incluye establecer normas claras sobre su uso en tareas evaluables, fomentar la transparencia (por ejemplo, indicando cuándo se ha utilizado IA en una actividad) y promover la reflexión sobre su impacto en el aprendizaje. Asimismo, debemos velar por el cumplimiento de principios esenciales como la equidad, la inclusión y la protección de datos . Esto implica, entre otras cuestiones, garantizar que el uso de la IA no genere desigualdades entre nuestro alumnado y que cualquier información utilizada esté debidamente anonimizada cuando se introduzca en herramientas externas. En definitiva, actuaremos como eje vertebrador del proceso de evaluación, integrando la IA como un recurso más, pero manteniendo el control pedagógico y la responsabilidad en cada una de las decisiones que adoptemos . Frase esta que aplicamos a la IA pero podríamos aplicarla a cualquier cambio que en los últimos 20-30 años haya habido en el mundo y que han impactado en la educación. 1.6. Normativa Esta página está sacada completamente del curso IA en Educación: Ética y Responsabilidad en la práctica docente . Concretamente del capítulo 4. Marco legal . Reglamento Europeo IA Introducción El pilar central de la normativa europea es el  Reglamento (UE) 2024/1689 , conocido como la Ley de Inteligencia Artificial (AI Act). Este documento representa la primera ley integral sobre IA en el mundo y establece las reglas de juego para cualquier sistema que se comercialice o utilice en territorio comunitario. Tiene por objeto fomentar el desarrollo y la adopción de sistemas de IA seguros y fiables en todo el mercado único de la Unión Europea , tanto en el sector privado como en el público, garantizando al mismo tiempo la salud y la seguridad de los ciudadanos de la UE y el respeto de los  derechos fundamentales. La Ley de IA entrando en vigor (María de Mingo + Gemini) Aunque ya ha ido apareciendo a lo largo de los capítulos de este curso, es necesario hacer zoom out para conocer tanto algunas cuestiones generales, como otras que afectan al sector educativo.  Niveles de Riesgo En este Reglamento se establece una clasificación de los sistemas de IA en función del riesgo que suponen para la sociedad. Para la formación docente, es imperativo desglosar cómo este reglamento clasifica los sistemas de IA, ya que la educación ha sido designada como un ámbito de "alto riesgo" en algunos de sus puntos. Cuanto mayor sea el riesgo de causar daños a la sociedad, más estrictas serán las normas, culminando con la prohibición en aquellos casos que hayan sido clasificados como riesgo inadmisible o inaceptable.  Pirámide AI Act - Niveles de riesgo Riesgo inadmisible - Prácticas prohibidas Todos los sistemas de IA considerados una clara amenaza para la seguridad, los medios de subsistencia y los derechos de las personas son clasificados como Riesgo inadmisible y están prohibidos. El Reglamento  prohíbe las siguientes prácticas de IA con un nivel de riesgo inaceptable: Técnicas subliminales o engañosas para manipular el comportamiento de individuos o grupos, mermando su capacidad para tomar decisiones con conocimiento de causa y causando un daño potencial. Explotación de vulnerabilidades basadas en la edad, la discapacidad o las situaciones socioeconómicas para manipular a individuos o grupos, con el consiguiente perjuicio potencial. Puntuación social , evaluando o clasificando a las personas en función de su comportamiento o características, lo que da lugar a un trato injusto no relacionado con el contexto en el que se recogieron los datos o de manera desproporcionada a la gravedad del comportamiento; por ejemplo a la hora de acceder a un empleo. Evaluación del riesgo criminal , predicción de la probabilidad de cometer un delito basándose únicamente en perfiles o rasgos de personalidad, excepto en investigaciones criminales objetivas y basadas en hechos. Obtención de bases de datos de reconocimiento facial a partir de Internet o de cámaras de seguridad sin un objetivo específico. Inferencia de emociones en áreas sensibles, como lugares de trabajo o instituciones educativas, a menos que se utilice con fines médicos o de seguridad. Categorización biométrica basada en datos para inferir atributos sensibles como raza, religión u opiniones políticas, excepto para su uso legal en el cumplimiento de la ley. Identificación biométrica en tiempo real en público por parte de las fuerzas de seguridad , a menos que sea estrictamente necesario para situaciones concretas (por ejemplo, encontrar a personas desaparecidas, prevenir amenazas inminentes o identificar a sospechosos de delitos graves). Esto debe seguir procedimientos legales estrictos, incluida la autorización previa, un alcance limitado y salvaguardias para proteger los derechos y libertades. Alto riesgo - Educación La designación de la educación como sector de alto riesgo se debe a que las decisiones tomadas por una IA en este ámbito pueden determinar el curso de la vida académica, profesional y personal  de una persona.  No obstante,  no todos los usos de la IA en educación se clasifican como de alto riesgo , ya que esta categoría se aplica principalmente a aquellos sistemas que intervienen en decisiones relevantes como la admisión o la evaluación del alumnado. Son considerados de alto riesgo los sistemas de IA utilizados para determinar el acceso o admisión a centros, evaluar resultados del aprendizaje, valorar el nivel educativo adecuado o supervisar comportamientos prohibidos durante los exámenes. Estos sistemas de IA deben cumplir con los  requisitos estipulados en los artículos 8 al 17 de la ley, es decir, e stán sujetos a obligaciones estrictas antes de que puedan comercializarse: Sistemas adecuados de evaluación y mitigación de riesgos Alta calidad de los conjuntos de datos que alimentan el sistema para minimizar los riesgos de resultados discriminatorios Registro de la actividad para garantizar la trazabilidad de los resultados Documentación detallada que proporcione toda la información necesaria sobre el sistema y su finalidad para que las autoridades evalúen su cumplimiento Información clara y adecuada al implementador Medidas adecuadas de supervisión humana Alto nivel de robustez, ciberseguridad y precisión Casos alto riesgo en Educación y FP  En cuanto a la protección de los derechos fundamentales y el uso de sistemas de IA de alto riesgo , la Ley IA dice que: Antes de que un sistema de IA de alto riesgo sea desplegado por entidades que prestan servicios públicos , debe evaluarse su impacto sobre los derechos fundamentales (art.27) . Los sistemas de IA de alto riesgo y las entidades que los utilicen deben registrarse en una base de datos de la UE (agosto 2027). Además de los proveedores y distribuidores de sistemas de IA y de las entidades, los centros educativos y docentes podemos ser identificados como responsables del despliegue bajo el Reglamento Europeo de IA, por lo que también adquirimos responsabilidades si utilizamos sistemas de IA en los casos mencionados anteriormente, clasificados como de alto riesgo.  Algunas de las principales responsabilidades a la hora de desplegar estos sistemas son: Uso conforme a las instrucciones:  adoptar medidas técnicas y organizativas adecuadas para garantizar que utilizan los sistemas siguiendo las instrucciones de uso facilitadas por el proveedor. Supervisión humana: obligación de encomendar la supervisión de estos sistemas a personas físicas que posean la competencia, formación y autoridad necesarias para vigilar su funcionamiento y prevenir riesgos. Vigilancia y reporte:  vigilar el funcionamiento del sistema y, en caso de considerar que presenta un riesgo o detectar un incidente grave , deben informar inmediatamente al proveedor o distribuidor y a la autoridad de vigilancia del mercado, suspendiendo el uso del sistema si es necesario. Calidad de los datos de entrada: asegurarse de que los datos que introducen en el sistema sean pertinentes y suficientemente representativos, en la medida en que tengan control sobre ellos. Conservación de registros: obligación de conservar los archivos de registro (logs) generados automáticamente por el sistema durante al menos seis meses , para permitir la trazabilidad del funcionamiento si fuera necesario. Deber de información: si toman decisiones o ayudan a tomarlas basándose en estos sistemas, deben informar a las personas físicas, de que están siendo objeto del uso de una IA de alto riesgo. Evaluación de impacto: En el caso de centros que sean organismos de Derecho público o entidades privadas que presten servicios públicos, deben realizar una evaluación de impacto relativa a los derechos fundamentales antes de poner el sistema en funcionamiento. Además, el reglamento subraya la importancia de la alfabetización en materia de IA , instando a que los responsables del despliegue garanticen que su personal tenga un nivel de conocimientos suficiente para operar estos sistemas de forma informada y segura. Riesgo limitado y mínimo Se considera que todos los demás sistemas de IA presentan un riesgo limitado , por lo que el Reglamento no introduce más normas. Evaluación y revisión La Comisión evalúa cada año la necesidad de modificar la lista de usos de alto riesgo de la IA y la lista de prácticas prohibidas. Antes del 2 de agosto de 2028 , y cada cuatro años a partir de entonces, la Comisión evaluará e informará sobre lo siguiente: la adición o ampliación de la lista de categorías de alto riesgo. las modificaciones de la lista de sistemas de IA que requieren medidas de transparencia adicional. las modificaciones para mejorar la supervisión y la gobernanza . Entrada en vigor La Ley Europea de Inteligencia Artificial (AI Act) tiene una entrada en vigor gradual . Las fechas clave son: 1 de agosto de 2024 : la ley entra formalmente en vigor tras su publicación en el Diario Oficial de la UE el 12 de julio de 2024. 2 de febrero de 2025 : empiezan a aplicarse las prohibiciones de ciertos usos de IA y las obligaciones de alfabetización en IA . 2 de agosto de 2025 : entran en aplicación las normas para modelos de IA de propósito general (GPAI) y parte del sistema de gobernanza.  2 de agosto de 2026 : la mayor parte de las obligaciones del AI Act empieza a aplicarse y comienza su aplicación general en los Estados miembros. 2 de agosto de 2027 : se aplican los requisitos para algunos sistemas de IA de alto riesgo integrados en productos regulados (por ejemplo, ciertos dispositivos o maquinaria).  Timeline AI Act (María de Mingo+Gemini) En la Plataforma única de información sobre la ley de IA dispones de herramientas para consultar y navegar fácilmente por la ley además de realizar consultas. Para acceder pincha aquí. Aquí puedes consultar también un resumen general de la ley. Resumen La Ley de IA establece requisitos jurídicamente vinculantes para los sistemas de IA y obligaciones para los operadores (incluidos proveedores y desplegadores). Una vez que la AI Act entre plenamente en vigor, las instituciones educativas, cuando sean consideradas usuarias de herramientas de IA de  alto riesgo , podrán basarse en la evaluación de conformidad realizada por el proveedor, al tiempo que deberán cumplir sus propias responsabilidades como desplegadores conforme a la normativa. Para los centros educativos y el profesorado las directrices éticas mencionadas en el capítulo anterior pueden proporcionar una mayor claridad sobre lo que exige la legislación en la práctica cotidiana. Además es importante hacer hincapié en la alfabetización en IA por parte de profesorado y alumnado; puedes recordar y consultar los marcos existentes aquí. Por otro lado, las directrices legales estrictas que los docentes deben conocer para evitar riesgos son: Prácticas prohibidas : Está prohibido el uso de sistemas de IA para inferir o detectar emociones del alumnado en centros educativos, salvo por motivos de seguridad o médicos. Sistemas de alto riesgo : Las herramientas usadas para evaluar resultados de aprendizaje, monitorear el comportamiento en exámenes , determinar admisiones o seguir el progreso del estudiante se consideran de alto riesgo y requieren una supervisión humana y gobernanza de datos muy estricta. Ejemplos concretos en el ámbito educativo En  Orientaciones para integrar la IA en centros educativos del Área de Formación del Profesorado del INTEF  nos proporcionan los siguientes ejemplos: ⚠️ APLICACIÓN DE CORRECCIÓN AUTOMÁTICA DE EXÁMENES : El proveedor de la IA (la empresa que vende, por ejemplo, un software de auto-corrección de exámenes) deberá cumplir ciertos requisitos: entrenar el modelo con datos fiables y no discriminatorios, validar su exactitud, documentar su funcionamiento y pasar una evaluación de conformidad. El centro educativo que lo use tendrá que desplegarlo de forma responsable: seguir las instrucciones de uso, supervisar los resultados y contar con personal preparado para intervenir. Estas herramientas nunca deberían funcionar de modo totalmente autónomo sin supervisión docente. Por ejemplo, un software de IA que califica exámenes tipo test o incluso ensayos escritos (por ejemplo, asignando puntuaciones a redacciones de lengua). Esto es posible y legal, siempre y cuando se haga con supervisión y garantías de equidad. Además, los resultados de la IA no deberían emplearse para asignar calificaciones definitivas ni orientaciones en el aprendizaje.  En la práctica, un profesor podría usar la IA para agilizar la corrección, pero revisando las respuestas donde la IA presente dudas. La IA puede dar un feedback inicial y el docente confirma o ajusta la nota.  ❌ No sería aceptable delegar al 100% la nota final en la IA sin intervención humana. Con un uso adecuado, la corrección automática puede ahorrar tiempo en evaluaciones diarias. Siempre se debe ofrecer al alumnado la posibilidad de revisión humana de sus calificaciones si lo solicita. ⚠️ VIGILANCIA DE EXÁMENES CON IA : Durante la pandemia se popularizaron sistemas de proctoring remoto que usan IA para vigilar exámenes online mediante la cámara del ordenador. Estos programas detectan comportamientos como apartar la mirada constantemente, sonidos ambientales, presencia de otra persona en cámara, etc., y alertan de posible copia.  Bajo la Ley de IA, esta práctica se puede emplear, pero es considerada de alto riesgo, lo que impone condiciones estrictas. Por ejemplo, la empresa proveedora del software debe garantizar que el sistema ha sido entrenado para diferentes características físicas (que no penalice injustamente, por ejemplo, a estudiantes con tics nerviosos o discapacidades) y minimizar falsos positivos. El centro educativo, por su parte, debe informar previamente al alumnado de que se usará esta tecnología y debe haber personal supervisando las alertas de la IA en tiempo real o a posteriori. Es decir, si la IA señala que un estudiante concreto "podría estar copiando”, un supervisor humano debe revisar la grabación o evidencias antes de acusar o sancionar. ❌  No sería aceptable anular automáticamente el examen de un estudiante solo porque la IA lo marcó, sin verificación humana. Además, ciertas funciones están vetadas: por ejemplo, si el proctoring intentara analizar las expresiones faciales del alumno/a para saber si está nervioso o mintiendo, eso entraría en reconocimiento emocional, lo cual está prohibido. Igualmente, grabar continuamente al estudiante es invasivo, por lo que debe valorarse la proporcionalidad y cumplir con protección de datos. En definitiva: la vigilancia inteligente de exámenes es legal, pero bajo mucha cautela. De hecho, varios países de la UE ya han cuestionado estas herramientas por privacidad; el Reglamento refuerza que, de usarse, sea con todas las garantías para el alumno (información, supervisión humana, derecho a réplica). ✅ PERSONALIZACIÓN DEL APRENDIZAJE : Un escenario cada vez más común es usar IA para personalizar materiales educativos. Por ejemplo, un sistema de tutorización inteligente que adapte los ejercicios de matemáticas en función de los aciertos/errores del estudiante, o plataformas de aprendizaje de idiomas que ajustan la dificultad según el progreso. Estas aplicaciones son legales y deseables, ya que pueden mejorar la atención a la diversidad en el aula. No se consideran de alto riesgo si la IA NO utiliza los resultados para orientar el proceso de aprendizaje. porque no están tomando decisiones definitivas sobre el alumnado, sino dando recomendaciones. El profesorado sigue teniendo control sobre el currículo y las evaluaciones formales. ⚠️  El Reglamento impone algunas buenas prácticas: asegurar la transparencia y el conocimiento de la persona usuaria. Si un estudiante interactúa con un chatbot educativo o un tutor virtual, debe quedar claro que es una IA y no un humano real respondiendo. Muchos estudiantes jóvenes podrían pensar que hablan con un “profesor online ”, así que conviene aclararlo (muchas apps ya lo indican en sus términos, ahora será obligación legal hacerlo de forma accesible). Para el profesorado, usar IA en personalización implica revisar de vez en cuando las sugerencias del sistema, asegurarse de que los contenidos son adecuados al currículo oficial y que no introducen sesgos. Como estas herramientas de IA no deciden notas, ni accesos, el Reglamento solo les aplica obligaciones leves (transparencia). De hecho, se las considera de riesgo limitado, sujeto únicamente a informar a las personas usuarias finales que interactúan con IA, como mencionamos. Por tanto, un centro educativo podría implementar, por ejemplo, un asistente de ayuda con los deberes basado en IA sin necesidad de complejos trámites, más allá de cerciorarse de que el proveedor cumple la normativa y de avisar a la comunidad educativa de su uso. Personalizar no está prohibido; lo que activa alto riesgo es cuando el sistema evalúa resultados (o decide/condiciona itinerarios) con efectos relevantes. Entonces toca régimen de alto riesgo. ✅ ANÁLISIS PREDICTIVO DEL RENDIMIENTO : algunos centros educativos podrían usar sistemas de  IA para predecir qué estudiantes necesitan refuerzo, analizando calificaciones previas, asistencias, etc. Siempre que esto se use como ayuda al docente y no para decidir automáticamente decisiones educativas importantes (calificaciones, expulsiones o repeticiones). Sería similar a emplear analítica de datos: identificar patrones para que luego un humano tome acciones pedagógicas. ⚠️  La diferencia clave es si la IA reemplaza una decisión humana importante (no permitido sin cumplir estrictas condiciones) o si solo apoya o informa al humano (permitido). ✅ IA PARA LABORES ADMINISTRATIVAS : En tareas de administración, la IA es muy útil y no presenta mayores conflictos, siempre que se garantice una protección de los datos personales: por ejemplo, usar algoritmos para optimizar horarios de clase, rutas de transporte escolar, gestión de bibliotecas, planificación de espacios, etc., son usos internos que no afectan directamente a los derechos del alumnado. ⚠️  La priorización automática de acceso a apoyos, becas o plazas es alto riesgo. ✅  GENERACIÓN DE MATERIALES : Usar un chatbot (como ChatGPT, Copilot, Gemini o Claude) para crear situaciones de aprendizaje, rúbricas o adaptar textos a diferentes niveles, siempre que el docente sea quien valide el contenido final está totalmente permitido según esta ley. Si es el alumnado el que interactúa con el chatbot , debe estar informado de que está dialogando con un sistema de IA.   ❌ PROHIBIDO EL USO DE CÁMARAS PARA INFERIR EMOCIONES : Un centro educativo NO puede instalar cámaras o micrófonos con IA para inferir estados emocionales del alumnado (atención, motivación, estrés…) con fines disciplinarios o de evaluación, excepto por motivos médicos o de seguridad muy específicos. Por ejemplo, si hubiese una herramienta para detectar signos de depresión o riesgo de autolesión en estudiantes concretos, podría argumentarse un fin médico/seguridad y quizá cabría (habría que ver caso por caso y otras leyes como protección de datos). Como norma general, analizar las emociones de los estudiante con IA para cualquier otro fin educativo es ilegal. Esto protege la intimidad y evita técnicas intrusivas poco fiables. ❌ APLICACIÓN EDUCATIVA CON INFORMACIÓN SUBLIMINAL: El uso de información subliminal o trucos manipuladores ocultos para enganchar a estudiantes en el uso de la aplicación estaría prohibido. Asimismo las aplicaciones que incitan al estudiante a comportarse de forma perjudicial para sí mismo o para otras personas.  El Reglamento introduce obligaciones de información cuando pueda surgir un riesgo por falta de  transparencia en torno al uso de la IA :  - En algunos casos, el resultado de la IA generativa debe estar visiblemente etiquetado, como en el caso de los «deepfakes» y los textos destinados a informar al público sobre asuntos de interés público. - El resultado de la IA generativa debe marcarse como generado por IA de forma legible por máquina. - La IA diseñada para hacerse pasar por humanos (por ejemplo, un «chatbot») debe informar al humano con el que está interactuando. También es obligatorio respetar la legislación de la UE sobre  derechos de autor . Sin embargo, en el ámbito de la protección de datos, la ley ha de complementarse con el Reglamento General de Protección de Datos del que hablaremos a continuación. Protección de datos Tras haber analizado el marco que establece la Ley de Inteligencia Artificial de la Unión Europea (AI Act), es necesario abordar ahora el otro gran pilar normativo que regula el uso de la inteligencia artificial cuando implica el manejo de información personal: el RGPD (Reglamento General de Protección de Datos), que exige consentimiento explícito de uso de datos personales, seguridad de datos, notificaciones de brechas y otorga derechos de acceso, rectificación y supresión de los mismos (derecho al olvido).   En su artículo 8, el RGPD nos habla de las c ondiciones aplicables al consentimiento del niño en relación con los servicios de la sociedad de la información  y dice que  el tratamiento de los datos personales de un niño se considerará lícito cuando tenga como mínimo 16 años . Los Estados miembros podrán establecer por ley una edad inferior a tales fines, siempre que esta no sea inferior a 13 años. En España este reglamento se complementa con la Ley Orgánica de Protección de Datos Personales y garantía de los derechos digitales ( LOPDGDD ), que adapta y desarrolla sus disposiciones en el contexto jurídico nacional. Juntos, estos instrumentos configuran el marco legal fundamental para garantizar que el uso de datos en entornos digitales y educativos respete los derechos y libertades de las personas. Concretamente, en el artículo 92 de esta ley encontramos que: Los centros educativos y cualesquiera personas físicas o jurídicas que desarrollen actividades en las que participen menores de edad garantizarán la protección del interés superior del menor y sus derechos fundamentales, especialmente el derecho a la protección de datos personales , en la publicación o difusión de sus datos personales a través de servicios de la sociedad de la información. Cuando dicha publicación o difusión fuera a tener lugar a través de servicios de redes sociales o servicios equivalentes deberán contar con el consentimiento del menor (si es mayor de 14 años ) o sus representantes legales, conforme a lo prescrito en el artículo 7 de esta ley orgánica. Los  datos personales se refieren a cualquier información relacionada con una persona identificada o identificable. En las directrices éticas de la Comisión Europea, podemos leer que, como responsables del tratamiento, las instituciones educativas deben comunicar de forma clara y accesible cómo procesan los datos personales (artículos 12-15 del RGPD), utilizando un lenguaje conciso y sencillo, especialmente cuando la información está dirigida a menores. El RGPD también exige realizar una evaluación de impacto relativa a la protección de datos (EIPD o DPIA) antes de implementar sistemas , incluidos los de inteligencia artificial, que puedan suponer un alto riesgo para los derechos y libertades de las personas (artículo 35). Según la AEPD (Agencia Española de Protección de Datos), el  responsable del tratamiento de datos son las administraciones educativas en el caso de los centros públicos y los propios centros educativos en los concertados o privados. El profesorado debe utilizar únicamente las aplicaciones, plataformas o servicios autorizados por dicho responsable y adaptar su uso al grado de desarrollo del alumnado. En caso de emplear herramientas o servicios distintos a los establecidos, el profesorado podría asumir la responsabilidad del tratamiento de los datos utilizados. Para más información sobre cuestiones relativas a la privacidad y a la protección de datos de los menores puedes acceder al  Canal Joven de la AEPD . También puedes consultar "Responsabilidades y obligaciones en la utilización de dispositivos digitales móviles en la enseñanza infantil, primaria y secundaria" de la AEPD. Como docentes, debemos saber que cualquier imagen o vídeo donde una persona sea identificable se considera un dato personal , incluso si se modifica o genera mediante inteligencia artificial . Al subir estas imágenes a una plataforma de IA, se produce una  pérdida de control, que limita en la práctica el ejercicio de los derechos de acceso, supresión u oposición: el contenido pasa a manos de una empresa externa que puede conservarlo, crear copias ocultas o utilizarlo para sus propios fines sin que lo sepamos. Este riesgo existe aunque el uso sea puramente lúdico, como crear un avatar o aplicar un filtro, ya que el sistema analiza rasgos físicos y genera metadatos que permanecen en la red. Además de estos riesgos, existen impactos visibles que pueden dañar gravemente a las personas, como la creación de escenas falsas que parecen reales, la suplantación de identidad o la generación de contenido íntimo sintético. El nivel de precaución debe ser máximo al trabajar con  menores de edad , ya que una imagen aparentemente inocente procesada por IA puede derivar en situaciones de acoso, estigmatización o daños psicológicos en el entorno escolar. Es fundamental entender que tener acceso a una foto no da permiso para transformarla con herramientas digitales. La protección de la privacidad de los estudiantes debe ser siempre la prioridad, por ello profundizaremos un poco más y hablaremos del Derecho de imagen en la próxima página. Derecho de imagen El derecho a la propia imagen está regulado por la Ley Orgánica 1/1982, de 5 de mayo, de Protección Civil del Derecho al Honor, a la Intimidad Personal y Familiar, y a la Propia Imagen. Toda persona tiene derecho a decidir sobre la utilización que se hace de su imagen . La imagen en el que una persona es identificada o identificable es un dato personal. Como dice GVA , en el mundo actual, los derechos de imagen han tomado otra dimensión, y en consecuencia, tienen una gran importancia por las razones que se enumeran a continuación: Protección de la privacidad . En un mundo en el que las imágenes y los vídeos se comparten y distribuyen con facilidad a través de las redes sociales y otros medios de comunicación, los derechos de imagen son esenciales para proteger la privacidad de las personas. Permiten a los individuos controlar el uso de su imagen y evitar su explotación sin su consentimiento . Protección de la reputación . Estos derechos también son importantes para proteger la reputación de las personas. Si una imagen se utiliza de manera inapropiada o engañosa, puede afectar negativamente a su reputación. En estos casos, permiten a las personas tomar medidas legales para proteger su reputación y evitar la difusión de información falsa o engañosa. La IA y el derecho de imagen (María de Mingo+Gemini) Como docentes es fundamental comprender que el  derecho a la imagen protege no solo el aspecto físico, sino también la voz, el nombre y cualquier rasgo identificativo de una persona. Al ser considerada un  dato personal , la ley prohíbe captar, difundir o utilizar la imagen de alguien sin su consentimiento expreso , lo que significa que cada persona tiene el poder total de decidir si permite o no que se tome su foto o vídeo dentro o fuera del entorno educativo. Este derecho es permanente y debe respetarse siempre, ya que permite a cada individuo controlar el uso, difusión o publicación de su propia identidad. Como dice LeGardon , todas las personas podemos decidir  si autorizamos o no que nuestra imagen sea tomada por un tercero. Se trata de un derecho imprescriptible que incluso las personas herederas pueden ejercer tras el fallecimiento de la persona titular del derecho de imagen, en lo referente a su “memoria”.   En el caso de los menores de edad , la protección es máxima y se exige siempre la autorización por escrito de los padres o tutores legales , pudiendo intervenir incluso la Fiscalía de Menores para asegurar su protección. Cualquier permiso otorgado puede ser revocado en cualquier momento ; si una familia decide cambiar de opinión, la imagen debe dejar de usarse y ser retirada, aunque esto podría conllevar el pago de daños si la imagen ya forma parte de materiales editados. Existen excepciones muy limitadas, como cuando la imagen es secundaria en una noticia relevante o se trata de cargos públicos en actos abiertos, pero estas nunca permiten el uso de la imagen para burlas o con fines comerciales sin permiso.   Subir, reenviar a plataformas, redes o sistemas de IA, transformar o generar contenidos visuales a partir de la imagen de una persona supone un tratamiento de datos personales, con independencia de la finalidad perseguida o del carácter aparentemente trivial del uso.  En este mismo sentido y entendiendo que el derecho a la imagen protege cualquier rasgo identificativo de una persona, tal como dice la AEPD en su documento " Criterios para el tratamiento de datos personales en centros educativos ", el profesorado debe prestar especial atención a los  contenidos de los trabajos de clase que se publican o comparten en servicios digitales, utilizando únicamente los medios validados por el responsable del tratamiento de datos.   Asimismo, debería transmitir esta misma prudencia al alumnado , enseñándole el valor de la privacidad propia y ajena , y recordando que no se deben realizar fotografías o vídeos de otros alumnos, profesores u otro personal del centro sin su consentimiento, y mucho menos difundirlos en redes sociales, para evitar riesgos de violencia digital como el ciberacoso, el grooming, el sexting o la violencia de género. En relación con esta protección, la Ley Orgánica 8/2021 de protección integral a la infancia y la adolescencia frente a la violencia (LOPIVI) establece que todos los centros educativos en los que estudien menores de edad deben contar con una persona coordinadora de bienestar y protección del alumnado que, bajo la supervisión de la dirección del centro, promoverá la comunicación de las situaciones que impliquen un tratamiento ilícito de datos a las autoridades de protección de datos (artículo 35.1). Además, en la Guía para el uso de IA generativa en educación e investigación de la UNESCO(2024) se ha señalado que los GPTs pueden contravenir leyes como el Reglamento General de Protección de Datos de la Unión Europea (2016) o GDPR, especialmente el derecho de las personas a ser olvidadas, dado que actualmente es imposible eliminar los datos de alguien (o los resultados de esos datos) de un modelo GPT una vez que ha sido entrenado. Conviene recordar que también son datos personales los resultados académicos del alumnado y su número del expediente académico. Recomendamos encarecidamente la lectura de " El uso de imágenes de terceros en sistemas de inteligencia artificial y sus riesgos visibles e invisibles " (2026) de la AEPD. Puedes acceder pinchando aquí .