Skip to main content

4.1 Reglamento Europeo IA

Introducción

El pilar central de la normativa europea es el Reglamento (UE) 2024/1689, conocido como la Ley de Inteligencia Artificial (AI Act). Este documento, publicado en el Diario Oficial de la Unión Europea el 12 de julio de 2024, representa la primera ley integral sobre IA en el mundo y establece las reglas de juego para cualquier sistema que se comercialice o utilice en territorio comunitario.

Tiene por objeto fomentar el desarrollo y la adopción de sistemas de IA seguros y fiables en todo el mercado único de la Unión Europea, tanto en el sector privado como en el público, garantizando al mismo tiempo la salud y la seguridad de los ciudadanos de la UE y el respeto de los derechos fundamentales.

Aunque ya ha ido apareciendo a lo largo de los capítulos de este curso, es necesario hacer zoom out y conocer al menos algunas cuestiones clave sobre el mismo.

Niveles de Riesgo

En este Reglamento se establece una clasificación de los sistemas de IA en función del riesgo que suponen para la sociedad. Para la formación docente, es imperativo desglosar cómo este reglamento clasifica los sistemas de IA, ya que la educación ha sido designada como un ámbito de "alto riesgo" en algunos de sus puntos. Cuanto mayor sea el riesgo de causar daños a la sociedad, más estrictas serán las normas, culminando con la prohibición en aquellos casos que hayan sido clasificados como riesgo inadmisible o inaceptable. 

 

piramide.png

Pirámide AI Act - Niveles de riesgo

Riesgo inadmisible

Todos los sistemas de IA considerados una clara amenaza para la seguridad, los medios de subsistencia y los derechos de las personas son clasificados como Riesgo inadmisible y están prohibidos. La Ley de IA prohíbe ocho prácticas, que la S.E. de Digitalización y e IA detalla así:

  1. Manipulación y engaño perjudiciales basados en la IA
  2. Explotación nociva de vulnerabilidades basada en la IA
  3. Puntuación social
  4. Evaluación o predicción del riesgo de infracción penal individual
  5. Raspado no selectivo de Internet o material de CCTV para crear o ampliar bases de datos de reconocimiento facial
  6. Reconocimiento de emociones en lugares de trabajo e instituciones educativas
  7. Categorización biométrica para deducir determinadas características protegidas
  8. Identificación biométrica remota en tiempo real con fines policiales en espacios de acceso público

Educación - Alto riesgo

La designación de la educación como sector de alto riesgo se debe a que las decisiones tomadas por una IA en este ámbito pueden determinar el curso de la vida profesional y personal de un individuo. Los sistemas de IA utilizados para evaluar el comportamientoproceso de aprendizaje, determinar el acceso a niveles y centros educativos y para detectar comportamientos prohibidos por parte del alumnado o para influir en laslos decisiones de admisiónexámenes, deben cumplir con los requisitos estipulados en los artículos 8 al 17 de la ley, es decir, están sujetos a obligaciones estrictas antes de que incluyenpuedan comercializarse:

  • Sistemas adecuados de evaluación y mitigación de riesgos
  • Alta calidad de los conjuntos de datos que alimentan el sistema para minimizar los riesgos de resultados discriminatorios
  • Registro de la creaciónactividad para garantizar la trazabilidad de unlos resultados
  • Documentación detallada que proporcione toda la información necesaria sobre el sistema dey gestiónsu finalidad para que las autoridades evalúen su cumplimiento
  • Información clara y adecuada al implementador
  • Medidas adecuadas de calidadsupervisión humana
  • Alto nivel de robustez, ciberseguridad y laprecisión
    • documentación técnica exhaustiva.

alto riesgo.png

Casos alto riesgo en Educación y FP 

 

En cuanto a la protección de los derechos fundamentales y el uso de sistemas de IA de alto riesgo, la Ley IA dice que:

Antes de que un sistema de IA de alto riesgo sea desplegado por entidades que prestan servicios públicos, debe evaluarse su impacto sobre los derechos fundamentales. Los sistemas de IA de alto riesgo y las entidades que los utilicen deben registrarse en una base de datos de la UE (agosto 2027).

Además, otros puntos destacables de la ley que hemos mencionado anteriormente son:

  • Prohibición del reconocimiento de emociones en el trabajo y en las escuelas.
  • Respetar la legislación de la UE sobre derechos de autor.
  • Imágenes, audio o vídeo artificiales o manipuladas deberán etiquetarse como tales.
  • Publicar resúmenes detallados del contenido usado para entrenar sus modelos.

CRONOLOGÍA DE ENTRADA EN VIGOR INFOGRAFÍA

La Ley Europea de Inteligencia Artificial (AI Act) tiene una entrada en vigor gradual. Las fechas clave son:

  • 1 de agosto de 2024: la ley entra formalmente en vigor tras su publicación en el Diario Oficial de la UE. 

  • 2 de febrero de 2025: empiezan a aplicarse las prohibiciones de ciertos usos de IA y las obligaciones de alfabetización en IA.

  • 2 de agosto de 2025: entran en aplicación las normas para modelos de IA de propósito general (GPAI) y parte del sistema de gobernanza. 

  • 2 de agosto de 2026: la mayor parte de las obligaciones del AI Act empieza a aplicarse y comienza su aplicación general en los Estados miembros.

  • 2 de agosto de 2027: se aplican los requisitos para algunos sistemas de IA de alto riesgo integrados en productos regulados (por ejemplo, ciertos dispositivos o maquinaria). 

Evaluación y revisión

La Comisión evalúa cada año la necesidad de modificar la lista de usos de alto riesgo de la IA y la lista de prácticas prohibidas. Antes del , y cada cuatro años a partir de entonces, la Comisión evaluará e informará sobre lo siguiente:

  • la adición o ampliación de la lista de categorías de alto riesgo.
  • las modificaciones de la lista de sistemas de IA que requieren medidas de transparencia adicional.
  • las modificaciones para mejorar la supervisión y la gobernanza.

En la Plataforma única de información sobre la ley de IA dispones de herramientas para consultar y navegar fácilmente por la ley además de realizar consultas. Para acceder pincha aquí.

Aquí puedes consultar también un resumen general de la ley.

Sin embargo, en el ámbito de la protección de datos, la ley ha de complementarse con el Reglamento General de Protección de Datos del que hablaremos a continuación.


Back to top