El Reglamento Europeo de Inteligencia Artificial
El EU AI Act (Reglamento 2024/1689) es la primera legislación integral sobre IA del mundo. Clasifica los sistemas de IA por niveles de riesgo.
Clasificación de riesgo
- Riesgo inaceptable (prohibidos): manipulación subliminal, puntuación social, identificación biométrica remota en tiempo real en espacios públicos
- Alto riesgo (Anexo III): incluye sistemas usados en la administración de justicia
- Riesgo limitado: chatbots (obligación de transparencia)
- Riesgo mínimo: la mayoría de aplicaciones de IA
Anexo III: la justicia como alto riesgo
El Anexo III incluye expresamente los sistemas de IA usados para:
- Asistir a autoridades judiciales en la investigación de hechos y derecho
- Aplicar la ley a casos concretos
- Influir en el resultado de elecciones o referéndums
Esto significa que cualquier herramienta de IA usada por un tribunal para asistir en sentencias, analizar jurisprudencia o evaluar riesgos procesales entra en la categoría de alto riesgo.
Obligaciones para sistemas de alto riesgo
- Sistema de gestión de riesgos documentado
- Datos de entrenamiento de alta calidad y representativos
- Registro y trazabilidad de las decisiones
- Transparencia: información clara sobre cómo funciona
- Supervisión humana efectiva
- Precisión, robustez y ciberseguridad
Plazos de aplicación
- Febrero 2025: prohibiciones de riesgo inaceptable
- Agosto 2025: obligaciones para modelos de propósito general
- Agosto 2026: plena aplicación del Anexo III (alto riesgo)