EU AI Act y el ámbito judicial

El Reglamento Europeo de Inteligencia Artificial

El EU AI Act (Reglamento 2024/1689) es la primera legislación integral sobre IA del mundo. Clasifica los sistemas de IA por niveles de riesgo.

Clasificación de riesgo

1. Riesgo inaceptable (prohibidos): manipulación subliminal, puntuación social, identificación biométrica remota en tiempo real en espacios públicos
2. Alto riesgo (Anexo III): incluye sistemas usados en la administración de justicia
3. Riesgo limitado: chatbots (obligación de transparencia)
4. Riesgo mínimo: la mayoría de aplicaciones de IA

Anexo III: la justicia como alto riesgo

El Anexo III incluye expresamente los sistemas de IA usados para:

• Asistir a autoridades judiciales en la investigación de hechos y derecho
• Aplicar la ley a casos concretos
• Influir en el resultado de elecciones o referéndums

Esto significa que cualquier herramienta de IA usada por un tribunal para asistir en sentencias, analizar jurisprudencia o evaluar riesgos procesales entra en la categoría de alto riesgo.

Obligaciones para sistemas de alto riesgo

• Sistema de gestión de riesgos documentado
• Datos de entrenamiento de alta calidad y representativos
• Registro y trazabilidad de las decisiones
• Transparencia: información clara sobre cómo funciona
• Supervisión humana efectiva
• Precisión, robustez y ciberseguridad

Plazos de aplicación

• Febrero 2025: prohibiciones de riesgo inaceptable
• Agosto 2025: obligaciones para modelos de propósito general
• Agosto 2026: plena aplicación del Anexo III (alto riesgo)