Transparencia algorítmica en el ámbito judicial

El derecho a la explicación algorítmica

Cuando un sistema de IA influye en una decisión que te afecta, tienes derecho a entender cómo llegó a esa conclusión. En el ámbito judicial, esto es especialmente crítico.

Marco normativo

• RGPD art. 22: derecho a no ser objeto de decisiones automatizadas con efectos jurídicos
• EU AI Act: obligación de transparencia para sistemas de alto riesgo
• Art. 24 CE: tutela judicial efectiva (incluye derecho a conocer los fundamentos)
• LOPJ art. 248.3: las sentencias deben contener los fundamentos de derecho

Niveles de transparencia

1. Transparencia de uso: informar de que se usa IA (mínimo exigible)
2. Transparencia de proceso: explicar qué datos usa y cómo los procesa
3. Transparencia de resultado: justificar por qué llegó a una conclusión concreta
4. Transparencia del modelo: acceso al código y datos de entrenamiento (máximo)

Registros de uso de IA (audit logs)

Todo sistema de IA judicial debe mantener:

• Qué herramienta se usó y cuándo
• Qué consulta se realizó
• Qué resultado devolvió
• Qué decisión tomó el juez finalmente
• Si la decisión coincidió o difirió del output de la IA

Mecanismos de impugnación

Las partes pueden impugnar el uso de IA si:

• No se les informó de su uso
• El sistema no está auditado o certificado
• Existen indicios de sesgo
• La motivación depende excesivamente del output algorítmico
• No hay posibilidad de contradicción sobre los datos de entrada