El derecho a la explicación algorítmica
Cuando un sistema de IA influye en una decisión que te afecta, tienes derecho a entender cómo llegó a esa conclusión. En el ámbito judicial, esto es especialmente crítico.
Marco normativo
- RGPD art. 22: derecho a no ser objeto de decisiones automatizadas con efectos jurídicos
- EU AI Act: obligación de transparencia para sistemas de alto riesgo
- Art. 24 CE: tutela judicial efectiva (incluye derecho a conocer los fundamentos)
- LOPJ art. 248.3: las sentencias deben contener los fundamentos de derecho
Niveles de transparencia
- Transparencia de uso: informar de que se usa IA (mínimo exigible)
- Transparencia de proceso: explicar qué datos usa y cómo los procesa
- Transparencia de resultado: justificar por qué llegó a una conclusión concreta
- Transparencia del modelo: acceso al código y datos de entrenamiento (máximo)
Registros de uso de IA (audit logs)
Todo sistema de IA judicial debe mantener:
- Qué herramienta se usó y cuándo
- Qué consulta se realizó
- Qué resultado devolvió
- Qué decisión tomó el juez finalmente
- Si la decisión coincidió o difirió del output de la IA
Mecanismos de impugnación
Las partes pueden impugnar el uso de IA si:
- No se les informó de su uso
- El sistema no está auditado o certificado
- Existen indicios de sesgo
- La motivación depende excesivamente del output algorítmico
- No hay posibilidad de contradicción sobre los datos de entrada