Directrices del CGPJ sobre IA

El CGPJ y la inteligencia artificial

El Consejo General del Poder Judicial (CGPJ) ha establecido un marco de principios para el uso de IA en la justicia española, alineado con la Carta Ética Europea sobre el uso de IA en sistemas judiciales (CEPEJ, 2018).

Principios fundamentales (CEPEJ)

1. Respeto de los derechos fundamentales: la IA no puede menoscabar garantías procesales
2. No discriminación: prevención activa de sesgos
3. Calidad y seguridad: datos y modelos verificados
4. Transparencia: los ciudadanos deben saber cuándo se usa IA
5. Control por el usuario: el juez mantiene el control final

Posición del CGPJ

El CGPJ ha publicado varios documentos clave:

• Guía de uso de IA generativa (2024): permite su uso como herramienta de apoyo, nunca como sustituto del juicio humano
• Plan de transformación digital: incluye IA como eje estratégico
• Formación obligatoria: programas de capacitación en IA para jueces y magistrados

Líneas rojas

• La IA no puede dictar sentencias ni resoluciones
• La IA no puede sustituir la valoración de la prueba
• La IA no puede usarse sin conocimiento de las partes
• El juez siempre debe poder explicar su decisión sin depender de la IA

Usos permitidos y recomendados

• Búsqueda y análisis de jurisprudencia
• Resúmenes de expedientes voluminosos
• Detección de expedientes similares
• Cálculo de indemnizaciones (orientativo)
• Gestión de agenda y señalamientos