Los sistemas de valoración del riesgo de reincidencia llevan años operando en el sistema penitenciario español —y en otros ordenamientos de nuestro entorno— sin que el derecho procesal haya dado una respuesta satisfactoria a la pregunta fundamental: ¿puede un juez motivar su decisión remitiendo a la puntuación que arroja una caja negra algorítmica?
La irrupción de los sistemas de inteligencia artificial en el proceso penal no ha seguido la vía espectacular de la ciencia ficción —un juez robot que dicta sentencias—, sino el camino, mucho más discreto y por ello más inquietante, de los informes periciales algorítmicos: herramientas que asignan una puntuación de riesgo a un acusado, y que los operadores jurídicos incorporan a su razonamiento decisorio con frecuencia creciente y, muchas veces, con escasa reflexión crítica.
En España, el ejemplo más relevante lo ofrece el sistema penitenciario catalán, que emplea desde hace más de una década la herramienta RisCanvi para evaluar el riesgo de violencia y reincidencia de los internos. A nivel internacional, el sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), utilizado en numerosos estados de Estados Unidos, se convirtió en referencia del debate académico global tras el caso State v. Loomis (Tribunal Supremo de Wisconsin, 2016), en el que la constitucionalidad de su uso fue cuestionada y —en una decisión muy controvertida— confirmada. La cuestión, lejos de resolverse, ha migrado a Europa con la adopción del AI Act y la STS 847/2025.
Este artículo examina el estado del derecho español y europeo ante esta realidad, con especial atención a la doctrina establecida por la Sala Segunda del Tribunal Supremo en la sentencia de referencia y a las reformas procesales que, a juicio del autor, resultan imprescindibles para compatibilizar el uso de estas herramientas con los derechos fundamentales garantizados por la Constitución y el Convenio Europeo de Derechos Humanos.
Los sistemas de valoración del riesgo de reincidencia —conocidos en la literatura anglosajona como risk assessment instruments (RAI)— son herramientas estadísticas que, a partir de un conjunto de variables individuales y sociodemográficas del sujeto, generan una puntuación que pretende estimar la probabilidad de que dicho sujeto cometa nuevos delitos en un horizonte temporal determinado. Su uso en el sistema de justicia penal puede afectar a decisiones sobre prisión preventiva, suspensión de condena, tercer grado penitenciario, libertad condicional o permisos de salida.
COMPAS, desarrollado por la empresa Northpointe (hoy Equivant), pondera 137 variables agrupadas en factores estáticos (antecedentes penales, edad del primer delito) y dinámicos (situación laboral, entorno social, actitudes). El sistema produce varias puntuaciones de riesgo en una escala de 1 a 10. Su arquitectura es propietaria —el algoritmo específico de ponderación no es público—, lo que ha generado un intenso debate sobre la posibilidad de impugnación por parte de los condenados. Un análisis publicado por ProPublica en 2016 evidenció que COMPAS sobreestimaba el riesgo de reincidencia de acusados afroamericanos y subestimaba el de acusados blancos, reavivando el debate sobre el sesgo algorítmico en el sistema penal.
RisCanvi, desarrollado en colaboración entre el Departament de Justícia de la Generalitat de Catalunya y la Universitat de Barcelona, evalúa el riesgo de violencia y reincidencia de los internos del sistema penitenciario catalán. A diferencia de COMPAS, su metodología es pública y ha sido validada en estudios independientes publicados en revistas de criminología con revisión por pares. Pondera 45 ítems organizados en factores de riesgo dinámico y estático, con seguimiento longitudinal de su capacidad predictiva. No obstante, incluso en su versión más transparente, el sistema presenta limitaciones estadísticas inherentes: predice sobre poblaciones, no sobre individuos, y su tasa de error —falsos positivos y falsos negativos— es sustancial en cualquier escenario.
El problema del falso positivo en el contexto penal
Cuando un sistema de valoración del riesgo clasifica a un individuo como de "alto riesgo de reincidencia", está, en realidad, afirmando que pertenece a un grupo estadístico con mayor tasa histórica de reincidencia. La predicción no es individual sino actuarial. Si el sistema tiene una precisión del 70%, eso significa que, de cada 10 sujetos clasificados como de alto riesgo, 3 no reincidirán. Una decisión de denegación de tercer grado basada en esa puntuación impone una restricción de libertad adicional a 3 de cada 10 sujetos que no merecen esa clasificación. Este error de falso positivo —invisible en el razonamiento judicial cuando este se limita a citar la puntuación— plantea un problema de proporcionalidad y de presunción de inocencia de primer orden.
El art. 120.3 de la Constitución Española establece que «las sentencias serán siempre motivadas». Este mandato constitucional no es un requisito formal de estilo retórico, sino una garantía sustancial que el Tribunal Constitucional ha vinculado directamente al derecho a la tutela judicial efectiva del art. 24.1 CE (por todas, STC 14/1991, de 28 de enero). La motivación exige que la resolución exponga las razones de hecho y de derecho que llevan al tribunal a su conclusión, de forma que el justiciable pueda conocer el fundamento de la decisión que le afecta y el tribunal superior pueda controlar su corrección en vía de recurso.
Cuando la decisión judicial se apoya, en todo o en parte, en la puntuación generada por un sistema algorítmico de valoración del riesgo, el cumplimiento de este mandato constitucional enfrenta un obstáculo estructural: si el propio sistema es opaco —si ni el juez, ni las partes, ni el tribunal de apelación pueden conocer las razones concretas por las que el algoritmo asignó al sujeto una puntuación determinada—, la motivación que se remite a esa puntuación incorpora en su seno una black box que bloquea el control racional de la decisión.
La doctrina constitucional exige una motivación reforzada en aquellas resoluciones que acuerdan o mantienen restricciones de la libertad personal (STC 128/1995; STC 47/2000). Esta exigencia de motivación reforzada resulta incompatible, por definición, con el recurso a un sistema cuyo razonamiento interno es inaccesible. No basta con decir que "el informe RisCanvi atribuye al penado una puntuación de 7,2 sobre 10 en el factor de riesgo de violencia": es preciso explicar por qué ese resultado, producido por esas variables ponderadas de ese modo, resulta atendible en el caso concreto y es jurídicamente suficiente para justificar la medida.
La Sala de lo Penal del Tribunal Supremo dictó el 18 de noviembre de 2025 la sentencia 847/2025 (ponente: Excmo. Sr. D. Francisco Vázquez-Montoya), resolviendo un recurso de casación interpuesto por un interno del Centro Penitenciario de Quatre Camins contra el auto de la Audiencia Provincial de Barcelona que denegaba su progresión a tercer grado penitenciario, con fundamento principal en el informe RisCanvi emitido por los servicios de tratamiento.
Los hechos procesalmente relevantes eran los siguientes: el interno, condenado por delito de lesiones graves, había cumplido dos tercios de su condena, tenía actividad laboral reglada en el interior del centro, carecía de expedientes disciplinarios en los últimos dos años, y contaba con un informe favorable del equipo de tratamiento penitenciario. No obstante, la Audiencia Provincial confirmó la denegación del tercer grado citando explícitamente la puntuación de riesgo elevada obtenida en la dimensión de "violencia futura" del instrumento RisCanvi.
El Tribunal Supremo estimó el recurso y anuló el auto recurrido, estableciendo la siguiente doctrina: (i) los informes de valoración algorítmica del riesgo pueden ser utilizados como elemento de juicio en las decisiones sobre régimen penitenciario, siempre que no sean el único o determinante fundamento de la resolución; (ii) el juez de vigilancia penitenciaria y el tribunal que revise su decisión deben motivar de forma autónoma, con criterios jurídicos propios, la conclusión que extraen del conjunto de evidencias disponibles, sin que la remisión a la puntuación algorítmica satisfaga por sí sola el mandato del art. 120.3 CE; (iii) el interno tiene derecho a conocer los factores concretos que han determinado la puntuación asignada por el sistema y a impugnarlos mediante prueba contradictoria; (iv) la denegación de acceso a los elementos del informe algorítmico relevantes para la defensa vulnera el derecho a la tutela judicial efectiva del art. 24 CE en su vertiente de derecho a utilizar los medios de prueba pertinentes.
El art. 24.1 CE garantiza el derecho a obtener la tutela efectiva de los jueces y tribunales en el ejercicio de derechos e intereses legítimos, sin que en ningún caso pueda producirse indefensión. El art. 24.2 CE reconoce, dentro del proceso penal, el derecho a ser informado de la acusación, a no declarar contra sí mismo, a la presunción de inocencia y a utilizar los medios de prueba pertinentes para la defensa.
La explicabilidad algorítmica —la capacidad de un sistema de IA de proporcionar una explicación comprensible de sus outputs— no es un concepto jurídico surgido del derecho constitucional español, sino un requisito técnico y regulatorio proveniente del derecho de la IA. Sin embargo, la STS 847/2025 establece un puente entre ambos planos: la inexplicabilidad de un sistema algorítmico que afecta de forma relevante a una decisión sobre libertad personal se convierte en indefensión constitucionalmente prohibida cuando priva al acusado o al penado de la posibilidad real de impugnar el fundamento de esa decisión.
Esta doctrina exige, en la práctica, que los sistemas de valoración del riesgo utilizados en el proceso penal español sean, al menos, explicables en sus variables relevantes. Ello no requiere necesariamente la publicación del código fuente ni la divulgación de los pesos exactos del modelo —cuestiones que pueden quedar amparadas por el secreto empresarial—, pero sí la identificación de los factores que han determinado la puntuación individual del sujeto y de la dirección en que cada factor ha contribuido al resultado.
El Tribunal Europeo de Derechos Humanos abordó tangencialmente la cuestión de los algoritmos predictivos en el proceso penal en Corbet y otros c. Francia (TEDH, 19 de enero de 2021), donde señaló que el derecho a un proceso equitativo del art. 6 CEDH exige que las partes puedan conocer y contradecir los elementos de prueba que influyen en la decisión judicial, incluidos aquellos de naturaleza técnica. Aunque el asunto no versaba directamente sobre IA, la Sala estableció el principio de que la opacidad técnica de un instrumento pericial no puede amparar la indefensión del acusado.
Más directamente relevante es la jurisprudencia del TJUE en materia de decisiones automatizadas bajo el art. 22 RGPD. En Schufa Holding (C-634/21, sentencia de 7 de diciembre de 2023), el TJUE declaró que una puntuación de solvencia crediticia calculada por un sistema automatizado constituye una "decisión basada únicamente en tratamiento automatizado" en el sentido del art. 22 RGPD cuando el organismo que la utiliza le concede un peso determinante en su decisión. Este razonamiento es trasladable, mutatis mutandis, a las decisiones judiciales o administrativas penales que otorguen peso determinante a una puntuación algorítmica de riesgo.
El Reglamento (UE) 2024/1689 clasifica expresamente los «sistemas de IA utilizados por o en nombre de autoridades policiales para realizar evaluaciones individuales del riesgo que presenten las personas físicas de ser víctimas de delitos o cometer delitos» en el Anexo III, punto 6.b, como sistemas de IA de alto riesgo. Esta clasificación genera un conjunto de obligaciones que recaen sobre los proveedores y desplegadores de dichos sistemas.
| Obligación (AI Act) | Artículo | Implicación para sistemas de valoración del riesgo penal |
|---|---|---|
| Sistema de gestión de riesgos | Art. 9 | El proveedor debe identificar y mitigar los riesgos de sesgo, discriminación y errores sistemáticos del modelo |
| Gobernanza de datos | Art. 10 | Los datos de entrenamiento deben ser representativos y libres de sesgos que puedan producir resultados discriminatorios |
| Documentación técnica | Art. 11 | Documentación completa del sistema accesible a las autoridades de supervisión |
| Trazabilidad (logging) | Art. 12 | Registro automático de los eventos relevantes, incluyendo las puntuaciones individuales generadas |
| Transparencia e información | Art. 13 | El desplegador debe informar a los afectados del uso del sistema y sus características principales |
| Supervisión humana | Art. 14 | La decisión final debe adoptarla siempre un ser humano con capacidad de anular el output del sistema |
| Precisión y solidez | Art. 15 | El sistema debe estar validado con métricas de precisión publicadas, diferenciadas por grupos demográficos |
La plena aplicación de estas obligaciones a partir del 2 de agosto de 2026 obligará a las administraciones penitenciarias que utilizan sistemas como RisCanvi —y a los órganos jurisdiccionales que los emplean en sus decisiones— a revisar sus protocolos de uso y a garantizar que los afectados tienen acceso a la información relevante sobre el funcionamiento del sistema que les ha sido aplicado.
La doctrina de la STS 847/2025 es un punto de partida jurisprudencial valioso, pero insuficiente sin el respaldo de reformas legislativas que garanticen el ejercicio efectivo del derecho de contradicción frente a los sistemas algorítmicos de valoración del riesgo. Desde la perspectiva procesal, las reformas prioritarias son las siguientes:
La Ley de Enjuiciamiento Criminal no contempla un régimen específico para los informes periciales producidos por sistemas de IA. Es necesario incorporar una disposición que establezca: (i) la obligación de identificar en el informe el sistema de IA utilizado y su versión; (ii) el derecho de las partes a solicitar la documentación técnica del sistema relevante para su impugnación; (iii) la posibilidad de designar un perito contradictor especializado en sistemas de IA cuando la parte carezca de los recursos técnicos para impugnar el informe por sus propios medios; (iv) la carga de la prueba sobre el proponente del informe respecto a la validez y ausencia de sesgo del sistema utilizado.
El Consejo General del Poder Judicial debe aprobar un protocolo que regule las condiciones en que los órganos jurisdiccionales pueden incorporar a sus resoluciones los resultados de sistemas algorítmicos de valoración del riesgo, estableciendo: los criterios mínimos de transparencia y validación que deben reunir los sistemas aceptables, el modo en que deben citarse y ponderarse en la motivación, y el procedimiento de impugnación disponible para las partes.
La asimetría técnica entre el sistema —respaldado por los recursos de la administración penitenciaria o policial— y el acusado o penado exige extender la asistencia jurídica gratuita al peritaje técnico en materia de IA cuando este sea necesario para impugnar un informe algorítmico que ha influido de forma relevante en una decisión que afecta a la libertad personal. La Ley 1/1996 de Asistencia Jurídica Gratuita debe adaptarse expresamente a esta nueva categoría de prueba técnica.
El modelo francés: la loi du 23 mars 2019
Francia incorporó en 2019 una disposición en su Código de Organización Judicial (art. L.111-3-1) que prohíbe expresamente la identificación o evaluación individualizada de los jueces o de los patrones de decisión judicial mediante el procesamiento masivo de datos. Esta norma, aunque orientada a proteger la independencia judicial frente al análisis externo, anticipa el tipo de restricciones que algunos ordenamientos están comenzando a imponer al uso de IA en el proceso. España carece de una disposición equivalente.
Doctrina, jurisprudencia y práctica forense sobre IA y Derecho en su bandeja de entrada, cada lunes.
Suscribirse al boletín