Manuel Angel Nicolas Cuevas
Una reflexión sobre inteligencia artificial, evaluación del riesgo, predicción criminal y la necesidad de recuperar la pregunta criminológica antes de convertirla en algoritmo.
Riesgo, predicción criminal y límites del uso de algoritmos en criminología
Durante los últimos años hemos asistido a una expansión extraordinaria de los sistemas capaces de clasificar información, detectar patrones, generar hipótesis, procesar grandes volúmenes de datos y producir estimaciones probabilísticas. La policía, los tribunales, las instituciones penitenciarias, la investigación criminal y los sistemas de evaluación del riesgo están incorporándose progresivamente a este debate. Una revisión sistemática publicada en 2026 muestra precisamente que la inteligencia artificial está siendo estudiada en ámbitos tan diversos como la detección de patrones delictivos, el predictive policing, el análisis de redes criminales y diferentes aplicaciones judiciales y penitenciarias (Farber, 2026).
El National Institute of Justice estadounidense ha señalado asimismo aplicaciones potenciales de la IA generativa que van desde tareas administrativas, traducción y transcripción hasta funciones de investigación y apoyo a la decisión. Su informe de 2025 insiste, sin embargo, en que la adopción de estas herramientas debe considerar sus beneficios, limitaciones y condiciones de utilización (Criminal Justice Technology Testing and Evaluation Center, 2025).
La cuestión, por tanto, ya no consiste únicamente en preguntarnos si la inteligencia artificial tendrá relación con la criminología.
La pregunta más difícil es otra:
¿qué relación queremos construir entre ambas?
El problema comienza cuando confundimos capacidad de cálculo con capacidad de explicación.
Un algoritmo puede encontrar asociaciones que un investigador difícilmente advertiría examinando manualmente miles o millones de registros. Puede clasificar, comparar, detectar recurrencias e incluso estimar determinadas probabilidades. Pero que una máquina encuentre un patrón no significa necesariamente que ese patrón explique un fenómeno criminológico.
Y mucho menos significa que permita afirmar con certeza qué hará una persona concreta en el futuro.
Por eso considero que uno de los debates decisivos para la criminología contemporánea no será simplemente cuánto puede hacer la inteligencia artificial, sino qué estamos autorizando epistemológicamente a que haga en nombre de la criminología.
Y esa pregunta nos devuelve a algo mucho más antiguo que cualquier algoritmo:
la necesidad de definir correctamente aquello que pretendemos observar.
La criminología ante una tecnología capaz de encontrar patrones donde nosotros apenas vemos datos
La incorporación de inteligencia artificial al sistema de justicia penal no pertenece ya al terreno de la ciencia ficción. El desarrollo actual alcanza tareas de análisis, clasificación, apoyo a la investigación y procesamiento de información que hace apenas unos años requerían una enorme cantidad de trabajo humano.
El atractivo resulta comprensible.
La criminología trabaja con fenómenos complejos y multicausales. En un mismo acontecimiento pueden intervenir variables individuales, sociales, económicas, situacionales, relacionales, ambientales o institucionales. Los métodos computacionales ofrecen la posibilidad de estudiar simultáneamente una cantidad de información difícilmente manejable mediante procedimientos tradicionales.
Richard Berk ya analizó ampliamente el empleo del machine learning para la predicción del riesgo dentro de la justicia penal, así como los compromisos existentes entre precisión, transparencia y equidad (Berk, 2019). 🔗 Ver libro en Springer
Esto posee un enorme interés científico.
Pero precisamente su potencia exige una pregunta previa:
¿qué significado criminológico tienen las variables que estamos introduciendo?
Datos no son todavía conocimiento criminológico
Imaginemos un sistema que encuentra relaciones estadísticas entre determinadas características y una mayor reincidencia observada.
Puede tratarse de antecedentes, edad, empleo, consumo de sustancias, circunstancias familiares, historial institucional o cualquier combinación compleja de factores.
El algoritmo puede descubrir que una determinada combinación incrementa la capacidad de clasificación.
Sin embargo, continúan abiertas cuestiones fundamentales:
¿Estamos identificando una causa?
¿Un correlato?
¿Una consecuencia?
¿Un efecto de las decisiones institucionales precedentes?
¿Estamos midiendo conducta o exposición al sistema penal?
¿Riesgo de cometer una conducta o riesgo de volver a ser detectado?
¿Una característica del individuo o determinadas circunstancias de su entorno?
La literatura sobre predicción policial lleva años advirtiendo de la necesidad de examinar las premisas teóricas que se encuentran detrás de los algoritmos y no limitar su evaluación a la existencia de una capacidad predictiva aparente (Bennett Moses & Chan, 2018). 🔗 Leer artículo en acceso abierto
En otras palabras, un modelo estadísticamente eficaz puede continuar dejando sin resolver la pregunta criminológica.
El algoritmo aprende también de nuestras decisiones anteriores
Este problema adquiere particular relevancia en justicia penal.
Los datos utilizados por los sistemas predictivos no proceden necesariamente de una realidad social observada de manera neutral. Determinados registros son también consecuencia de decisiones anteriores:
dónde se vigila;
qué conductas se investigan;
qué personas son identificadas;
qué acontecimientos llegan al sistema;
qué información se registra;
y qué acontecimientos permanecen invisibles.
Sarah Brayne mostró cómo la expansión del big data transforma las prácticas de vigilancia policial y la producción misma de información institucional (Brayne, 2017). 🔗 Leer artículo completo
El problema puede agravarse cuando los datos históricos contienen distorsiones producidas por prácticas policiales previas. Richardson, Schultz y Crawford denominaron dirty data a aquellos datos generados en contextos marcados por prácticas defectuosas, sesgadas o incluso ilegales, advirtiendo de que los sistemas predictivos pueden reproducir las consecuencias de esas prácticas cuando aprenden de tales registros (Richardson et al., 2019). 🔗 Leer Dirty Data, Bad Predictions
No significa que todo dato policial se encuentre necesariamente sesgado ni que todo algoritmo reproduzca automáticamente un sesgo.
Significa algo metodológicamente más importante: debemos conocer cómo se produjo el dato antes de interpretar qué representa.
El posible circuito de retroalimentación
Lum e Isaac plantearon un problema especialmente ilustrativo al analizar los sistemas de predictive policing: cuando se dirige una mayor cantidad de vigilancia hacia determinados lugares, pueden detectarse allí más incidentes; esos nuevos registros alimentan posteriormente al sistema y pueden justificar nuevamente una mayor vigilancia del mismo lugar (Lum & Isaac, 2016). 🔗 Leer To Predict and Serve?
Podría formarse así un circuito:
datos previos → predicción → mayor vigilancia → mayor detección → nuevos datos → confirmación aparente de la predicción.
La máquina podría entonces aprender simultáneamente características del fenómeno y características de nuestra propia manera de observarlo.
No distinguir ambas cosas sería un error.
Por eso la criminología resulta imprescindible.
Su función no debería reducirse a entregar información a un modelo y recibir una puntuación. Debe preguntarse qué fenómeno representa realmente cada variable, cómo fue producido el dato y qué inferencias podemos legítimamente realizar a partir de él.
La llegada de la inteligencia artificial no disminuye la necesidad de teoría.
La aumenta.
La promesa de predecir violencia y reincidencia tropieza con un problema esencial: validar fuera del algoritmo
La predicción criminal resulta especialmente atractiva porque responde a una aspiración comprensible: intervenir antes de que ocurra un daño grave.
Si pudiéramos detectar con suficiente anticipación determinados procesos de escalada, mejoraríamos la prevención, protegeríamos a potenciales víctimas y podríamos emplear con mayor eficiencia determinados recursos.
Pero entre estimar probabilidades y predecir personas existe una distancia considerable.
Una revisión sistemática publicada en 2026 por Kozhevnikova, Yukhnenko, Scola y Fazel constituye una referencia especialmente relevante. Los autores estudiaron 38 investigaciones sobre modelos de aprendizaje automático destinados a predecir conducta violenta. Solo ocho informaban sobre calibración y únicamente tres incluían validación externa. Los autores concluyeron que, debido fundamentalmente a los problemas de generalización y al elevado riesgo de sesgo, los modelos disponibles no podían recomendarse todavía para su implementación práctica (Kozhevnikova et al., 2026). 🔗 Leer el artículo completo — Journal of Criminal Justice
El dato merece atención precisamente porque se refiere a modelos de inteligencia artificial aplicados a uno de los terrenos criminológicos más sensibles: la violencia.
Discriminar no es lo mismo que calibrar
Al evaluar un modelo predictivo puede resultar tentador concentrarse en su capacidad para diferenciar adecuadamente entre individuos o resultados.
Pero un sistema puede clasificar relativamente bien y, sin embargo, estar deficientemente calibrado.
La calibración responde a una pregunta muy concreta:
cuando el modelo atribuye determinada probabilidad a un resultado, ¿esa probabilidad se corresponde con lo que posteriormente observamos?
La distinción es importante.
Una herramienta podría ordenar razonablemente bien una población desde menores hasta mayores niveles de riesgo y, sin embargo, exagerar sistemáticamente las probabilidades absolutas.
En una aplicación comercial esto puede resultar inconveniente.
En justicia penal puede contribuir a adoptar decisiones que afectan directamente a personas.
La revisión de Kozhevnikova et al. (2026) muestra precisamente que la calibración ha recibido una atención insuficiente dentro de una parte de esta literatura.
Y el problema no es completamente nuevo.
Una revisión sistemática anterior sobre instrumentos de evaluación del riesgo empleados en la imposición de penas encontró rendimientos predictivos entre pobres y moderados y señaló deficiencias en la comunicación de determinadas medidas fundamentales, entre ellas calibración y falsos negativos (Fazel et al., 2022). 🔗 Leer estudio de Fazel et al.
El problema de la validación externa
Desarrollar un modelo sobre una muestra y comprobar que funciona razonablemente bien dentro de ella constituye solamente un primer paso.
Después aparecen preguntas más difíciles:
¿funciona en otra población?
¿En otra ciudad?
¿En otra institución?
¿En otro sistema jurídico?
¿Con prevalencias diferentes?
¿En otro momento histórico?
¿Con datos recogidos mediante procedimientos distintos?
La validación externa permite comprobar hasta qué punto el modelo ha capturado una relación generalizable o, por el contrario, peculiaridades del conjunto de datos en el que fue desarrollado.
En la revisión de Kozhevnikova et al. (2026), únicamente tres de los 38 estudios identificados habían realizado validación externa.
Esto debería introducir una cierta prudencia cuando utilizamos la palabra predicción.
No porque la inteligencia artificial carezca de posibilidades.
Sino porque tiene suficiente importancia como para que le exijamos evidencia sólida.
Un buen resultado dentro de una muestra no garantiza el comportamiento futuro
La flexibilidad de muchos modelos de aprendizaje automático permite encontrar relaciones extremadamente complejas.
Pero esa misma capacidad puede favorecer el sobreajuste: el sistema puede aprender particularidades específicas de los datos utilizados durante su desarrollo y perder rendimiento cuando se enfrenta a información nueva.
El problema tiene especial importancia en criminología porque muchos de nuestros fenómenos son dinámicos.
Cambian las circunstancias sociales.
Cambian las oportunidades.
Cambian las tecnologías.
Cambian los mercados ilícitos.
Cambian las políticas públicas.
Cambian los sistemas policiales.
Y cambia también la propia persona.
Un modelo científicamente responsable debe, por tanto, ser evaluado no solo por su capacidad de reproducir el pasado, sino por la robustez con que afronta situaciones que no estaban contenidas en los datos originales.
Applegarth, Lewis y Rief (2023), a partir del trabajo con participantes del NIJ Recidivism Forecasting Challenge, subrayan precisamente la necesidad de adaptar y revalidar los instrumentos en función de poblaciones y jurisdicciones, considerar sus errores y evitar enfoques uniformes aplicados indiscriminadamente. 🔗 Leer Imperfect Tools — acceso abierto
El viejo problema de la evaluación del riesgo no desaparece porque utilicemos IA
Convertir un procedimiento estadístico tradicional en un modelo de machine learning no resuelve automáticamente las dificultades conceptuales que existían antes.
El National Institute of Justice ha señalado, entre otras cuestiones, la importancia de considerar sesgos, necesidades criminógenas, factores protectores, revalidación, errores, transparencia y utilización práctica de las herramientas de riesgo (Lewis et al., 2024). 🔗 Leer recomendaciones del NIJ
La inteligencia artificial puede aportar ventajas cuando trabajamos con información multidimensional compleja. De hecho, la revisión de 2026 identifica como líneas prometedoras las predicciones dinámicas, la inteligencia artificial explicable y determinados desarrollos de aprendizaje causal (Kozhevnikova et al., 2026).
Pero añadir complejidad matemática no convierte automáticamente un constructo débil en conocimiento sólido.
Antes de preguntar qué algoritmo deberíamos utilizar conviene preguntarse:
¿qué constructo estamos intentando medir?
Y esta pregunta conduce directamente al núcleo del problema criminológico.
Cuando la inteligencia artificial deja de analizar fenómenos y comienza a clasificar personas
Existe una diferencia fundamental entre utilizar inteligencia artificial para estudiar patrones criminológicos y emplearla para determinar anticipadamente que determinada persona presenta riesgo de cometer un delito.
Esta frontera ha adquirido además una dimensión jurídica particularmente significativa dentro de la Unión Europea.
El artículo 5.1.d del Reglamento (UE) 2024/1689 prohíbe determinados sistemas de inteligencia artificial destinados a evaluar o predecir el riesgo de que una persona cometa una infracción penal cuando esa valoración se base exclusivamente en el perfil de la persona o en la evaluación de sus rasgos y características de personalidad. La norma exceptúa sistemas que apoyan una evaluación humana de la participación en una actividad delictiva cuando esta parte previamente de hechos objetivos y verificables directamente vinculados a dicha actividad (Parlamento Europeo y Consejo, 2024). 🔗 Consultar el Reglamento de Inteligencia Artificial en EUR-Lex
La Comisión Europea explica la razón de esa prohibición señalando que las personas deben ser juzgadas por su comportamiento real y no únicamente por un comportamiento pronosticado mediante perfiles, características o rasgos personales. 🔗 Guía europea sobre prácticas prohibidas
Las primeras prohibiciones del Reglamento comenzaron a aplicarse el 2 de febrero de 2025. Desde el 2 de agosto de 2026, la Comisión y las autoridades nacionales cuentan además con determinadas facultades de ejecución previstas por el nuevo marco.
Estamos, por tanto, ante algo más que una discusión tecnológica.
Nos encontramos ante una cuestión criminológica, jurídica y ética:
¿hasta dónde puede transformarse una probabilidad estadística en una atribución individual?
Riesgo no equivale a culpabilidad
Una puntuación de riesgo expresa, en el mejor de los casos, una estimación probabilística formulada bajo determinadas condiciones y respecto de un resultado previamente definido.
No determina que una persona vaya a realizar esa conducta.
No demuestra intención.
No establece culpabilidad.
No prueba por sí misma una disposición permanente.
No convierte un correlato estadístico en causa.
Esta cautela es particularmente importante porque los números producen una fuerte impresión de objetividad.
Imaginemos que un informe afirma:
«probabilidad estimada: 70 %».
Inmediatamente deberíamos preguntar:
70 % ¿de qué?
¿Durante cuánto tiempo?
¿En qué población?
¿Respecto de qué conducta?
¿Con qué prevalencia?
¿Con qué intervalo de incertidumbre?
¿Con qué tasa de falsos positivos?
¿Ha sido validado el modelo en una población equivalente?
¿La probabilidad cambia si cambian determinadas circunstancias?
Sin esta información, una cifra aparentemente precisa puede transmitir mucho más conocimiento del que realmente posee.
Los falsos positivos no son simplemente errores estadísticos
Todo sistema predictivo produce errores.
Dressel y Farid (2018), en un trabajo ampliamente conocido sobre predicción de reincidencia, analizaron la precisión y las limitaciones de sistemas utilizados para esta finalidad y contribuyeron a abrir un debate sobre cuánto debe confiarse en las herramientas algorítmicas cuando las consecuencias de sus errores afectan directamente a personas. 🔗 Leer The Accuracy, Fairness, and Limits of Predicting Recidivism
Un falso positivo en un sistema de recomendación comercial puede significar sugerir una película que no interesa al usuario.
En justicia penal puede significar algo muy diferente:
mayor vigilancia;
supervisión más intensa;
clasificación institucional;
intervenciones adicionales;
o una percepción reforzada de peligrosidad.
El error deja entonces de ser exclusivamente matemático.
Adquiere consecuencias sociales y jurídicas.
Una predicción puede alterar aquello que pretende observar
Existe además una dificultad metodológica especialmente interesante.
Si una persona o un grupo son clasificados como de mayor riesgo y reciben por ello una mayor intensidad de supervisión, puede aumentar también la posibilidad de que determinadas conductas sean detectadas.
El fenómeno observado puede quedar parcialmente condicionado por la intervención derivada de la propia predicción.
De nuevo aparece el posible circuito:
clasificación → aumento del control → aumento de detección → nuevos registros → aparente confirmación de la clasificación.
La literatura sobre datos policiales y predictive policing ha advertido desde diferentes perspectivas de estos problemas de retroalimentación y producción institucional del dato (Lum & Isaac, 2016; Richardson et al., 2019).
La consecuencia metodológica es clara:
más registros no significan necesariamente más conducta real.
De la predicción individual al análisis de situaciones
La inteligencia artificial no tiene por qué utilizarse prioritariamente para contestar:
¿quién delinquirá?
Existe otro campo mucho más amplio y, en muchos contextos, metodológicamente menos problemático:
¿dónde están apareciendo determinadas regularidades?
¿Cómo cambia una modalidad delictiva?
¿Qué vínculos existen entre acontecimientos?
¿Qué patrones de victimización se repiten?
¿Cómo se transforman determinadas redes?
¿Qué secuencias aparecen antes de ciertos incidentes?
¿Qué entornos concentran determinadas oportunidades?
¿Qué señales pueden mejorar la protección de posibles víctimas?
La revisión de Meijer y Wessels sobre predictive policing ya advertía una diferencia importante entre la abundancia de expectativas atribuidas a estas tecnologías y la evidencia empírica disponible para respaldar muchos de sus beneficios y riesgos (Meijer & Wessels, 2019). 🔗 Leer Predictive Policing: Review of Benefits and Drawbacks
Desplazar parcialmente el foco desde la identidad del sujeto hacia situaciones, contextos, relaciones y acontecimientos observables no elimina todos los problemas.
Pero puede evitar una de las mayores tentaciones de la predicción algorítmica:
convertir una probabilidad en una característica esencial de la persona.
El problema anterior al algoritmo: ¿qué estamos midiendo cuando hablamos de «riesgo criminológico»?
Este es, a mi juicio, el punto decisivo.
La inteligencia artificial puede perfeccionar extraordinariamente la manera en que medimos algo.
Pero no puede decidir por nosotros qué significa ese algo.
En la literatura y en la práctica pueden aparecer próximos términos como:
conducta antisocial;
conducta delictiva;
violencia;
reincidencia;
daño;
peligrosidad;
vulnerabilidad;
necesidad criminógena;
riesgo;
intencionalidad;
o infracción normativa.
Pero esos conceptos no son equivalentes.
Y un algoritmo no corrige una confusión conceptual introducida en sus variables.
La reproduce con mayor capacidad de cálculo.
La necesidad de separar conducta, riesgo y relevancia penal
Una conducta puede ser perjudicial sin constituir delito.
Una conducta puede encontrarse penalmente tipificada y presentar muy diferentes estructuras de intención, conocimiento, contexto y responsabilidad.
Un factor estadísticamente relacionado con reincidencia no es necesariamente una conducta antisocial.
Una vulnerabilidad no constituye una intención.
Un antecedente no es una decisión futura.
Una asociación no constituye automáticamente una relación causal.
Por ello, antes de diseñar sistemas destinados a evaluar riesgo, deberíamos establecer con precisión cuál es el fenómeno de referencia.
Primer nivel: ¿qué estamos observando?
Podemos estar estudiando:
una conducta;
un conjunto de conductas;
una trayectoria;
un contexto;
una situación;
una interacción;
una decisión;
un resultado judicial;
o una probabilidad estadística.
Cada uno de esos objetos exige variables diferentes.
Segundo nivel: ¿qué representa realmente el indicador?
Un indicador debería constituir una traducción observable de un constructo.
Sin embargo, existe el peligro de invertir el procedimiento:
primero disponemos de determinados datos y después terminamos definiendo el fenómeno mediante aquello que podemos medir fácilmente.
Si una base contiene gran cantidad de antecedentes, esa variable puede adquirir un peso extraordinario simplemente porque existe en forma estructurada.
Pero quizá el fenómeno que queremos comprender requiera información diferente.
Entonces el problema no es que el algoritmo haya funcionado mal.
El problema es más profundo:
hemos medido con precisión una cosa distinta de aquella que creíamos estar investigando.
Este problema explica por qué la evaluación de las herramientas de riesgo no puede reducirse a métricas de rendimiento. Applegarth et al. (2023) destacan también la importancia del contexto de implementación, la comprensión de las puntuaciones, los factores protectores y las necesidades criminógenas, así como la necesidad de evitar la sobreestimación del significado de las categorías de riesgo.
Tercer nivel: ¿la relación es causal?
Los modelos predictivos no necesitan ser necesariamente causales para poseer utilidad.
Pero la causalidad se vuelve crucial cuando pasamos de la predicción a la intervención.
Supongamos que X predice estadísticamente Y.
La pregunta preventiva será:
si modificamos X, ¿se modificará también Y?
Si la relación no es causal, una intervención dirigida a X puede no tener el resultado esperado.
Por ello resultan especialmente interesantes los desarrollos que intentan relacionar aprendizaje automático y razonamiento causal, señalados también como una futura dirección de investigación en la revisión de Kozhevnikova et al. (2026).
Predicción y explicación no son enemigos, pero tampoco son sinónimos
No necesitamos plantear una oposición absoluta entre predecir y explicar.
La predicción puede ayudar a descubrir regularidades.
Las regularidades pueden sugerir hipótesis.
Las hipótesis pueden someterse posteriormente a contraste.
Y una teoría criminológica puede ayudar a elegir variables y comprender los resultados de un modelo.
El problema aparece cuando una elevada capacidad predictiva se presenta como sustituto de la explicación.
Una criminología tecnológicamente avanzada debería aspirar, en mi opinión, a combinar:
descripción → explicación → predicción prudente → intervención evaluable.
No simplemente a producir puntuaciones.
Aquí es donde sitúo también la reanudación de mis investigaciones
Después de un periodo dedicado principalmente a revisar y reorganizar ideas, retomo públicamente algunas reflexiones relacionadas con la Criminología de la Conducta Antisocial (CCA).
No considero apropiado adelantar aquí desarrollos conceptuales que se encuentran destinados a trabajos académicos posteriores y que deberán someterse a discusión científica.
Sí puedo señalar, sin embargo, uno de los problemas metodológicos que está guiando ese trabajo:
antes de medir debemos delimitar; antes de predecir debemos saber qué fenómeno pretendemos predecir; y antes de intervenir debemos distinguir una señal de riesgo de una atribución de responsabilidad.
Puede resultar menos espectacular que anunciar un nuevo algoritmo.
Pero metodológicamente es anterior a él.
Una inteligencia artificial extraordinariamente sofisticada construida sobre categorías imprecisas podrá producir resultados extraordinariamente sofisticados acerca de un objeto mal definido.
La dificultad criminológica básica no desaparece con una mayor capacidad de cálculo.
La inteligencia artificial puede ser más valiosa como asistente criminológico que como oráculo penal
La crítica de determinados usos predictivos no debería conducir a una posición tecnófoba.
Sería igualmente poco razonable.
La inteligencia artificial ofrece oportunidades significativas para la criminología cuando se utiliza para aumentar capacidades analíticas sin convertir probabilidades en declaraciones deterministas sobre personas.
La revisión sistemática de Farber (2026) refleja precisamente esta doble dimensión: identifica posibilidades vinculadas con eficiencia, asignación de recursos y capacidades de análisis, pero también problemas relacionados con sesgo algorítmico, opacidad y garantías procesales.
Por tanto, la pregunta adecuada no es:
¿IA sí o IA no?
Sino:
¿IA para qué, con qué datos, sobre qué constructos, bajo qué teoría, con qué validación y con qué consecuencias?
IA para organizar información dispersa
Uno de sus usos potencialmente más interesantes consiste en ayudar a estructurar grandes volúmenes de información.
Una investigación puede reunir:
informes;
resoluciones;
atestados;
declaraciones;
cronologías;
comunicaciones;
bases administrativas;
material audiovisual;
datos espaciales;
y documentos procedentes de múltiples fuentes.
Una herramienta de IA puede ayudar al profesional a:
ordenar información;
localizar recurrencias;
detectar posibles contradicciones;
establecer cronologías provisionales;
comparar documentos;
encontrar relaciones;
o identificar información que requiere una revisión posterior.
El informe del NIJ sobre IA generativa en el sistema de justicia penal contempla precisamente aplicaciones que van desde automatización y aceleración de tareas hasta investigación y apoyo a la decisión, insistiendo simultáneamente en la necesidad de evaluar las condiciones de adopción (Criminal Justice Technology Testing and Evaluation Center, 2025).
Aquí la máquina no determina quién es peligroso.
Amplía la capacidad de análisis.
IA para formular hipótesis, no para declararlas verdaderas
Otro campo especialmente interesante es la generación de hipótesis.
Un sistema puede detectar una relación inesperada entre determinados acontecimientos.
Eso puede producir una nueva pregunta.
Pero debemos mantener la secuencia científica:
patrón observado → hipótesis → contraste → revisión.
Y evitar esta otra:
patrón algorítmico → verdad.
La diferencia parece pequeña.
Epistemológicamente es enorme.
La IA debería poder responder también: «no existe evidencia suficiente»
Existe una tendencia tecnológica a valorar los sistemas por su capacidad de ofrecer respuestas.
Pero en investigación criminal y criminológica deberíamos valorar también su capacidad para reconocer incertidumbre.
Un sistema responsable debería poder advertir:
información insuficiente;
datos de baja calidad;
población distinta de la utilizada durante la validación;
probabilidad altamente incierta;
variables contradictorias;
cambio en la distribución de los datos;
o ausencia de soporte suficiente para una inferencia.
A veces la decisión científicamente correcta es no clasificar.
De modelos estáticos a evaluaciones dinámicas
El riesgo tampoco debería concebirse necesariamente como una característica fija del individuo.
Las circunstancias cambian.
Las relaciones cambian.
El contexto cambia.
Las oportunidades cambian.
Las intervenciones cambian.
Los factores protectores cambian.
Por ello, los modelos dinámicos constituyen una línea particularmente interesante. Kozhevnikova et al. (2026) incluyen las predicciones dinámicas entre los desarrollos con potencial para mejorar futuras aplicaciones de aprendizaje automático en la evaluación de violencia.
Pero dinámico no debería significar únicamente recalcular periódicamente una puntuación.
Un análisis criminológico verdaderamente dinámico debe intentar comprender:
qué ha cambiado, cómo ha cambiado y qué significado posee ese cambio.
No basta con afirmar que una probabilidad pasó de 0,52 a 0,61.
Necesitamos conocer qué produjo esa modificación y hasta qué punto los factores implicados son susceptibles de intervención.
La explicabilidad no es únicamente una propiedad informática
Uno de los grandes campos actuales de investigación es la denominada explainable AI.
Pero la explicación debería operar en distintos niveles.
Explicabilidad técnica
¿Cómo llegó el modelo al resultado?
¿Qué variables tuvieron mayor relevancia?
¿Cómo responde el modelo cuando las variables cambian?
Explicabilidad criminológica
¿Por qué esas variables deberían estar relacionadas con el fenómeno estudiado?
¿Qué teoría permitiría interpretar esa relación?
¿Existe una hipótesis causal?
¿O estamos únicamente ante una asociación?
Explicabilidad institucional
¿Qué hará una institución con el resultado?
¿Quién podrá revisarlo?
¿Qué efecto tendrá sobre la persona?
¿Podrá ser impugnado?
¿Quién asumirá la responsabilidad cuando el resultado sea incorrecto?
Una explicación informática puede decirnos cómo funcionó una clasificación sin explicarnos qué significa criminológicamente.
Supervisión humana no significa simplemente pulsar «aceptar»
El marco europeo de inteligencia artificial contempla obligaciones de gestión de riesgos, documentación, calidad de datos y supervisión humana para determinados sistemas. Las reglas aplicables varían según la clasificación y el calendario del Reglamento; algunas previsiones relativas a sistemas de alto riesgo entrarán plenamente en aplicación en fechas posteriores a 2026.
La presencia formal de una persona, sin embargo, no garantiza por sí sola una supervisión efectiva.
Un profesional puede recibir una puntuación producida por un sistema y confiar excesivamente en ella precisamente porque aparece revestida de objetividad matemática.
La verdadera supervisión debería implicar capacidad para:
comprender las limitaciones del modelo;
conocer la procedencia de los datos;
cuestionar el resultado;
compararlo con otras evidencias;
documentar la discrepancia;
y rechazar la salida algorítmica cuando no exista fundamento suficiente.
La máquina debería ampliar el juicio profesional.
No sustituirlo silenciosamente mientras el profesional se limita a confirmar su resultado.
6. Hacia una criminología de la IA basada en constructos claros, validación y límites
En 2026 este debate adquiere una especial relevancia.
Por un lado, aumenta la capacidad tecnológica.
Por otro, comienzan a consolidarse exigencias metodológicas, jurídicas y éticas mucho más precisas.
La Unión Europea ha iniciado ya la aplicación progresiva del Reglamento de Inteligencia Artificial. Desde el 2 de agosto de 2026 son aplicables, entre otras, determinadas obligaciones de transparencia, y las autoridades han comenzado una nueva fase de ejecución del Reglamento, aunque algunas obligaciones para sistemas clasificados como de alto riesgo se aplicarán posteriormente conforme al calendario legal (Comisión Europea, 2026). 🔗 Consultar calendario y aplicación del AI Act
Al mismo tiempo, la evidencia científica obliga a ser prudentes ante usos particularmente sensibles. La revisión de modelos de aprendizaje automático para predicción de violencia publicada en 2026 encuentra problemas significativos de generalización, validación externa y riesgo de sesgo (Kozhevnikova et al., 2026).
Tenemos, por tanto, una oportunidad.
No dejar estos problemas exclusivamente en manos de especialistas en informática ni exclusivamente en manos del Derecho.
La informática puede construir modelos.
El Derecho establece lo que puede o no puede hacerse con ellos.
Pero entre ambos existe una pregunta profundamente criminológica:
¿qué fenómeno estamos convirtiendo en datos?
Una agenda criminológica para la inteligencia artificial
A mi juicio, al menos diez cuestiones deberían preceder a cualquier utilización seria de estos sistemas en ámbitos criminológicos sensibles.
Primera: definición conceptual.
No deberíamos pretender medir «riesgo criminológico» mientras el concepto pueda abarcar fenómenos muy diferentes sin delimitación suficiente.
Segunda: operacionalización transparente.
Cada constructo debe relacionarse explícitamente con indicadores observables y debe justificarse por qué esos indicadores representan aquello que se pretende estudiar.
Tercera: validación externa.
Un instrumento no debería trasladarse automáticamente a nuevas poblaciones porque funcionó correctamente en la muestra en la que fue desarrollado. La escasez de validaciones externas continúa siendo precisamente una de las principales debilidades observadas en investigaciones recientes sobre predicción de violencia (Kozhevnikova et al., 2026).
Cuarta: calibración y análisis del error.
No basta con comunicar una medida general de precisión. Debemos conocer falsos positivos, falsos negativos, calibración e incertidumbre. Fazel et al. (2022) han mostrado que estas métricas no siempre son comunicadas adecuadamente en la literatura sobre instrumentos de riesgo utilizados en sentencing.
Quinta: comparación con modelos más simples.
Si un sistema extremadamente complejo apenas mejora a un modelo sencillo y comprensible, debemos preguntarnos si la complejidad añadida está justificada. El equilibrio entre complejidad, capacidad predictiva, comprensión y uso práctico aparece también entre los problemas identificados en los trabajos promovidos por el NIJ (Applegarth et al., 2023; Lewis et al., 2024).
Sexta: análisis dinámico.
Una evaluación debe permitir reconocer cambios y no convertir un resultado obtenido en determinado momento en una característica permanente del individuo.
Séptima: distinción entre correlación, predicción y causalidad.
Son niveles epistemológicos diferentes.
Octava: supervisión humana efectiva.
El profesional debe comprender, contextualizar, cuestionar y, cuando corresponda, rechazar el resultado.
Novena: protección frente al etiquetado.
Una finalidad preventiva no puede transformarse en una presunción anticipada de culpabilidad o peligrosidad.
Décima: falsabilidad.
Todo modelo debería especificar qué resultados demostrarían que no funciona suficientemente bien y bajo qué condiciones debería revisarse o abandonarse.
Este último aspecto me parece especialmente importante.
En ciencia, nuestro propósito no debería consistir en construir herramientas destinadas a sobrevivir a cualquier resultado.
Una buena teoría, un buen instrumento y un buen algoritmo deben permitir establecer también:
cuándo estamos equivocados.
El criminólogo del futuro tendrá que aprender a conversar con algoritmos sin obedecerlos
La formación criminológica deberá adaptarse.
No significa necesariamente convertir a todo criminólogo en ingeniero informático.
Sí significa comprender conceptos como:
calidad de datos;
sesgo de selección;
validación interna y externa;
calibración;
sensibilidad y especificidad;
falsos positivos;
falsos negativos;
explicabilidad;
cambio de distribución;
causalidad;
protección de datos;
y supervisión humana.
Pero, al mismo tiempo, tendrá que conservar aquello que continúa siendo específicamente necesario en criminología:
interpretar la conducta dentro de contextos psicológicos, sociales, relacionales, jurídicos y situacionales complejos.
Aquí aparece una paradoja:
cuanto más poderosa sea la inteligencia artificial, más importante será formular correctamente las preguntas.
No deberíamos aspirar a construir una máquina que descubra quién será criminal
Ese objetivo contiene una concepción problemática de la propia criminología.
Una persona no es el valor de una variable.
No es una puntuación.
No es la media estadística del grupo en el que ha sido incluida.
Y tampoco es la conducta futura que un modelo considera más probable.
Podemos estudiar factores.
Podemos detectar señales.
Podemos identificar configuraciones.
Podemos estimar probabilidades.
Podemos intervenir sobre condiciones modificables.
Pero debemos conservar siempre la distancia entre:
probabilidad y destino;
riesgo y culpabilidad;
correlación y causa;
patrón y persona;
predicción y explicación.
De la IA predictiva a una inteligencia criminológica asistida
Tal vez deberíamos cambiar incluso la manera de formular el objetivo.
En lugar de pensar exclusivamente en una criminología predictiva mediante inteligencia artificial, podríamos avanzar hacia una inteligencia criminológica asistida por IA.
La diferencia no es únicamente terminológica.
En el primer modelo parece que el destino final del sistema consiste en anticipar un resultado.
En el segundo, la inteligencia artificial forma parte de un proceso científico y profesional más amplio:
observación → organización de información → formulación de hipótesis → análisis criminológico → contraste → intervención proporcionada → evaluación → revisión.
El profesional conserva la responsabilidad epistemológica.
La tecnología aporta capacidad de procesamiento.
La teoría determina qué preguntas tienen sentido.
La evidencia decide qué hipótesis sobreviven.
Y el ordenamiento jurídico establece límites que la eficiencia por sí sola no puede eliminar.
Una vuelta a la investigación desde preguntas más pequeñas
Esta reflexión coincide también con la forma en que estoy retomando mis investigaciones relacionadas con la Criminología de la Conducta Antisocial (CCA).
Durante una primera fase es relativamente sencillo formular grandes modelos.
La exigencia científica comienza después:
dividir esos modelos en preguntas concretas;
compararlos con explicaciones rivales;
definir variables observables;
establecer qué resultados los debilitarían;
y aceptar que algunos conceptos pueden resultar redundantes y tener que modificarse o abandonarse.
Ese mismo criterio debería aplicarse a la inteligencia artificial.
No deberíamos preguntar únicamente:
¿puede predecir?
Deberíamos preguntar:
¿Qué predice?
¿A quién?
¿Durante cuánto tiempo?
¿Con qué datos?
¿Frente a qué modelo alternativo?
¿Con qué error?
¿Se ha replicado?
¿Está calibrado?
¿Se generaliza?
¿Sabemos por qué funciona?
¿Sus factores son modificables?
¿Y qué decisiones estamos dispuestos a adoptar sobre una persona como consecuencia de esa estimación?
Son preguntas menos espectaculares.
Pero probablemente son las que necesitamos.
Conclusión: antes del algoritmo está el concepto
Resulta difícil imaginar la criminología futura sin inteligencia artificial.
Y posiblemente sería un error intentarlo.
Su capacidad para procesar información, encontrar regularidades, asistir investigaciones, organizar evidencia y generar hipótesis puede convertirse en una herramienta extraordinaria.
Pero tampoco deberíamos imaginar una criminología en la que la teoría desaparezca detrás del algoritmo.
La investigación reciente ofrece suficientes razones para mantener ambas ideas simultáneamente.
Por un lado, existen aplicaciones crecientes de inteligencia artificial en policía, justicia y correcciones y un importante potencial para asistir diferentes procesos profesionales (Farber, 2026; Criminal Justice Technology Testing and Evaluation Center, 2025).
Por otro, encontramos limitaciones relevantes de generalización, calibración, validación externa y riesgo de sesgo cuando nos acercamos a aplicaciones sensibles como la predicción de violencia o reincidencia (Fazel et al., 2022; Kozhevnikova et al., 2026).
Y contamos ya en Europa con un marco jurídico que ha considerado necesario prohibir determinados usos de IA para predecir individualmente la comisión de delitos cuando se basan exclusivamente en perfiles o rasgos de personalidad (Parlamento Europeo y Consejo, 2024).
El debate, por tanto, no debería plantearse como una confrontación entre quienes aceptan la tecnología y quienes la rechazan.
La cuestión verdaderamente interesante es:
¿qué inteligencia artificial merece una criminología científicamente rigurosa y compatible con los derechos de las personas?
Mi respuesta provisional parte de una idea sencilla.
Antes de predecir una conducta debemos comprender qué llamamos conducta.
Antes de medir riesgo debemos definir qué entendemos por riesgo.
Antes de convertir una variable en indicador debemos justificar qué representa.
Antes de utilizar una probabilidad debemos conocer su incertidumbre.
Antes de intervenir debemos distinguir prevención de criminalización anticipada.
Y antes de preguntar a una inteligencia artificial quién puede cometer un delito, quizá deberíamos preguntarnos si esa es realmente la pregunta que la criminología debería formular.
La tecnología puede ayudarnos a encontrar respuestas.
Pero la responsabilidad de construir buenas preguntas sigue siendo nuestra.
M. A. Nicolás
Criminología de la Conducta Antisocial (CCA) — programa teórico de investigación en desarrollo
Bibliografía
Applegarth, D. M., Lewis, R. A., & Rief, R. M. (2023). Imperfect tools: A research note on developing, applying, and increasing understanding of criminal justice risk assessments. Criminal Justice Policy Review, 34(4), 319–336. https://doi.org/10.1177/08874034231180505. Artículo en acceso abierto.
🔗 Leer artículo completo en SAGE
Bennett Moses, L., & Chan, J. (2018). Algorithmic prediction in policing: Assumptions, evaluation, and accountability. Policing and Society, 28(7), 806–822. https://doi.org/10.1080/10439463.2016.1253695.
🔗 Leer artículo completo en Taylor & Francis
🔗 Copia académica disponible en SSRN
Berk, R. A. (2019). Machine learning risk assessments in criminal justice settings. Springer. https://doi.org/10.1007/978-3-030-02272-3.
🔗 Consultar o adquirir en Springer Nature
Brayne, S. (2017). Big data surveillance: The case of policing. American Sociological Review, 82(5), 977–1008. https://doi.org/10.1177/0003122417725865.
🔗 Leer texto completo en PubMed Central
Criminal Justice Technology Testing and Evaluation Center. (2025). Landscape study of generative artificial intelligence in the criminal justice system. National Institute of Justice.
🔗 Leer informe y descargar PDF en NIJ
Dressel, J., & Farid, H. (2018). The accuracy, fairness, and limits of predicting recidivism. Science Advances, 4(1), eaao5580. https://doi.org/10.1126/sciadv.aao5580.
🔗 Leer artículo completo gratuitamente
Farber, S. (2026). Machines of justice: A systematic review of AI applications in policing and criminal justice. The Police Journal. Advance online publication. https://doi.org/10.1177/0032258X261439572.
🔗 Consultar artículo en SAGE
🔗 Acceder al PDF del artículo
Fazel, S., Burghart, M., Fanshawe, T., Gil, S. D., Monahan, J., & Yu, R. (2022). The predictive performance of criminal risk assessment tools used at sentencing: Systematic review of validation studies. Journal of Criminal Justice, 81, 101902. https://doi.org/10.1016/j.jcrimjus.2022.101902.
🔗 Consultar artículo en ScienceDirect
Kozhevnikova, S., Yukhnenko, D., Scola, G., & Fazel, S. (2026). Machine learning for violence prediction: A systematic review and critical appraisal. Journal of Criminal Justice, 105, 102697. https://doi.org/10.1016/j.jcrimjus.2026.102697. Artículo publicado en acceso abierto.
🔗 Leer artículo en Journal of Criminal Justice / ScienceDirect
Lewis, R. A., Rief, R. M., & Applegarth, D. M. (2024, 11 de enero). Best practices for improving the use of criminal justice risk assessments: Insights from NIJ’s Recidivism Forecasting Challenge Winners Symposium. National Institute of Justice.
🔗 Leer publicación del NIJ
Lum, K., & Isaac, W. (2016). To predict and serve? Significance, 13(5), 14–19. https://doi.org/10.1111/j.1740-9713.2016.00960.x.
🔗 Consultar en Oxford Academic
Meijer, A., & Wessels, M. (2019). Predictive policing: Review of benefits and drawbacks. International Journal of Public Administration, 42(12), 1031–1039. https://doi.org/10.1080/01900692.2019.1575664.
🔗 Leer artículo en Taylor & Francis
Parlamento Europeo & Consejo de la Unión Europea. (2024). Reglamento (UE) 2024/1689, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea.
🔗 Texto consolidado oficial en EUR-Lex
Richardson, R., Schultz, J. M., & Crawford, K. (2019). Dirty data, bad predictions: How civil rights violations impact police data, predictive policing systems, and justice. New York University Law Review Online, 94, 15–55.
🔗 Leer artículo en NYU Law Review
🔗 Descargar PDF completo
Documentación institucional complementaria
Comisión Europea. (2025). First rules of the Artificial Intelligence Act are now applicable.
🔗 Información oficial de la Comisión Europea
Comisión Europea. (2026). Guidelines on transparency obligations for providers and deployers of AI systems.
🔗 Consultar las directrices oficiales
Comisión Europea. (2026). When does enforcement start? AI Act Service Desk.
🔗 Consultar calendario oficial de aplicación
