Así se decide si un preso está preparado para trabajar en una cocina
Un algoritmo hecho en Cataluña y llamado RisCanvi ayuda a predecir si un preso reincidirá
TarragonaEn Catalunya la decisión final sobre si un preso es todavía peligroso la toma un equipo profesional. La Junta de Tratamiento, formada por juristas, psicólogos, educadores y trabajadores sociales, entre otros, es quien tiene la última palabra y quien decide si un recluso puede empezar a tener más libertad y, por ejemplo, trabajar en la cocina de un centro penitenciario. Sin embargo, desde el año 2009, estos profesionales, antes de tomar una decisión tan complicada, utilizan el RisCanvi, una herramienta creada por un equipo de investigadores de la Universidad de Barcelona que funciona a partir de algoritmos y que ayuda a prever qué riesgo tiene cada interno de reincidir. El asesinato el pasado miércoles de una cocinera del centro penitenciario Mas d'Enric cometido por un recluso que trabajaba con ella ha abierto el debate sobre cómo se otorgan los permisos de los presos y ha puesto en evidencia que algo falló.
"Al final, debemos entender que lo que estamos intentando prever es inherentemente imprevisible", explica Carlos Castillo, profesor del departamento de tecnologías de la información y la comunicación de la Universidad Pompeu Fabra y analista de algoritmos en sectores donde existen riesgos de discriminación. Castillo ha escrito diferentes artículos sobre el RisCanvi y ha dirigido una tesis doctoral sobre este protocolo en el que ahora se centran las miradas que buscan una explicación.
El RisCanvi tiene en cuenta hasta 43 factores de cada recluso, como por ejemplo su nivel de hostilidad y su capacidad para hacer planes razonables de futuro. Todos estos datos, que se actualizan cada seis meses, permiten que el algoritmo determine si existe un riesgo alto, medio o bajo de reincidencia. Los riesgos que analiza son las probabilidades de que un recluso se autolesione, que cometa un delito violento, que cometa cualquier delito o, como ocurrió en Mas d'Enric, que pueda atacar a otro interno oa un trabajador del centro. "Vemos muchas películas de prisiones americanas, pero no son así. Las prisiones catalanas pueden tener un efecto rehabilitador", asegura Castillo. Según el estudio que hicieron de RisCanvi, "se tiende a sobreestimar el riesgo de reincidencia de las personas presas", pero después de usar ese algoritmo "las posibilidades de reincidencia se estiman a la baja". La Junta de Tratamiento puede contradecir lo que diga el algoritmo, pero debe justificarlo.
El nivel de eficacia de esta herramienta es alto (tiene una capacidad predictiva de 0,72 sobre 1, según sus creadores), pero según Castillo tiene algunos aspectos a mejorar. La nueva regulación europea de inteligencia artificial determina que en casos sensibles, como los que afectan a la administración de la justicia, "el sistema debe auditarse de forma periódica, para saber que funciona correctamente". El RisCanvi se ha ido calibrando en diferentes ocasiones pero la primera auditoría externa no se realizó hasta noviembre del año pasado. Otro problema que ve Castillo es una menor precisión sobre los subgrupos. "En Catalunya un 10% de los presos son mujeres y el RisCanvi es menos preciso en su capacidad predictiva con las mujeres", explica, seguramente porque la muestra con la que se hizo era masculina. "Las minorías salen perjudicadas", dice Castillo. En Estados Unidos, donde se utiliza un sistema similar, es con la comunidad afroamericana donde hay menos acierto en la predicción.
"No adivina el futuro, pero ayuda a preverlo"
Uno de los padres de RisCanvi es Antoni Andrés Pueyo, catedrático de la Universidad de Barcelona (UB) y responsable del grupo de investigadores que desarrollaron el algoritmo por encargo del departamento de Justícia. "Los profesionales tienen mucho ojo clínico, porque conocen a los reclusos, pero este instrumento les da más seguridad", explica. Y afirma: "No adivina el futuro, pero ayuda a preverlo". El caso de Mas de Enric es lo que se conoce como un "falso negativo", que es "cuando confías en que una persona se llevará bien y cumplirá la norma y acaba cometiendo un asesinato y además se suicida", explica. "Le conocían bien y nadie esperaba que ocurriera esto, pero los pronósticos se equivocan". Sobre la nueva normativa europea, Andrés Pueyo defiende que el RisCanvi no es inteligencia artificial, sino que funciona con la información que vuelcan los profesionales.
