Directrices para implementar la IA de forma segura y ética en prisiones y libertad condicional

Entrevista conjunta

Consejo de Cooperación Penológica del Consejo de Europa

Ilina Taneva (Secretaria), Håkan Klarin, Pia Puolakka & Fernando Miró Llinares (Expertos científicos)

El Consejo de Cooperación Penológica (CP-CP) es el comité de expertos del Consejo de Europa encargado de establecer normas y principios en el ámbito de la ejecución de sanciones y medidas penales privativas y no privativas de libertad.

Actualmente, el PC-CP está elaborando unas recomendaciones sobre los aspectos éticos y organizativos de la utilización de la inteligencia artificial y las tecnologías digitales conexas por los Servicios penitenciarios y de libertad condicional.

El documento será aprobado por el Comité Europeo para los Problemas Criminales (CDPC) y finalmente adoptado formalmente por el Comité de Ministros del Consejo de Europa. Estas recomendaciones proporcionarán orientación dirigida a las administraciones penitenciarias que están considerando utilizar ese tipo de tecnologías y a las empresas que las desarrollan.

El mensaje clave de las Recomendaciones es que las tecnologías digitales deben utilizarse de forma legítima y proporcionada para lograr cambios positivos en los delincuentes, ayudar al personal en su trabajo y mejorar la eficacia del sistema de justicia penal.

¿De dónde surgió la necesidad de elaborar recomendaciones específicas para el uso de la inteligencia artificial (IA) en las prisiones y la libertad condicional?

IT: El Comité Europeo para los Problemas Criminales (CDPC, por su sigla en inglés), nuestro comité directivo, ha decidido incluir la inteligencia artificial en nuestra agenda. Varios de los órganos del Consejo de Europa se ocupan actualmente de la inteligencia artificial en el marco de su mandato. Ya se han adoptado directrices para los tribunales y la fiscalía, y actualmente se está elaborando un convenio marco.Se espera que el convenio esté terminado a finales de año, el cual establecerá un marco general sobre el uso de la inteligencia artificial. Además, el CDPC está trabajando en un instrumento jurídico para los vehículos de conducción automatizada y la responsabilidad penal, que también está relacionado con la IA. El Consejo de Europa trabaja activamente en diversos aspectos de la inteligencia artificial y, dependiendo del ámbito, podrán elaborarse normas más detalladas además del convenio marco.

PP: Los servicios penitenciarios y de libertad condicional trabajan con una población muy vulnerable y marginada, por lo que es especialmente importante contar con directrices éticas sobre el uso de la IA. La regulación de la IA es un tema muy debatido en todos los ámbitos, pero debería ser particularmente crucial en el ámbito penitenciario.

FM: Cuando se habla de inteligencia artificial, a menudo se encuentran opiniones radicales, algunas demasiado distópicas o utópicas, sobre cómo podría resolver todos los problemas o convertirse en lo peor que le haya sucedido nunca en los servicios penitenciarios y de libertad condicional. Debemos ser muy realistas sobre lo que puede ofrecer y los desafíos que conlleva.
El Consejo de Europa se ha dado cuenta de que la inteligencia artificial y las tecnologías relacionadas ya se están utilizando en algunas prisiones y en los sistemas de justicia penal en su conjunto.
Esta tecnología revolucionaria se está desarrollando tan rápido que, si no se regula o se establecen algunas recomendaciones éticas, se creará y se utilizará sin ellas. Por eso, es necesario regularla lo antes posible. 

HK: Es positivo que elaboremos recomendaciones en una fase temprana del ciclo de desarrollo tecnológico. Estamos en el umbral de un nuevo movimiento de introducción de tecnología y digitalización desde la perspectiva de los reclusos.
Los servicios digitales en el contexto penitenciario se están utilizando a escala mundial, y ya hay buenos ejemplos de sus aplicaciones. Sin embargo, su uso aún es limitado.

En el futuro, veremos muchas tecnologías nuevas y formas más inteligentes de utilizarlas. Esto también conducirá a la introducción de la IA, nos guste o no, ya que muchas de las tecnologías subyacentes utilizan el aprendizaje automático y tecnologías similares.

Es fundamental que tengamos normativas y recomendaciones que establezcan lo que se debe y no se debe hacer, y que sirvan como guía para que los profesionales y proveedores sepan cómo podrían utilizar las tecnologías digitales y la IA en el sector de la justicia.

Al establecer recomendaciones en esta etapa, tenemos la oportunidad de implementar estas tecnologías de manera adecuada y maximizar sus efectos positivos.

Cuando se habla de inteligencia artificial, a menudo se encuentran opiniones radicales, algunas demasiado distópicas o utópicas, sobre cómo podría resolver todos los problemas o convertirse en lo peor que le haya sucedido nunca en los servicios penitenciarios y de libertad condicional. Debemos ser muy realistas sobre lo que puede ofrecer y los desafíos que conlleva.

Miembros electos del Consejo de Cooperación Penitenciaria © Consejo de Europa

¿Cuál ha sido el enfoque al elaborar recomendaciones para una aplicación tecnológica en constante evolución y con múltiples facetas?

IT: Las recomendaciones abordan tanto los desafíos como las ventajas de utilizar la IA en el contexto de las prisiones y la libertad condicional. Se han diseñado con un enfoque amplio para que puedan ser útiles para todos los servicios penitenciarios y de libertad condicional, independientemente de su nivel actual de adopción de la IA.

El objetivo principal de estas recomendaciones es proporcionar orientación sobre cómo utilizar la IA de manera responsable y segura, teniendo en cuenta la rápida evolución del campo de la IA.

(...) recomendamos que la tecnología se utilice para sustituir las tareas repetitivas y cotidianas que no son esenciales para la rehabilitación, como abrir y cerrar puertas o distribuir alimentos. Debe diseñarse para apoyar al personal en lugar de sustituirlo o

¿Cuáles son las principales preocupaciones que abordan las recomendaciones?

IT: Las recomendaciones abordan una serie de preocupaciones, incluyendo cómo la tecnología puede afectar los derechos humanos y las libertades. Uno de los mayores problemas es la protección de datos y los derechos. La inteligencia artificial puede ser muy intrusiva, y aún no sabemos hasta qué punto puede llegar dicha intrusión y cómo puede afectar negativamente a la protección de los derechos humanos.

Otra preocupación importante es que no queremos reemplazar el contacto humano por la inteligencia artificial, ya que, como se ha demostrado, las relaciones humanas pueden tener una influencia positiva en los delincuentes. Por lo tanto, recomendamos que la tecnología se utilice para sustituir las tareas repetitivas y cotidianas que no son esenciales para la rehabilitación, como abrir y cerrar puertas o distribuir alimentos.

Debe diseñarse para apoyar al personal en lugar de sustituirlo o menoscabar su función. Asimismo, recomendamos que las empresas privadas adapten sus herramientas de IA a las necesidades del personal y garanticen que los profesionales mantengan el control en la medida de lo posible.

FM: El objetivo principal es no perder de vista los objetivos de la prisión y la libertad condicional en el proceso de digitalización. Es muy importante que mantengamos la filosofía del sistema penitenciario en el centro del diseño y desarrollo de la IA.

El enfoque en la rehabilitación y los principios que guían la prisión y la libertad condicional deben seguir siendo una prioridad. En este sentido, la IA solo debe utilizarse cuando sea necesaria y pueda mejorar algo, en lugar de implantarla sólo porque está disponible.

PP: Es importante recordar que la IA no pretende reemplazar la toma de decisiones por humanos, sino más bien complementarla. Por ejemplo, en el ámbito penitenciario, la IA puede ser útil, hasta cierto, para mejorar la seguridad y para evaluar a los clientes y procesos.

Sin embargo, es crucial que las decisiones finales sean tomadas por seres humanos, especialmente cuando se trabaja con poblaciones vulnerables. Es fundamental mantener un fuerte componente humano en estas interacciones.

Es importante recordar que la IA no pretende reemplazar la toma de decisiones por humanos, sino más bien complementarla.

HK: Una de las recomendaciones clave que destacaría es la creación de un proceso de desarrollo transparente que guíe al organismo a lo largo del proyecto.

Esto incluye una buena gobernanza y las mejores prácticas para identificar y abordar cualquier obstáculo o problema que pueda surgir. Esto es especialmente importante cuando se trabaja con nuevas tecnologías, ya que garantiza un resultado fluido y satisfactorio.

Este principio debe tenerse en cuenta en las primeras fases del proceso de desarrollo, ya que un diseño abierto fomentará la confianza y la responsabilidad.

¿Por qué es importante cerrar la brecha actual entre la alfabetización digital y de IA en el contexto penitenciario y de libertad condicional y la creciente velocidad de desarrollo de estas tecnologías?

PP: Es esencial proporcionar capacitación en IA a los funcionarios de prisiones y de libertad condicional, para que comprendan los fundamentos y la lógica de esta tecnología. Esto les permitirá saber qué ocurre realmente dentro de la llamada caja negra de la IA.

A menudo, los proyectos de IA están dirigidos por expertos en TIC y la mayoría del personal no tiene suficientes conocimientos técnicos. Sin embargo, los funcionarios de prisiones y de libertad condicional son los que más necesitan recibir formación sobre cómo utilizar la IA de forma ética. Si el personal no está al tanto de cómo funcionan y deben utilizarse estos sistemas, existe el riesgo de que la IA empiece a influir en su forma de pensar y en otros procesos.

Además, los delincuentes también deben tener un conocimiento básico de la IA, ya que estas herramientas se utilizan en asuntos relevantes para su condena, los procesos judiciales y sus derechos como ciudadanos. Por ejemplo, en Finlandia, se han realizado esfuerzos para mejorar las competencias digitales y el conocimiento de la IA tanto del personal como de los delincuentes.

El uso de la inteligencia artificial en el campo de la prisión y la libertad condicional ha sido objeto de discusión en el Grupo de Trabajo y las Reuniones Plenarias del Consejo de Cooperación Penológica.

¿Cuáles son los factores clave que los administradores de los sistemas penitenciarios deben considerar al decidir si implementar tecnologías de IA y cuándo hacerlo?

FM: En cuanto a seguridad y privacidad, es crucial tener en cuenta las medidas de ciberseguridad al crear o utilizar datos. En entornos penitenciarios y de libertad condicional, donde se utilizan cámaras de seguridad, dispositivos de vigilancia y sistemas digitales, esto es especialmente importante.

Es fundamental que los administradores comprendan la importancia de recopilar y utilizar únicamente los datos estrictamente necesarios. Además, deben tener en cuenta la protección de los datos personales no solo frente a usos indebidos internos, sino también frente al acceso no autorizado de terceros.

¿Cuáles son los posibles beneficios de la aplicación adecuada de la IA y las tecnologías digitales relacionadas, bajo regulación, en las instituciones penitenciarias y de libertad condicional?

FM: Al regular la IA se pueden introducir muchos aspectos positivos, como garantizar la protección de los derechos humanos y la rehabilitación como parte fundamental del desarrollo de la IA.

En cuanto a los beneficios del uso de la IA, si se diseña adecuadamente, puede tener muchos, como proporcionar información precisa para fundamentar las decisiones y comprender mejor lo que sucede dentro de las instituciones penitenciarias y de libertad condicional.

También puede utilizarse para mejorar la rehabilitación de los reclusos, mediante la creación de programas de intervención personalizados y el fortalecimiento de sus habilidades digitales. Es importante recordar que la tecnología es neutral y que podemos moldearla para lograr los resultados deseados, como una mayor seguridad, eficacia, reducción de la población carcelaria o un enfoque más humano en la justicia penal.

HK:Hay muchas formas de utilizar la tecnología para mejorar la gestión de recursos. Por ejemplo, la logística cotidiana y otras tareas sencillas podrían automatizarse o apoyarse en una tecnología más inteligente. También podemos mejorar la seguridad dentro del sistema penitenciario utilizando tecnologías inteligentes como la IA. Esta puede proporcionar un análisis proactivo de las grabaciones de CCTV y los sistemas de vigilancia, monitorear de manera discreta los parámetros vitales de los reclusos frágiles y procesar el lenguaje natural para controlar las llamadas telefónicas, entre otras funciones.

Además, la IA puede utilizarse para mejorar los procesos de recursos humanos, como la contratación. No obstante, es importante destacar que el uso más significativo de la tecnología en las prisiones es brindar apoyo en la toma de decisiones de los profesionales.

La IA juega un papel crucial en la rehabilitación, ya que ayuda a encontrar el mejor enfoque y tratamiento para cada individuo.
Al integrar este tipo de tecnología en los sistemas de gestión de delincuentes, se puede facilitar el proceso y mejorar la calidad de la atención al recluso. Asimismo, es esencial contar con salvaguardias que impidan el uso represivo de la IA contra los reclusos.

PP:Creo que hay mucho potencial para utilizar la IA en el ámbito penitenciario, especialmente cuando se trata de cuestiones complejas. El poder de la IA radica en su capacidad de procesamiento, ya que puede manejar grandes cantidades de datos que pueden ser difíciles o incluso imposibles de procesar para un ser humano en un corto período de tiempo.

Hay tres áreas clave en las que la IA puede utilizarse en las organizaciones de justicia penal: seguridad, gestión de delincuentes y automatización y digitalización de los flujos de trabajo y procesos del personal. Esto puede conducir no solo a una mayor rentabilidad, sino también a una mejor realización de análisis y juicios que pueden mejorar los resultados de la prisión y de la libertad condicional

Ilina Taneva es Secretaria del Consejo de Cooperación Penológica (PC-CP por sus siglas en inglés) del Consejo de Europa. Ha sido secretaria de varios comités intergubernamentales encargados de elaborar normas en el ámbito del derecho penal y penitenciario, prisiones, libertad condicional y asistencia posterior, prevención del delito y justicia juvenil.

Håkan Klarin es miembro del equipo de expertos científicos del PC-CP. Es el Director de Informática del Servicio Penitenciario y de Libertad Condicional de Suecia.

Pia Puolakka es miembro del equipo de expertos científicos del PC-CP. Es directora del proyecto Smart Prison y jefa del equipo de seguridad y orientación individual del Servicio de Prisiones y Libertad Condicional de Finlandia.

Fernando Miró Llinares es miembro del equipo de expertos científicos del PC-CP. Es catedrático de Criminología y Derecho Penal en la Universidad Miguel Hernández, España.

Gustar/ Compartir:
More stories
De centros de delincuencia a escuelas de transformación: La reforma penitenciaria en Ceará