Jan Kleijssen at his desk

Justicia y más allá: El Consejo de Europa trabaja para establecer puntos de referencia mundiales en inteligencia artificial

Entrevista

Jan Kleijssen

Director de la Dirección de Sociedad de la Información y Acción contra la Delincuencia del Consejo de Europa

 JT:  Las actividades de la Dirección de Sociedad de la Información y Acción contra la Delincuencia comprenden el establecimiento de normas, la supervisión y la cooperación en una amplia variedad de temas, como la inteligencia artificial, la protección de datos, la acción contra la ciberdelincuencia, los problemas de la delincuencia, la cooperación en materia de derecho penal, la justicia penal transnacional, la acción contra el terrorismo, la lucha contra la delincuencia económica y la corrupción, el blanqueo de capitales y la financiación del terrorismo.

Aunque entendemos que no es posible clasificar los temas del mandato de la Dirección por nivel de importancia o prioridad, ¿cuáles diría usted que son los más urgentes en este momento?

JK: Yo diría que la primera es asegurarnos de que, durante la pandemia de la COVID-19, podamos cumplir nuestra misión, no solo como Dirección, sino como Consejo de Europa, como organización, es decir, para garantizar el respeto de los derechos humanos, la defensa del Estado de Derecho y la democracia. 

Sabemos que todos nuestros objetivos estatutarios están bajo presión debido a la pandemia y también debido a las medidas que se han tomado para combatirla. Entendemos que las medidas restrictivas son necesarias y que la pandemia impone decisiones difíciles a los gobiernos. Sin embargo, debemos asegurarnos de que este virus, que está destruyendo gran parte de lo que es importante para nosotros, no destruya el tejido mismo de nuestras sociedades. Para mí, este es el desafío general al que nos enfrentamos en este momento.

Debe quedar claro que todas las restricciones que se adopten, todas las medidas excepcionales que se introduzcan, deben ser proporcionales a los objetivos que se pretenden alcanzar y deben estar limitadas en el tiempo.

En cuanto a las prisiones y la libertad condicional específicamente, creo que es importante señalar que hemos adoptado Normas Penitenciarias Europeas Revisadas – la cuarta vez que se revisan desde 1973 – sobre la base de la jurisprudencia del tribunal y las recomendaciones del Comité para la prevención de la tortura y de las penas o tratos inhumanos o degradantes del Consejo de Europa (CPT, por sus siglas en inglés).

Esta revisión tiene más en cuenta la situación específica de las mujeres detenidas, los presos extranjeros y la cuestión del aislamiento. Sabemos que en muchos Estados miembros, estas normas penitenciarias, aunque son normas no vinculantes porque después de todo no son un tratado, se incorporan como si fueran vinculantes.

De hecho, algunas administraciones penitenciarias incluso tienen un premio para las prisiones que las respetan más plenamente, con el f in de alentar a los gobernadores de las prisiones a tomarlas muy en serio.

Technology

Otro gran logro importante en el contexto actual es nuestra Convención MEDICRIME contra la falsificación de medicamentos, que creo que la pandemia ha demostrado ser aún más relevante que antes. Esta convención es importante para proteger la salud pública y los derechos humanos, para garantizar que, si recibe una vacuna, sea genuina y esté aprobada, o que si compra una mascarilla de protección, ha sido debidamente probada, por ejemplo. Entonces, la Convención MEDICRIME, que ha sido cada vez más ratificada, es algo en lo que hemos estado poniendo mucho énfasis. 

La corrupción también sigue siendo un gran problema para mi Dirección. El trabajo del Grupo de Estados contra la Corrupción del Consejo de Europa (GRECO), que ahora tiene 50 partidos (los 47 Estados miembros del Consejo de Europa, más Bielorrusia, Estados Unidos y Kazajstán) es extremadamente importante porque es obvio que, con la pandemia y sus consecuencias económicas, los gobiernos gastarán mucho dinero para ayudar a sus economías, y lamentablemente, sabemos que el crimen organizado siempre está tratando de entrar allí.

La corrupción es una amenaza constante. Por ejemplo, en algunos Estados miembros, actualmente hay un gran escándalo que involucra a políticos que se beneficiaron de los acuerdos de adquisición de mascarillas. Por tanto, la lucha contra la corrupción sigue siendo extremadamente importante. En particular, tenemos que asegurarnos de que las grandes sumas de fondos públicos se gastan correctamente en tiempos de pandemia.

Y el tercer aspecto es la lucha continua contra el terrorismo, porque hemos visto que los ataques terroristas también han continuado durante la pandemia. Lamentablemente, el terrorismo sigue siendo una amenaza muy grave para nuestras sociedades libres, y debemos ser siempre conscientes y estar alerta en cuanto a sus riesgos, incluso si esta cuestión se ve eclipsada por la COVID-19 en los titulares de las noticias.

En cuanto a las prisiones y la libertad condicional específicamente, creo que es importante señalar que hemos adoptado Normas Penitenciarias Europeas Revisadas – la cuarta vez que se revisan desde 1973 – sobre la base de la jurisprudencia del tribunal y las recomendaciones del Comité para la prevención de la tortura y de las penas o tratos inhumanos o degradantes del Consejo de Europa (CPT, por sus siglas en inglés). Esta revisión tiene más en cuenta la situación específica de las mujeres detenidas, los presos extranjeros y la cuestión del aislamiento.

¿Cuáles son las principales preocupaciones y objetivos de su Dirección con respecto al uso de la Inteligencia Artificial (IA)?

JK:  La IA está asumiendo cada vez más las funciones gubernamentales con los gobiernos delegando las decisiones, tradicionalmente tomadas por los seres humanos, en sistemas de IA. Y en el ámbito privado, las empresas también despliegan la IA en gran medida. Ahora, si esto se utiliza para sugerir una lista de reproducción de canciones en Spotify, no causará un gran impacto en los derechos humanos y las libertades de una persona, pero si tu solicitud de trabajo con el gobierno o si tu caso ante un tribunal se decide a través de un algoritmo, entonces pueden surgir todo tipo de problemas.

Hemos visto, por ejemplo, casos claros de discriminación de género mediante el uso de algoritmos. Justo antes de la pandemia, Amazon anunció que su departamento de recursos humanos ya no usaría IA para la contratación, debido a que sus algoritmos se basaban en la estructura de personal existente de Amazon, que no tenía mujeres en puestos directivos. Esto llevó al algoritmo a concluir que las mujeres no eran aptas para puestos de alto nivel y que todas las candidatas a puestos de alto nivel fueron automáticamente excluidas. Esto es real y tristemente cierto.

Sabemos por casos en el campo judicial, por ejemplo, en los Estados Unidos, que los algoritmos basados en el número real de detenidos de cierto origen a menudo concluyeron que era el sospechoso afroamericano quien no debía ser puesto en libertad bajo fianza o debía ser interrogado, y eso es porque las predicciones que los algoritmos pueden hacer y las conclusiones que pueden sacar se basan en datos, y si los datos son sesgados, el resultado también será sesgado. Por lo tanto, es extremadamente importante asegurarse de que haya un proceso justo.

A medida que la IA se utiliza cada vez más, ¿no debemos asegurarnos de que los mismos estándares que se aplican diariamente a los procesos humanos también se apliquen a los sistemas automatizados? Por ejemplo, exigimos que los jueces se sometan a una formación judicial amplia y exhaustiva, por lo que estamos hablando de cualificaciones muy altas. Ahora bien, si las decisiones judiciales se van a delegar en máquinas, es mejor asegurarse de que tanto las máquinas como los sistemas que se utilizan y las personas que las desarrollan y programan también estén altamente cualificadas.

Otro tema delicado relacionado con la IA es la transparencia. Cuando una persona trata con un algoritmo, en lugar de con un ser humano, se debe informar a esta persona. En este sentido, Estados Unidos está a la vanguardia: el estado de California ya tiene una ley, que se aplica a las empresas con más de un millón de clientes, que les obliga a informar al cliente si la interacción es con un bot en lugar de con un humano. Es increíblemente importante que esto quede claro aún más cuando las agencias estatales están utilizando la IA.

Human brain

Muchas de las preocupaciones en torno al uso de la IA ya están cubiertas, en primer lugar, en parte, por la legislación existente, a saber, el Convenio Europeo de los Derechos Humanos, que también se aplica en línea/a las máquinas.

En segundo lugar, existe toda una serie de las denominadas «cartas éticas», declaraciones conjuntas no vinculantes, de los gobiernos, la industria y la sociedad civil, sobre el uso ético de la IA. Pero, como se ha señalado, no son vinculantes, por lo que no ofrecen las garantías que necesitamos. Escándalos como el de Facebook-Oxford Analytica demuestran lo importante que es que exista una normativa efectiva sobre IA y la recopilación de datos.

Por lo tanto, ahora estamos trabajando sobre la base de los instrumentos no vinculantes existentes para identificar lo que se requiere para un tratado básico sobre IA, posiblemente una Convención, a fin de definir normas claras para todas las etapas, desde el diseño hasta el desarrollo y la aplicación.

¿Y por qué el Consejo de Europa? Aunque somos una organización regional, ya hemos establecido puntos de referencia globales en el campo de la tecnología. Por el momento solo existe un tratado en el mundo sobre ciberdelincuencia: es el Convenio sobre la ciberdelincuencia del Consejo de Europa, ratificado por sesenta y cinco países, muchos fuera de Europa. Además, el año pasado estuvimos activos con esta Convención en más de 130 países; realmente es un estándar mundial.

La protección de datos es otro ejemplo: hace cuarenta años, el Consejo de Europa fue la primera organización internacional en establecer un convenio de protección de datos, que es, diría, el precursor del GDPR. Otro ejemplo en el sector tecnológico fue la clonación de la oveja Dolly. Tras este evento, el Consejo de Europa negoció muy rápidamente un protocolo para prohibir la clonación de seres humanos. Pudimos reaccionar muy rápidamente a los avances tecnológicos.

Por todas estas razones, el Consejo de Europa está muy bien situado para preparar un instrumento de este tipo en relación con el uso de la IA.

Realizamos un Estudio de Viabilidad que fue aprobado por unanimidad por los Estados miembros en diciembre de 2020 y ahora es la base del trabajo en curso.

(...) algunas administraciones penitenciarias ya utilizan la IA para asignar celdas a los presos (...) La reinserción en la sociedad, la rehabilitación y los programas pueden ser apoyados en gran medida, y por el bien, por la IA. En los sistemas penitenciarios, la IA puede tener muchos usos para ahorrar tiempo y también puede salvar vidas. Por ejemplo, en las cárceles donde existe un alto riesgo de suicidio, los sistemas de IA pueden utilizarse para detectar comportamientos y señales y, por lo tanto, ser un activo para la seguridad.

 JT:  En septiembre de 2019, el Comité de Ministros del Consejo de Europa creó el Comité Ad Hoc sobre Inteligencia Artificial (CAHAI).

¿Cuál es la razón de este comité especial y en qué medida añade valor al trabajo de su Dirección en este campo?

JK: Mi Dirección proporciona la Secretaría al CAHAI, que es un órgano subordinado e informa al Comité de Ministros. Por lo tanto, soy responsable de la organización y gestión del CAHAI, que está compuesto por altos representantes del gobierno, de la industria y la sociedad civil, no solo de los 47 Estados miembros, sino también de cinco Estados observadores más Israel, que hicieron una solicitud específica para ser admitido en las negociaciones.

El CAHAI recibió un mandato a finales de 2019, por dos años, y el Estudio de Viabilidad se presentó a mitad del mandato. Sobre la base del Estudio de Viabilidad, ahora tenemos hasta finales de 2021 para presentar los elementos de un tratado a la Comisión de Ministros. Y esperamos que, durante este año, el Comité de Ministros tome la decisión de iniciar negociaciones formales. Y luego veremos cómo de rápido se desarrollará el proceso.

Permítanme decir que el Consejo de Europa tiene el récord del tratado más rápido de la historia: después de los ataques terroristas en Bataclan y Charlie Hebdo, en siete semanas pudimos negociar un protocolo vinculante sobre los combatientes terroristas extranjeros. Sin embargo, las negociaciones en el ámbito de un tratado pueden tardar un poco más. Esperamos que un tratado pueda estar sobre la mesa en los próximos dos años y medio.

Jan Kleijssen

En lo que respecta específicamente al uso de la inteligencia artificial (IA) por parte de los sistemas judiciales, incluidos los servicios penitenciarios y de libertad condicional, ¿cuáles son las principales consideraciones hasta la fecha, y qué se necesita para garantizar que la IA se aplique de forma responsable y respetando las normas protegidas por el Consejo de Europa, es decir, los derechos humanos, la democracia y el Estado de Derecho?

JK: Está claro que la IA también se está considerando en el ámbito penitenciario. En la última Conferencia Anual de Directores de Prisiones y Libertad Condicional, vimos una interesante contribución de Singapur, donde tienen una prisión totalmente automatizada. Esa prisión no tiene guardias, todo lo hacen la IA y los robots. 

No creo que sea el modelo que todo el mundo querría, pero algunas administraciones penitenciarias ya utilizan la IA para asignar celdas a los presos, y para decidir quién debe compartir celda con quién, quién sería compatible, quién supondría un riesgo. Los procesos en el ámbito de la reinserción en la sociedad, la rehabilitación y los programas pueden ser apoyados en gran medida, y por el bien, por la IA.

En los sistemas penitenciarios, la IA puede tener muchos usos para ahorrar tiempo y también puede salvar vidas. Por ejemplo, en las cárceles donde existe un alto riesgo de suicidio, los sistemas de IA pueden utilizarse para detectar comportamientos y señales y, por lo tanto, ser un activo para la seguridad.

Pero, como he dicho antes, los datos son cruciales y debemos asegurarnos de que la IA no conduzca a la discriminación ni restrinja los derechos de los detenidos.

 JT:  En la 25.ª Conferencia de Directores de Prisiones y Libertad Condicional (CDPPS) del Consejo de Europa, celebrada virtualmente los días 10 y 11 de noviembre de 2020, usted mencionó que las administraciones penitenciarias deberían invertir en medidas compensatorias adecuadas para aliviar las restricciones de visitas, contactos, intervenciones y actividades causadas por la crisis de la pandemia.

¿En qué medida considera que el respeto y la protección de los derechos humanos de los delincuentes se vieron afectados en los Estados miembros del CoE debido a la pandemia de la COVID-19? ¿Cómo apoya su Dirección a las jurisdicciones de los países miembros

JK: Está claro que muchas personas que conviven en espacios limitados y en entornos cerrados, como las prisiones, están sujetas a un mayor riesgo, y por ello, desde el comienzo de la pandemia, hemos publicado directrices para ayudar a las autoridades nacionales a hacer frente a la crisis. Además, el CPT ha seguido visitando las cárceles para supervisar la situación y garantizar que se tomen las medidas adecuadas con respecto a la COVID-19. 

También tenemos un comité de bioética en el Consejo de Europa, que redactó directrices sobre vacunación ética y enfatizó que los grupos particularmente vulnerables – y las personas detenidas ciertamente son vulnerables – deben tenerse debidamente en cuenta cuando se trata de prioridades de vacunación.

Hay varios frentes en los que hemos estado activos. Además, actualmente estamos considerando orientación a nuestros Estados miembros sobre la salud mental de los presos, que esperamos emitir pronto, porque aunque la pandemia es difícil para todos, es particularmente dura para los detenidos, porque tienden a no tener un acceso tan fácil a las herramientas de comunicación digital y no pueden ver a sus familias en persona durante este periodo.

Por lo tanto, estamos abordando muchas cuestiones que son muy relevantes en tiempos de pandemia, así como grandes desafíos planteados tanto por la pandemia como por la reacción a ella.

Y, un documento muy relevante, también para los servicios de prisiones y libertad condicional, es el conjunto de herramientas que nuestro secretario general ha publicado sobre cómo hacer frente a las consecuencias de la pandemia de una manera que respete los valores comunes: “Respetar la democracia, el Estado de Derecho y los derechos humanos en el marco de la crisis sanitaria de COVID-19”.

Jan Kleijssen

Director de la Dirección de Sociedad de la Información y Acción contra la Delincuencia del Consejo de Europa

Jan Kleijssen se incorporó al Consejo de Europa en 1983 como abogado de la Comisión Europea de Derechos Humanos. En 1987, fue nombrado miembro de la Secretaría de la Asamblea Parlamentaria y fue secretario de la Comisión de Asuntos Políticos de 1990 a 1999. Luego ejerció como director del Gabinete del Secretario General hasta 2004, y posteriormente como director en la Asamblea Parlamentaria y asesor especial del presidente. En 2006, se trasladó a la Dirección General de Derechos Humanos, y fue director con funciones normativas hasta 2011, cuando fue nombrado para su cargo actual. Es licenciado en Derecho Internacional por la Universidad de Utrecht y tiene un Máster en Asuntos Internacionales por la Universidad de Carleton.

Gustar/ Compartir:
More stories
Stephane Bredin Prisons France
La anunciada reforma correccional en Francia agrega lugares a las prisiones pero quiere menos encarcelamientos