Jan Kleijssen at his desk

Além da Justiça: Conselho da Europa procura estabelecer referências globais em inteligência artificial

Entrevista

Jan Kleijssen

Diretor da Diretoria para a Sociedade da Informação e Ação contra o Crime, Conselho da Europa

 JT:  As atividades Diretoria para a Sociedade da Informação e Ação Contra o Crime englobam a definição de padrões, o monitoramento e a cooperação em uma ampla variedade de temas, incluindo inteligência artificial, proteção de dados, ação contra crimes cibernéticos, problemas de crime, cooperação em direito penal, justiça criminal transnacional, ação contra o terrorismo, combate ao crime econômico e corrupção, lavagem de dinheiro e financiamento do terrorismo.

Embora entendamos que é impossível classificar as questões sob a gestão da Diretoria pelo nível de importância ou prioridade, quais o Sr. diria que são as mais urgentes, neste momento?

JK: A primeira é garantir que, durante a pandemia da COVID-19, possamos cumprir nossa missão, não apenas como Diretoria, mas como Conselho da Europa (CoE) enquanto organização, ou seja, garantir o respeito pelos direitos humanos, defender o Estado de Direito e a democracia.

Sabemos que nossos objetivos estatutários estão sob pressão por causa da pandemia e das medidas tomadas para combatê-la. Entendemos que medidas restritivas são necessárias e que a pandemia impõe escolhas difíceis aos governos. 

No entanto, devemos garantir que esse vírus – que está destruindo tanto do que nos é querido – não destrua o próprio tecido de nossas sociedades. Para mim, este é o desafio abrangente que estamos enfrentando no momento.

Deve-se deixar claro que quaisquer restrições que sejam tomadas, quaisquer medidas excepcionais que sejam introduzidas, devem ser todas proporcionais às metas almejadas e devem ser limitadas por tempo.

Em relação às prisões e à liberdade condicional especificamente, é importante salientar que adotamos a revisão das Regras Penitenciárias Europeias. É a quarta vez que são revisadas desde 1973, com base na jurisprudência do tribunal e recomendações do Comitê de Prevenção da Tortura e Tratamento ou Punição Desumana ou Degradante (CPT, segundo sua sigla em inglês). 

Esta revisão considera, em particular, a situação específica das mulheres em detenção, presos estrangeiros e a questão do confinamento em solitária.

Sabemos que estas regras penitenciárias são incorporadas como vinculantes em muitos Estados-Membros, embora sejam o que chamamos de lei suave (soft law) porque não são um tratado. 

Algumas administrações prisionais até têm um prêmio para prisões que mais as respeitam, com intuito de encorajar os diretores das unidades prisionais a levar essas regras muito a sério.

Technology

Outra conquista significativa e muito importante no contexto atual é a nossa Convenção MEDICRIME contra a falsificação de medicamentos, que acho que a pandemia demonstrou ser ainda mais relevante do que antes. 

Esta Convenção é vital para proteger a saúde pública e os direitos humanos, para garantir que, se você tomar uma vacina, ela seja genuína e aprovada, ou que, se você comprar uma máscara protetora, ela tenha sido adequadamente testada, por exemplo. 

Assim, a Convenção MEDICRIME, que tem sido cada vez mais ratificada, é algo em que temos dado muita ênfase.

A corrupção continua sendo um grande problema para a minha Diretoria também. O trabalho do GRECO-Grupo de Estados Contra a Corrupção, que agora tem 50 aderentes (os 47 Estados membros do Conselho da Europa, mais a Bielorrússia, os Estados Unidos da américa e o Cazaquistão), é fundamental. 

É evidente que, com a pandemia e suas consequências econômicas, haverá muito dinheiro gasto pelos governos para ajudar suas economias, e, infelizmente, sabemos que o crime organizado está sempre tentando entrar lá.

A corrupção é uma ameaça constante. Por exemplo, há atualmente um enorme escândalo envolvendo políticos que lucraram com acordos de aquisição de máscaras em alguns Estados-Membros.

Portanto, o combate à corrupção continua sendo extremamente importante. Em particular, precisamos garantir que grandes somas de fundos públicos estejam sendo gastas corretamente em tempos de pandemia.

E o terceiro aspecto é a luta contínua contra o terrorismo, porque vimos que os ataques terroristas também continuaram durante a pandemia. Infelizmente, o terrorismo continua sendo uma ameaça muito séria para nossas sociedades livres. 

Precisamos estar constantemente cientes e alertas de seus riscos, mesmo que as manchetes de notícias sobre a COVID-19 ofusque essa questão.

Em relação às prisões e à liberdade condicional especificamente, é importante salientar que adotamos a revisão das Regras Penitenciárias Europeias. É a quarta vez que são revisadas desde 1973, com base na jurisprudência do tribunal e recomendações do Comitê de Prevenção da Tortura e Tratamento ou Punição Desumana ou Degradante (CPT). Esta revisão considera, em particular, a situação específica das mulheres em detenção, presos estrangeiros e a questão do confinamento em solitária.

Quais são as principais preocupações e objetivos de sua Diretoria em relação ao uso de inteligência artificial? 

JK: A inteligência artificial (IA) está assumindo cada vez mais funções governamentais, com governos delegando decisões, tradicionalmente tomadas por humanos, a sistemas de inteligência artificial. 

E na esfera privada, as empresas também implantaram IA fortemente. Quando é usada para sugerir uma lista de reprodução de música no Spotify, a IA não terá um impacto significativo nos direitos humanos e liberdades de uma pessoa, mas se uma candidatura de emprego com o governo ou se um caso perante um tribunal for decidido através de um algoritmo, então todos os tipos de problemas podem surgir.

Temos visto, por exemplo, casos claros de discriminação de gênero através do uso de algoritmos. Pouco antes da pandemia, a Amazon anunciou que seu departamento de recursos humanos não estaria mais usando IA para recrutamento – a razão é que seus algoritmos eram baseados no perfil dos funcionários já contratados na Amazon, que não tinha mulheres em cargos seniores. 

Isso levou o algoritmo a concluir que as mulheres não estavam aptas para esses cargos e excluiu automaticamente todas as candidatas para posições seniores. Isso é real e infelizmente verdade.

Sabemos de casos no campo judicial, por exemplo, nos Estados Unidos, em que algoritmos baseados em números reais de detentos de uma determinada origem, frequentemente, concluíram que era o suspeito afro-americano quem não deveria ser solto sob fiança ou deveria ser interrogado. 

Isso porque as previsões que os algoritmos podem fazer e as conclusões que eles podem tirar são baseadas em dados, e se os dados forem tendenciosos, o resultado também será tendencioso. Então, é imperativo garantir que haja um processo justo.

Como a IA é cada vez mais utilizada, não deveríamos garantir que os mesmos padrões que se aplicam diariamente aos processos humanos também sejam aplicados a sistemas automatizados? 

Por exemplo, exigimos que os juízes passem por uma extensa e minuciosa formação judicial, então estamos falando de qualificações muito altas. Suponha que as decisões judiciais sejam delegadas às máquinas. 

Nesse caso, é melhor garantir que as máquinas, os sistemas utilizados e as pessoas que os desenvolvem e programam também tenham qualificações muito altas.

Human brain

Outra questão sensível relacionada à IA é a transparência. Quando você lida com um algoritmo em vez de um ser humano, você deve ser informado. A respeito disso, os Estados Unidos da América estão na vanguarda. 

O Estado da Califórnia já possui uma lei que se aplica a empresas com mais de um milhão de clientes, exigindo que informem ao cliente se a interação é com um bot em vez de um humano. Isso deve ficar ainda mais claro quando as organizações estatais estão utilizando-as.

Muitas das preocupações em torno do uso da IA já estão cobertas, em primeiro lugar, em parte, pela legislação existente, ou seja, a Convenção Europeia sobre Direitos Humanos, que também se aplica on-line/às máquinas.

Em segundo lugar, há toda uma série de chamadas Cartas Éticas, declarações conjuntas não vinculantes, de governos, indústria e sociedade civil, sobre o uso ético da inteligência artificial. 

Mas, como observado, elas não são vinculantes, por isso não oferecem as garantias que precisamos. Escândalos como o do Facebook-Oxford Analytica demonstram o quão importante é ter regras eficazes de IA e coleta de dados.

Por isso, estamos trabalhando agora com base em instrumentos não vinculantes existentes a fim de identificar os requisitos para um tratado básico sobre IA – possivelmente uma Convenção. Nosso objetivo é definir regras claras para todas as etapas: do design ao desenvolvimento, até a aplicação.

E por que o Conselho da Europa a fazer isso? Embora sejamos uma organização regional, já estabelecemos referências globais no campo da tecnologia antes. 

No momento, há apenas um tratado no mundo sobre crimes cibernéticos: é a Convenção de Crimes Cibernéticos do Conselho da Europa, ratificada por sessenta e cinco países, muitos fora da Europa. Além disso, no ano passado estivemos presentes com esta Convenção em mais de 130 países – é um padrão global.

A proteção de dados é outro exemplo: há quarenta anos, o Conselho da Europa foi a primeira organização internacional a estabelecer uma convenção de proteção de dados, que é, eu diria, a precursora do GDPR (iniciais de General Data Protection Regulation, semelhante à Lei Geral de Proteção de Dados, no Brasil).

Outro exemplo no setor de tecnologia foi a clonagem da ovelha Dolly. Após este evento, o Conselho da Europa rapidamente negociou um protocolo para proibir a clonagem de humanos. Conseguimos reagir muito rapidamente aos avanços tecnológicos.

Por todas essas razões, o Conselho da Europa está muito bem posicionado para preparar tal instrumento em relação ao uso da IA. Realizamos um Estudo de Viabilidade aprovado por unanimidade pelos Estados-Membros em dezembro de 2020, que agora é a base para o trabalho em andamento.

(...) a inteligência artificial já é usada por algumas administrações prisionais para alocar celas aos presos (...) pode apoiar amplamente – e para o bem de todos – processos no contexto de ressocialização, reabilitação e outro programas. Nos sistemas prisionais, a IA pode ter muitos usos para economizar tempo, e também pode salvar vidas. Por exemplo, em prisões onde há alto risco de suicídio, os sistemas podem ser usados para detectar comportamentos e sinais e, portanto, ser um ativo para a segurança.

 JT:  Em setembro de 2019, o Comitê de Ministros do Conselho da Europa criou o Comitê Ad Hoc de Inteligência Artificial (CAHAI).

Qual é a razão para esta comissão especial existir, e até que ponto ela agrega valor ao trabalho da sua Diretoria nesta área?

JK: Minha Diretoria atende o Secretariado ao CAHAI, um órgão subordinado que reporta ao Comitê de Ministros. 

Assim, sou responsável por sua organização e gestão, que compreende representantes seniores do governo, da indústria e da sociedade civil, dos 47 Estados-Membros, cinco Estados observadores e Israel. Este último fez um pedido específico para ser admitido nas negociações.

O CAHAI recebeu um mandato no final de 2019 por dois anos, e o Estudo de Viabilidade foi apresentado na metade do mandato. Com base nele, temos até o final de 2021 para disponibilizar os elementos de um Tratado à Comissão de Ministros. E esperamos que, durante este ano, a Comissão dos Ministros decida iniciar negociações formais. E então, veremos a rapidez com que o processo se desenrolará.

Permita-me  dizer que o Conselho da Europa tem o recorde do tratado mais rápido de todos os tempos: depois dos ataques terroristas em Bataclan e Charlie Hebdo, em sete semanas fomos capazes de negociar um protocolo vinculante sobre combatentes terroristas estrangeiros. 

No entanto, as negociações ao nível de um Tratado podem demorar um pouco mais. Esperamos que um Tratado possa estar sobre a mesa nos próximos dois anos e meio.

Jan Kleijssen

Especificamente no que diz respeito ao uso de inteligência artificial pelos sistemas de justiça, incluindo os serviços prisionais e de liberdade condicional, quais são as principais considerações até o momento? 

O que é necessário para garantir que a IA seja aplicada de forma responsável e em conformidade com as normas protegidas pelo Conselho da Europa, ou seja, Direitos Humanos, democracia e Estado de Direito? 

JK: É claro que a inteligência artificial (IA) também é considerada no setor penitenciário.

Na última Conferência Anual de Diretores dos Serviços Penitenciários e de Liberdade Condicional, vimos uma contribuição interessante de Cingapura, sobre uma prisão totalmente automatizada. Essa prisão não tem guardas; inteligência artificial e robôs fazem tudo. 

Não acho que esse seja o modelo que todos gostariam, mas a inteligência artificial já é usada por algumas administrações prisionais para alocar celas aos prisioneiros e decidir quem deve dividir uma cela com quem, quem seria compatível, quem representaria um risco.

A inteligência artificial pode apoiar amplamente – e para o bem de todos – processos no contexto de ressocialização, reabilitação e outros programas. 

Nos sistemas prisionais, a IA pode ter muitos usos para economizar tempo, e também pode salvar vidas. Por exemplo, em prisões onde há alto risco de suicídio, os sistemas podem ser usados para detectar comportamentos e sinais e, portanto, ser um ativo para a segurança. 

Mas, como disse antes, os dados são cruciais, e devemos garantir que a IA não leve à discriminação ou restrinja os direitos das pessoas detidas.

 

 JT:  Na 25ª Conferência de Diretores de Serviços Penitenciários e de Liberdade Condicional (CDPPS, segundo sua sigla em inglês), realizada nos dias 10 e 11 de novembro de 2020, o Sr. mencionou que as administrações penitenciárias devem investir em medidas compensatórias adequadas para aliviar as restrições às visitas, contatos, intervenções e atividades, causadas pela crise pandêmica.

Até que ponto considera que o respeito e a proteção dos direitos humanos dos infratores foram afetados em todos os Estados-Membros do CoE por causa da pandemia da COVID-19? 

Como sua Diretoria apoia as jurisdições dos membros para atender aos padrões mantidos, apesar da crise sanitária? 

JK: É evidente que muitas pessoas que vivem juntas em espaços limitados e ambientes fechados, como prisões, estão sujeitas a maior risco e, portanto, desde o início da pandemia, emitimos diretrizes para ajudar as autoridades nacionais a lidar com a crise.

Além disso, a CPT continuou visitando os presídios para monitorar a situação e garantir que medidas adequadas estavam sendo tomadas em relação a COVID-19.

Também temos um comitê de bioética no Conselho da Europa, que elaborou diretrizes sobre vacinação ética. Este comitê enfatizou que grupos particularmente vulneráveis – e pessoas em detenção certamente são vulneráveis – devem ser devidamente priorizados na vacinação.

Há várias frentes em que temos sido ativos. Além disso, estamos atualmente considerando orientações aos nossos Estados-Membros sobre a saúde mental dos presos, as quais esperamos emitir em breve. 

Embora a pandemia seja difícil para todos, é particularmente dura para os detentos, principalmente porque eles tendem a não ter fácil acesso a ferramentas de comunicação digital e não podem ver suas famílias pessoalmente durante esse período.

Portanto, estamos lidando com muitas questões que são muito relevantes em tempos de pandemia e grandes desafios, tanto colocados pela pandemia quanto pela reação a ela.

O kit de ferramentas “Respeitar a democracia, o Estado de Direito e os direitos humanos no âmbito da crise sanitária da COVID-19”, emitido pela nossa Secretária Geral, também é muito relevante para os serviços prisionais e de liberdade condicional. Sobretudo, trata-se de lidar com as consequências da pandemia de uma forma que respeite valores comuns.

Jan Kleijssen

Diretor da Diretoria para a Sociedade da Informação e Ação contra o Crime, Conselho da Europa

Jan Kleijssen ingressou no Conselho da Europa em 1983 como advogado na Comissão Europeia de Direitos Humanos. Em 1987, foi nomeado para a Secretaria da Assembleia Parlamentar. Kleijssen foi secretário do Comitê de Assuntos Políticos de 1990 a 1999. Atuou como Diretor do Gabinete Privado do Secretário-Geral até 2004. Posteriormente, atuou como Diretor na Assembleia Parlamentar e Assessor Especial do Presidente. Em 2006, mudou-se para a Direção Geral de Direitos Humanos e foi Diretor de Normas Padrão até 2011, quando foi nomeado para o cargo atual. É formado em Direito Internacional pela Universidade de Utrecht e mestre em Assuntos Internacionais pela Universidade de Carleton.

Curtir / Compatilhar

Alterar idioma

Explore mais

Cursos online: Corrections Learning Academy

Comunidade profissional: Corrections Direct

Recursos: Crime Solutions

Recursos Crime Reduction Toolkit

More stories
Jeremy Lightfoot
Esforços de mudança sistêmica nos serviços penitenciários da Nova Zelândia já estão dando frutos