Entrevista
Conselho de Cooperação Penológica, Conselho da Europa
Ilina Taneva (Secretátia), Håkan Klarin, Pia Puolakka & Fernando Miró Llinares (Especialistas)
O Conselho de Cooperação Penológica (PC-CP, segundo sua sigla em inglês) é o comitê de especialistas do Conselho da Europa dedicado à elaboração de normas e princípios no domínio da execução de sanções e medidas penais privativas e não privativas de liberdade.
O PC-CP está atualmente preparando um projeto de Recomendação sobre os Aspectos Éticos e Organizacionais da Utilização de Inteligência Artificial e Tecnologias Digitais relacionadas pelos Serviços Prisionais e de Liberdade Condicional.
O documento deverá ser aprovado pelo Comitê Europeu para os Problemas Criminais (CDPC, segundo sua sigla em inglês) e finalmente adotado formalmente pelo Comitê de Ministros do Conselho da Europa.
Esta recomendação fornece orientações sobre os aspectos éticos e organizacionais da utilização da IA e tecnologias digitais relacionadas nas prisões e serviços de liberdade condicional, destinadas às administrações que consideram a sua utilização e às empresas privadas que as desenvolvem.
O que criou a necessidade de desenvolver recomendações específicas para a utilização de inteligência artificial (IA) nos serviços prisionais e de liberdade condicional?
IT: O Comitê Europeu para os Problemas Criminais, que é o nosso comitê diretor, decidiu que a inteligência artificial deveria estar na nossa agenda. Vários dos órgãos do Conselho da Europa agora lidam com inteligência artificial no âmbito do seu mandato.
Diretrizes para os tribunais e o Ministério Público já foram adotadas, e está atualmente está sendo elaborada uma convenção-quadro. Espera-se que a convenção seja concluída até ao final do ano e que estabeleça um quadro geral sobre a utilização de inteligência artificial.
Além disso, o Comitê Europeu para os Problemas Criminais está trabalhando em um instrumento legal para os veículos de condução automatizada e responsabilidade criminal, que também está relacionado com a IA. O Conselho da Europa está trabalhando ativamente em vários aspectos da inteligência artificial e, dependendo da área, poderão ser desenvolvidas normas mais detalhadas, para além da convenção-quadro.
PP: Os serviços prisionais e de liberdade condicional trabalham com uma população muito vulnerável e marginalizada de modo que é especialmente importante ter diretrizes éticas relativas ao uso da IA. A regulação da IA é um tema muito debatido em todas as áreas, mas deve ser especialmente importante na penitenciária.
FM: Quando se fala de inteligência artificial, se encontra algumas opiniões radicais, ou muito distópicas ou muito utópicas, sobre como isso vai resolver tudo, ou será o pior que já aconteceu aos serviços prisionais e de liberdade condicional. Temos de ser muito realistas sobre o que pode ser oferecido, mas também sobre os desafios que lhe são inerentes.
O Conselho da Europa está se dando conta de que a inteligência artificial e tecnologias relacionadas já estão sendo utilizadas em algumas prisões e nos sistemas de justiça criminal como um todo.
Este tipo de tecnologia inovadora desenvolve-se tão rapidamente que, se não se regular ou não se estabelecerem algumas recomendações éticas, será criada e utilizada sem elas. É por isso que precisamos de as regular agora.
HK: É bom que estejamos escrevendo recomendações tão cedo no ciclo de desenvolvimento tecnológico. Estamos no limiar de um novo movimento de introdução de tecnologia e digitalização da perspectiva dos reclusos.
Os serviços digitais no contexto prisional atualmente são utilizados à escala global, e já se podem ver bons exemplos das suas aplicações. Mas só são utilizados com uma aplicação limitada.
Seguindo em frente, veremos muitas novas tecnologias e formas mais inteligentes de as utilizar. Isto conduzirá também à introdução de IA quer queiramos quer não, porque muitas das tecnologias subjacentes estão utilizando a aprendizagem de máquinas e tecnologias relacionadas.
É vital para nós termos regulamentos e recomendações que descrevam o que deve e não deve ser feito, e que sirvam também como guia para profissionais e provedores para aprender como as tecnologias digitais e a IA podem ser utilizadas no setor da justiça.
Ao introduzir recomendações nesta fase, temos a oportunidade de implementar estas tecnologias da forma correta e maximizar os seus efeitos positivos.
Quando se fala de inteligência artificial, se encontra algumas opiniões radicais, ou muito distópicas ou muito utópicas, sobre como isso vai resolver tudo, ou será o pior que já aconteceu aos serviços prisionais e de liberdade condicional. Temos de ser muito realistas sobre o que pode ser oferecido, mas também sobre os desafios que lhe são inerentes.
Qual tem sido a abordagem ao criar recomendações para uma aplicação da tecnologia em constante evolução e multifacetada?
IT: As recomendações centram-se na abordagem dos desafios e vantagens da utilização da IA na prisão e na liberdade condicional.
Elas foram concebidas para serem suficientemente amplas, sendo úteis para todos os serviços prisionais e de liberdade condicional, independentemente do seu nível atual de adoção da IA.
O principal objetivo é proporcionar orientação sobre como utilizar a IA de forma responsável e segura e, ao mesmo tempo, tendo em mente que o campo da IA está em rápida evolução.
Recomendamos que a tecnologia deve substituir tarefas repetitivas e cotidianas que não são cruciais para fins de ressocialização, como abrir e fechar portas ou distribuir alimentos. Ela deve ser concebida para apoiar os funcionários, e não para o substituir ou prejudicar o seu papel.
Quais as principais preocupações que as recomendações abordam?
IT: Estamos preocupados principalmente na forma como a tecnologia pode afetar os direitos humanos e as liberdades [individuais]. Uma das principais questões é a proteção de dados. A inteligência artificial pode ser muito intrusiva, e ainda não sabemos até onde esta intrusão pode ir, e como pode ter um impacto negativo na proteção dos direitos humanos.
Outra preocupação importante é que não queremos substituir o contato humano por inteligência artificial, porque, como demonstram as evidências, as relações humanas podem influenciar positivamente os infratores.
Recomendamos que a tecnologia deve substituir tarefas repetitivas e cotidianas que não são cruciais para fins de ressocialização, como abrir e fechar portas ou distribuir alimentos. Ela deve ser concebida para apoiar os funcionários, e não para o substituir ou prejudicar o seu papel.
Recomendamos que as empresas privadas adaptem as suas ferramentas de inteligência artificial às necessidades do pessoal, e garantam que os profissionais se mantenham no controle, na medida do possível.
FM: O principal objetivo é não perder de vista as missões da prisão e da liberdade condicional no processo de digitalização.
É muito importante que mantenhamos a filosofia do sistema prisional no centro da concepção e desenvolvimento da IA. O foco na ressocialização e os princípios que orientam a prisão e a liberdade condicional devem continuar sendo uma prioridade.
Neste sentido, a IA só deve ser usada quando é necessária e melhora alguma coisa, em vez de a implementar só porque está disponível.
PP: É importante lembrar que a IA não se destina a substituir a tomada de decisões pelos humanos, mas sim a ajudar no processo. Por exemplo, no âmbito penitenciário, a IA pode ser utilizada até certo ponto para fins de segurança e para avaliar os infratores e os processos.
Mas, em última análise, as decisões devem ser tomadas pelos seres humanos. Isto é particularmente crucial quando se trabalha com populações vulneráveis, pois é importante manter uma forte componente humana nestas interações.
É importante lembrar que a IA não se destina a substituir a tomada de decisões pelos humanos, mas sim a ajudar no processo
HK: Uma das recomendações chave que eu destacaria é a criação de um processo transparente de desenvolvimento que possa orientar a organização ao longo de todo o projeto.
Isto inclui a boa governança e as melhores práticas para identificar e abordar quaisquer obstáculos ou problemas que possam surgir. Isto é particularmente crítico quando se trabalha com novas tecnologias, uma vez que garante um resultado fluido e satisfatório.
A transparência é central quando se trata da utilização de IA no contexto da prisão e da liberdade condicional. O processo de concepção, desenvolvimento e utilização de IA deve também estar aberto à análise pública e ser regularmente monitorado. Este princípio deve ser tomado em consideração no início do processo de desenvolvimento, uma vez que uma concepção aberta promoverá a confiança e a responsabilização.
Qual é a importância de fechar a lacuna atual entre a alfabetização digital e AI no setor e a crescente velocidade de desenvolvimento destas tecnologias?
PP: Os funcionários que utilizam IA devem compreender os fundamentos e a lógica desta tecnologia. Devem estar conscientes da razão pela qual estão fazem o que fazem e o que está realmente acontecendo dentro da chamada caixa negra da IA.
Estes projetos [implementação de tecnologia] são geralmente liderados por especialistas em TIC e por isso a maioria dos funcionários não tem conhecimentos técnicos suficientes.
No entanto, os agentes prisionais e de liberdade condicional são os que mais precisam receber formação sobre como utilizar a IA de uma forma ética. A menos que os funcionários estejam conscientes de como estes sistemas funcionam e devem ser utilizados, corremos o risco de que a IA possa começar a influenciar o seu pensamento e outros processos.
Também é importante que os infratores tenham uma compreensão básica da IA, uma vez que estes instrumentos são utilizados em assuntos relevantes para a sua sentença, processos judiciais e os seus direitos como cidadãos. Por exemplo, na Finlândia, têm sido feitos esforços para elevar as competências digitais e a consciência da IA tanto do pessoal como dos infratores.
De que os administradores do sistema prisional devem estar especialmente conscientes quando tomam decisões sobre se e quando devem implementar este tipo de tecnologia nas suas instalações?
FM: Em relação à segurança e privacidade, é crucial considerar medidas de cibersegurança ao criar ou utilizar dados. Em estabelecimentos prisionais e de liberdade condicional, onde são utilizadas câmeras de segurança, dispositivos de monitoramento e sistemas digitais, isto é particularmente importante.
É vital que os administradores compreendam a importância de apenas recolher e utilizar os dados que são estritamente necessários. Além disso, devem estar atentos à proteção dos dados pessoais não só contra a utilização indevida interna, mas também contra o acesso não autorizado por terceiros.
Que tipo de benefícios a IA bem implementada e regulamentada e as tecnologias digitais relacionadas podem oferecer às instituições prisionais e de liberdade condicional?
FM: Quando se trata de regular a IA, há muitos aspectos positivos que podem ser introduzidos, tais como assegurar a integração da proteção dos direitos humanos e a ideia de ressocialização no centro do desenvolvimento da IA.
Em termos dos benefícios que podem advir da utilização de IA, acredito que se for bem concebida, pode ter muitos. Uma das mais importantes é que a IA pode ser uma grande ferramenta para fundamentar decisões, fornecer informações precisas e ajudar-nos a compreender melhor o quadro geral do que se passa dentro das instituições prisionais e de liberdade condicional. Para avaliar as decisões e as suas consequências.
Também acredito que a IA pode ser utilizada para melhorar a ressocialização dos reclusos através da concepção de programas de intervenção personalizados e da melhoria das suas competências digitais.
Em última análise, a chave é ter em mente que a tecnologia é neutra e que temos a capacidade de a moldar para alcançar os nossos resultados desejados. Se queremos maior segurança e eficiência, menos reclusos na prisão ou uma abordagem mais humana da justiça penal, temos de estruturar o sistema com esses objetivos em mente.
HK: Há muitas formas de utilizarmos a tecnologia para melhorar a nossa gestão de recursos. As coisas simples poderiam ser automatizadas ou apoiadas por tecnologia mais inteligente, como a logística diária.
Podemos também melhorar a segurança dentro do sistema prisional através da utilização de tecnologias inteligentes como a IA. Esta tecnologia pode fornecer análise proativa de imagens de CFTV e sistemas de vigilância, controle discreto de parâmetros vitais de reclusos frágeis e processamento de linguagem natural para monitorar chamadas telefônicas, por exemplo.
Além disso, a IA também pode ser utilizada para melhorar os processos de RH, tais como o recrutamento. Contudo, gostaria de salientar que a utilização mais importante da tecnologia nas prisões é a prestação de apoio na tomada de decisões por parte dos profissionais.
A IA desempenha um papel muito importante do ponto de vista da ressocialização, ajudando a encontrar a melhor abordagem e tratamento para cada indivíduo. Quando incorporamos este tipo de tecnologia nos Sistemas de Gestão de Infratores (OMS), podemos facilitar o processo e aumentar a qualidade dos cuidados para o recluso.
É importante também ter garantias para evitar a utilização de IA de forma repressiva em relação aos reclusos.
PP: Creio que há muito potencial para a utilização de IA no sistema penitenciário, particularmente quando se trata de questões complexas. O poder da IA reside nas suas capacidades de processamento, uma vez que pode tratar grandes quantidades de dados que podem ser difíceis ou mesmo impossíveis de processar por um humano num curto período de tempo.
Há três áreas-chave onde a IA pode ser utilizada em organizações de justiça criminal: segurança, gestão de infratores e automatização e digitalização dos fluxos de trabalho e processos do pessoal.
Isto pode conduzir não só a uma boa relação custo-eficácia, mas também a realização de melhores análises e julgamentos que podem melhorar os resultados na prisão e na liberdade condicional.
Ilina Taneva é a Secretária para o PC-CP, Conselho da Europa. Foi secretária de várias comissões intergovernamentais que elaboraram normas no domínio do direito penal e penitenciário, prisões, liberdade condicional e cuidados posteriores, prevenção do crime e justiça juvenil.
Håkan Klarin é membro da equipe de Especialistas Científicos do PC-CP. É o diretor de TI dos Serviços Prisionais e de Liberdade Condicional da Suécia.
Pia Puolakka é membro da equipe de Especialistas Científicos PC-CP. É a gestora do projeto Prisão Inteligente na Agência de Sanções Criminais, e coordenadora da equipe de segurança e orientação individual do Serviço de Prisão e Liberdade Condicional da Finlândia.
Fernando Miró Llinares é membro da equipe de Especialistas Científicos do PC-CP. É professor de Criminologia e Direito Penal na Universidade Miguel Hernández de Elche, Espanha.
