O desenvolvimento tecnológico e, em especial, a utilização de determinados modelos de Inteligência Artificial “abrem novas oportunidades, de maior eficiência e eficácia na ação das organizações. Mas trazem também novos (e renovados) riscos éticos”, afirmou Filipa Urbano Calvão, Presidente do Tribunal de Contas, na sessão de abertura da Conferência “Tecnologia e Ética – Imperativo de Diálogo", realizada esta quarta-feira, no auditório da Ordem dos Contabilistas Certificados, no âmbito das celebrações do Dia da Integridade.
Depois de elencar os riscos a que a Administração Pública e os Tribunais não estão imunes – como a intrusão na vida privada ou de vigilância excessiva, de discriminação ou perpetuação de preconceitos, de erro ou de ausência de ponderação humana nos processos decisórios – Filipa Urbano Calvão defendeu a necessidade de “definir, avaliar e reavaliar, regularmente, regras de conduta que ajudem a prevenir a sua concretização”.
A Presidente fez questão de lembrar que o Tribunal já percorreu um importante caminho no “enquadramento ético” da sua atividade e da utilização de tecnologias, mas salientou a importância de “avaliar” se o sistema de controlo “permanece adequado”.
A primeira intervenção da Conferência coube a Helena Machado, Investigadora Coordenadora no Centro de Investigação e Estudos de Sociologia – ISCTE – Instituto Universitário de Lisboa, que se debruçou sobre a ética na utilização de ferramentas digitais. “Estamos inundados de Códigos de Ética, o que por um lado é bom pois mostra a vontade e o dinamismo de se compreender os potencias riscos e benefícios da IA, mas, por outro lado, dificulta ter um fio condutor para navegar neste mar de complexidades”, afirmou a investigadora.
Sobre as oportunidades da IA, a Coordenadora no Centro de Investigação e Estudos de Sociologia do ISCTE apontou a automação de processos repetitivos, a deteção de fraudes, o apoio à decisão e a melhoria na alocação de recursos. Já o viés algorítmico e a discriminação, a falta de transparência, a privacidade, a segurança de dados e as decisões automatizadas sem supervisão foram os principais riscos e desafios apontados. Helena Machado defendeu por isso a necessidade de avaliar a qualidade e ética dos dados usados em IA, de garantir que os algoritmos sejam auditáveis e explicáveis, de definir responsáveis claros pelas decisões automatizadas e, assim, assegurar o alinhamento com os princípios do Tribunal de Contas: transparência, integridade, responsabilidade e independência.
No debate que se seguiu na mesa-redonda, Raquel Brízida Castro, Vice-Presidente da ANACOM, destacou o “impacto brutal da IA nos direitos fundamentais”, que por isso deve ser uma preocupação central dos reguladores, dos magistrados e dos académicos.
Em relação aos sistemas de risco elevado, como os da administração da Justiça, esta oradora revelou que as obrigações previstas no Regulamento para a IA só serão aplicáveis em 2026, “o que significa que existirá um prazo de adaptação quanto à conformidade dessas obrigações” e que o Regulamento precisa de um ato de implementação e densificação. Raquel Brízida Castro defendeu ainda que um “dos maiores desafios” em matéria de implementação deste Regulamento é “como garantir o direito à explicabilidade dos algoritmos”.
Já o Vice-Presidente do Conselho Superior de Magistratura (CMS), Luís Azevedo Mendes, defendeu a importância de criar uma Alta Autoridade para o tratamento de dados no sistema judicial, revelando a existência de um projeto, resultado da colaboração do Conselho Superior de Magistratura, do Tribunal de Contas, do Conselho Superior dos Tribunais Administrativos e Fiscais e da PGR, que vai ser apresentado ao Governo. Tendo defendido que essa será também a Autoridade certa para controlar a criação, o desenvolvimento e o uso de modelos de IA apropriados, adiantando que o CSM está neste momento a refletir sobre a aplicação de modelos de IA, sendo certo que, em termos de orientações éticas, “a verificação e a transparência são absolutamente essenciais”, assim como a qualidade dos dados. Luís Azevedo Mendes revelou ainda que o CSM vai começar a desenvolver ações de formação na área da IA e da cibersegurança em todas as comarcas do país.
O Diretor-Geral do Gabinete Nacional de Segurança, António Gameiro Marques, também defendeu a necessidade de investir fortemente em ações de formação na utilização das de IA, sublinhando a importância de “zero trust”. Elencou ainda um conjunto de medidas organizacionais de segurança da informação.
No encerramento, António Martins, Vice-Presidente do Tribunal de Contas, destacou a necessidade de revisitar os Códigos de Conduta do Tribunal, considerando os desafios éticos gerados pela utilização das ferramentas digitais.
António Martins apelou ainda aos representantes do sistema de Justiça presentes –Supremo Tribunal de Justiça, Supremo Tribunal Administrativo, Conselho Superior de Magistratura e Procuradoria-Geral da República – para uma cooperação entre todos de modo a congregar “um pensamento comum estruturado sobre estes aspetos da ética e da segurança na utilização de ferramentas digitais no sistema de justiça”.
