O uso da Inteligência Artificial no âmbito da Administração Pública
O uso da Inteligência Artificial no âmbito da Administração Pública
Enquadramento:
A administração pública, segundo o professor Freitas do Amaral, é, em seu sentido material, a atividade de administrar, de
"tomar decisões e efetuar operações com vista à satisfação regular de determinadas necessidades, obtendo para o efeito, os recursos mais adequados e utilizando as formas mais convenientes".As novas tecnologias, dentre elas a Inteligência Artificial estão evoluindo rapidamente, abrangendo e impactando todos os setores da sociedade de uma maneira tão intensa que alguns autores, como o economista alemão Klaus Schwab, defendem estarmos vivendo uma Quarta Revolução Industrial.
Dentro deste novo contexto, é importante discutir a utilização deste recurso pela Administração Pública, na sua atividade material, ou seja, na tomada de decisões e efetivação de operações, e os seus obstáculos.
Inteligência Artificial:
Não há uma definição única de IA. O professor Johan Wolfswinkel a explica como um
" conjunto de diversas aplicações computacionais baseadas em diferentes técnicas, que apresentam capacidades comumente e atualmente associadas à inteligência humana (...) que vão desde as atividades mais simples às mais complexas ".A inteligência artificial restrita é projetada para executar tarefas específicas com alta precisão, como por exemplo o reconhecimento de voz, de imagens e tradução, entre outros. Já a Inteligência Artificial em seu segundo grau corresponde a capacidade de reconhecer a informação, contextualiza-la e tomar decisões a partir de dados, o que se assemelha à inteligência humana.
O professor doutor Vasco Pereira da Silva, nas suas aulas teóricas, explica o processo de digitalização da administração pública:
"60 anos atrás começou a administração através de máquinas "administration durch machine ", depois as máquinas se tornaram auxiliares na atuação administrativa, havendo uma automação da administração e atualmente surgem como decisores a partir de parâmetros programados ".Possibilidade dos algoritmos serem qualificados como regulamentos administrativos:
Um problema atual é a falta de regras e princípios que regulam a atuação em causa: a programação da máquina e os parâmetros que a mesma agirá para alcançar a decisão.
Atualmente alguns autores, como Andrés Boix Palop, têm defendido a equiparação dos algoritmos da IA com os regulamentos administrativo porque a programação do algoritmo é a criação das regras gerais que depois permitiriam que a máquina alcance uma decisão, que seria equiparável a um ato administrativo, posição que o professor Peter Badura concorda.
Porém esta é uma posição controversa e as principais críticas são: a exigência do alargamento do conceito de algoritmo e as divergências se o algoritmo preenche os pré requisitos do CPA para ser qualificado como um regulamento.
Mesmo se houver a equiparação, o professor doutor Vasco Pereira da Silva defende que seriam necessárias mais regras especiais para regulamentar este procedimento. Artur Flamínio da Silva concorda e defende ainda que o artigo 153.3 do CPA
"é a única norma de relevo sobre a automatização de decisões administrativas "
Este autor ainda traz luz para o artigo 22 do Regulamento Geral sobre a Proteção de Dados, que proíbe decisões totalmente automatizadas.
O uso da Inteligência Artificial pela Administração Pública
O uso da Inteligência Artificial pela Administração Pública possui vantagens e obstáculos. As vantagens são os resultados positivos que é possível obter em diversas áreas através da Inteligência Artificial, já os obstáculos da sua aplicação podem vir do questionamento dos limites da utilização desta tecnologia e da necessidade do estabelecimento de regras e princípios claros à que esta deve estar vinculada, além da possível violação que o seu uso traria para princípios e valores da administração.
Vantagens da Inteligência Artificial no âmbito do princípio da boa administração:
O princípio da Boa Administração está consagrado no artigo 5 CPA e no artigo 41 da Carta dos Direitos Fundamentais da União Europeia.
Exige-se que a atividade da administração pública seja eficiente ( apta para atingir os objetivos que lhe cabe prosseguir ) económica ( uma gestão a mais equilibrada o possível dos recursos públicos ) e célere ( a atuação e decisão devem durar apenas o estritamente necessário para atingir o fim )
É possível argumentar que a utilização da IA preenche cada um dos requisitos do princípio da boa administração:
- Em aula vimos a hipótese de um sistema de IA decidir o local do novo aeroporto. Se tal ocorresse seria uma decisão eficiente ( o sistema, pela quantidade de dados que analisa, é extremamente apto para atingir o fim, que é a escolha do melhor local para o aeroporto, de maneira precisa) , feita com celeridade (pela facilidade e velocidade da análise de dados, tal processo seria mais rápido do que a discussão e análise de dados por especialistas, durando apenas o estritamente necessário) e económica (seriam aplicados menos gastos por se tratar da decisão de uma máquina).
- No Brasil os robôs Alice, Sofia e Mônica ajudam o Tribunal de Contas da União a encontrar irregularidades nas contratações federais. Como resultado muitas compras públicas enviesadas tiveram que ser refeitas. É realmente a maneira mais rápida, eficaz e económica, pois os robôs fazem o resumo e análise de mais de 200 editais por dia, o que seria uma tarefa muito custosa e demorada se feita por funcionários públicos.
- Na Europa outros exemplos do bom uso de Inteligência Artificial pela Administração Pública podem ser avistados na Itália e França. Em Itália, um sistema que tem como base a Inteligência Artificial, chamado Risker, prevê as necessidades de hospitalização nos hospitais públicos para os próximos dias, ajudando a alocar melhor os recursos hospitalares. Este sistema de Inteligência Artificial é extremamente econômico (evitando gastos desnecessários no hospital) célere (pela decisão ser feita de maneira mais rápida o possível) e eficiente ( apto para atingir o fim que é a melhor alocação de recursos nos hospitais). Na França um sistema de Inteligência Artificial prevê as probabilidades de sucesso de um artesão em determinado local, possibilitando a melhora na economia, sendo também um bom exemplo do princípio da boa administração. A França também discute atualmente a utilização ou não de câmeras de vigilância artificialmente inteligentes para assegurar a segurança dos turistas e dos cidadãos nas Olimpíadas de 2024, detectando possíveis ameaças, de maneira precisa, rápida e possivelmente menos custosa para a Administração Pública francesa.
A utilização da Inteligência Artificial pela Administração Pública: Obstáculos
O professor Johan Wolfswinkel cita alguns dos obstáculos que nos debatemos com o uso de Inteligência Artificial no âmbito da Administração Pública, tal como a falta de transparência, a questão dúbia da responsabilização e a possível violação do princípio da igualdade e não discriminação tal como o da proporcionalidade.
O dever de transparência na actividade administrativa:
Pedro Costa Gonçalves utiliza a expressão:
" a Administração é uma casa de vidro "
para reforçar a exigência da transparência na atividade administrativa. Porém, no âmbito das decisões tomadas pela Inteligência Artificial é muito difícil determinar qual o processo que levou a determinada resposta, qual a fundamentação de determinado resultado e até mesmo quais dados foram utilizados e quais dados descartados.
Ademais pode haver um possível problema de transparência no software e algoritmo no prisma dos direitos de propriedade intelectual se o sistema de Inteligência Artificial for desenvolvido por empresas privadas, dificultando assim o acesso ao funcionamento interno da máquina
O problema da responsabilidade:
A questão que tem que se ter em consideração com o uso da Inteligência Artificial é quem será responsável quando a decisão da mesma for errada e este erro resultar em prejuízo para outrem, considerando que a criação do algoritmo e do sistema de IA inclui diversos agentes e que o erro pode prover tanto do algoritmo como da falta de atualização do sistema com as leis vigentes.
Um caso que exemplifica a necessidade de entender quem responsabilizar pelo erro aconteceu nos Estados Unidos: um algoritmo defeituoso de um sistema de Inteligência Artificial de reconhecimento de imagens fez com que Robert Julian-Borchak Williams fosse detido por policiais no jardim de sua casa, na frente de sua família, e acusado injustamente de um crime que não havia cometido. Deste exemplo, fica a questão, quem pode ser responsabilizado pelo erro da máquina?
Princípio da Igualdade e não discriminação
O principio da igualdade e não discriminação está presente no artigo 6 do Código do Procedimento Administrativo:
"Nas suas relações com os particulares, a Administração Pública deve reger-se pelo princípio da igualdade, não podendo privilegiar, beneficiar, prejudicar, privar de qualquer direito ou isentar de qualquer dever ninguém em razão de ascendência, sexo, raça, língua, território de origem, religião, convicções políticas ou ideológicas, instrução, situação económica, condição social ou orientação sexual".A problemática da igualdade e não discriminação quando se trata do uso de Inteligência Artificial tem de ser analisada por 2 prismas:
O primeiro é a problemática de serem introduzidos dados tendenciosos de entrada para o algoritmo, tendo como resultado uma decisão tendenciosa, e que claramente violará o princípio da igualdade.
O segundo é a discriminação no acesso a tais tecnologias, porque nem todos os cidadãos tem acesso ou entendem o funcionamento interno da Inteligência Artificial. Nas palavras do professor Paulo Otero têm um risco de :
"aprofundar as desigualdades entre cidadãos, desde logo entre aqueles que têm acesso aos meios tecnológicos e todos os restantes cidadãos, que, por razões de idade, educação ou local de residência não tem a vocação ou contacto com esses novos meios tecnológicos, a Administração não pode servir como fator de discriminação entre novos e velhos, residentes em zonas urbanas e residentes em zonas rurais, entre instruídos e analfabetos digitais "O Princípio da proporcionalidade:
O princípio da Proporcionalidade está disposto no artigo 7 CPA:
1 - Na prossecução do interesse público, a Administração Pública deve adotar os comportamentos adequados aos fins prosseguidos.
2 - As decisões da Administração que colidam com direitos subjetivos ou interesses legalmente protegidos dos particulares só podem afetar essas posições na medida do necessário e em termos proporcionais aos objetivos a realizar.
A Inteligência Artificial é adequada para atingir os fins da Administração Pública. Resta saber se a sua utilização é necessária e se cumpre o corolário da proporcionalidade em sentido estrito.
Estas considerações dependem muito das situações do caso concreto. Para casos em que a Inteligência Artificial assiste a Administração, como no caso dos robôs Alice Sofia e Mônica, ou no caso em que os dados são analisados para prever situações, como no sistema de Inteligência Artificial `` Risker ´´ parece que sim, são necessárias ( por serem a solução que apresenta o menor dano para os particulares atingindo o mesmo fim ) e passam no teste da proporcionalidade em sentido estrito pois as desvantagens do seu uso não são maiores do que as vantagens do mesmo. Ademais quando são somente auxiliares da decisão administrativa e quando ainda há uma quantidade significativa de intervenção humana , parece não correr o risco tão alto da violação dos direitos e garantias dos particulares.
Outro caso é quando se trata da Inteligência Artificial no prisma da tomada de decisões em situações que são necessárias uma análise discricionária de casos muito similares atentando aos detalhes das posições dos particulares do caso concreto. Nestes casos não me parece que o elemento da necessidade está preenchido ( por haver soluções menos gravosas para os particulares, como a decisão humana ) e também não parece estar preenchido o corolário do princípio da proporcionalidade em sentido estrito pois as desvantagens do seu uso ( nomeadamente os problemas que possam surgir pela falta de transparência e fundamentação das decisões, pelos resultados possivelmente discriminatórios e ela dificuldade da responsabilização pelos erros ) parecem maiores do que as vantagens do uso, nomeadamente, uma decisão mais rápida e se estiver sem erros, mais precisa.
Conclusão:
A Inteligência Artificial é um recurso valioso e deve ser considerada a sua utilização pela administração pública, pois optimiza as atividades da mesma, sendo benéfico para os cidadãos pela sua velocidade e praticidade. Porém deve ser desenvolvidas mais regras e princípios no âmbito do direito administrativo para a regulamentação do seu uso e da sua programação, assim não se tornará um risco para os direitos e garantias dos particulares.
Ana Luiza Merheb Thiele, número de aluna 66072
Bibliografia:
Comentários ao Código do Procedimento Administrativo VOLUME 1 de Carlos Amado Gomes, Ana F. Neves e Tiago Serrão. Editora AAFDL
Novo código do Procedimento Administrativo anotado e comentado , 8a Edição: Fernando Gonçalves, Manuel João Alves, Vitor Manuel Freitas Vieira, Rui Miguel Gonçalves, Bruno Correia e Mariana Violante Gonçalves.
Curso de Direito Administrativo volume 1 Diogo Freitas do Amaral, 2016 4 edição
Constituição Portuguesa Anotada, volume III, Jorge Miranda e Rui Medeiros , 2a edição
Aulas teóricas do professor doutor Vasco Pereira da Silva
O nascimento da Administração Electrónica num espaço transnacional, breves notas a propósito do projeto de revisão do código do procedimento administrativo.
Comentários
Enviar um comentário