“O Uso da Inteligência no combate a decisões administrativas Artificiais”
TRABALHO DE DIREITO ADMINISTRATIVO
“O uso da Inteligência no combate a decisões administrativas Artificiais”
Tema: O uso da Inteligência Artificial na tomada de decisões administrativas
1. Enquadramento
"O mundo só precisa de cinco computadores”, terá dito Thomas Watson, presidente da IBM, em 1943.
“As máquinas são inúteis. Elas só podem dar respostas”. Terá sido essa uma frase de Pablo Picasso com William Fifield em 1968.
Ambas as citações refletem alguma daquela que tem vindo a ser uma posição comportamental adotada pelas mais conhecidas figuras científicas, artísticas e políticas ao longo dos tempos: um negacionismo e pessimismo relativos à inovação e à evolução tecnológica.
Por um lado, a previsão errada de Thomas Watson subestimou significativamente o papel que as novas tecnologias viriam a desempenhar na sociedade atual. Ao longo das décadas, a evolução tecnológica revelou exatamente o oposto. É aliás, atualmente, raro encontrar uma residência que não possua um computador, considerado já por muitos como a sua ferramenta principal tanto para o trabalho, quanto para os estudos. Contrariando a previsão de Watson, a tecnologia tornou-se ubíqua, permeando todos os setores da sociedade, incluindo o campo do direito, e não se excetuando, o direito administrativo.
Por outro lado, também ao tempo coube demonstrar que as palavras de Pablo Picasso se revelariam erradas. Contrariamente ao que se esperaria a um computador na época, os computadores de hoje conseguem não só dar respostas, como também criar plataformas que permitem o fácil acesso à inteligência artificial, onde as máquinas não são meros fornecedores de respostas, mas verdadeiras ferramentas capazes de processar e produzir grandes volumes de dados, analisar padrões complexos e fornecer perspetivas valiosas para tomadas de decisão mais informadas. É sobre esta nova ferramenta, a Inteligência Artificial (doravante denominada IA) que recai o principal objeto de estudo deste trabalho.
Numa altura em que já nada parecia verdadeiramente chocar esta “sociedade tecnológica”, coube à IA representar um marco significativo no panorama do desenvolvimento tecnológico contemporâneo. A “máquina” deixa de apenas dar respostas predefinidas, executar tarefas específicas e limitadas às finalidades da sua criação, para passarem a ter a capacidade de criar ferramentas capazes de reproduzir comportamentos humanos.
Quatro parágrafos discorridos, não se pretende apenas evidenciar o falhanço das previsões sobre o futuro tecnológico ou demonstrar o grande avanço tecnológico que se deu ao longo dos tempos. Importa sim deixar-se clara a dicotomia existente, e de resto alertada pelo Senhor Professor Doutor Vasco Pereira da Silva, entre duas perspetivas: a que considera que a Inteligência Artificial nada resolverá e de nada servirá, e por outro lado, a que se reveste de um pensamento eufórico que invadiria este primeiro, considerando que a mesma tudo resolveria no seio da administração. Ora, não sendo pessimistas a ponto de negarmos as valências positivas que a IA pode trazer para os mais diversos campos – e entre nós, o de interesse, o campo jurídico – e não caindo, porém, na falácia otimista de que, apesar de vivermos tempos de profunda modernização e desenvolvimento tecnológico, esta inteligência tudo resolverá, resta-nos a única opção que me parece sensata: perceber de que modo se pode usar a inteligência ao serviço de não se tomarem decisões artificiais. Diga-se nesse sentido: o modo de usar a IA como instrumento de trabalho e valorizar as suas potencialidades, mas com a dose de responsabilidade necessária, e que demonstre a humildade de reconhecer as limitações que a própria IA apresenta.
O campo jurídico não fica, obviamente, indiferente a esta evolução no campo tecnológico trazida pelo desenvolvimento da IA. Quer porque se demonstra incapaz de dar respostas a problemas jurídicos que emergem da mesma, quer pelo vazio legal que leva à possibilidade de um desenvolvimento quase livre e muito pouco regulado desse mercado.
Em primeiro lugar, e no âmbito da falta respostas a futuros problemas que possam surgir, aponta-se o vazio legal ainda existente no respeitante a estas matérias (veja-se a título ilustrativo, o grande problema da imputação da responsabilidade em danos provocados por uma IA, e que ainda neste trabalho será mais aprofundado).
Em segundo lugar, a quase inexistência de normas para a regulação para o mercado da IA permite que o seu desenvolvimento se dê a passos largos e, no meu entender, sem a devida ponderação dos impactos éticos e sociais a que ainda emerge dar resposta.
Poder-se-ia considerar que esta é uma visão pessimista ou pouco real do problema, dada a relativa contemporaneidade do mesmo não permitir dar aso à especulação de problemas que ainda poderão surgir. Permitindo-me a redundância: parece-me esta uma forma bastante otimista de lidar com esse pessimismo. Afinal, qual seria o jurista que não preferiria antecipar o surgimento de problemas jurídicos, regulando-os normativamente, a ter de os resolver com base num sistema incapaz de lhes dar resposta a posteriori, dando-se aso a possíveis injustiças consequentes da escassez dessa regulamentação?
Vejamos o que nos dão conta os noticiários a 24 de novembro de 2023: “Chama-se Q* (lê-se Q – Star) e é uma descoberta que põe em risco a humanidade, dizem os investigadores da OpenAI” – CNN Portugal. A notícia dá conta de um novo tipo de inteligência artificial, mais avançado que os sistemas gerais de IA, autónomo e “capaz de superar qualquer humano nas tarefas economicamente mais valiosas”.
Desde logo emergem destas constantes evoluções questões éticas relativas ao uso destes sistemas de IA em substituição, por exemplo, de trabalhadores humanos, ou em detrimento dos mesmos. Mas não é esse o plano que nos interessa abordar.
Em termos jurídicos é impossível não mergulhar a cabeça numa enchente de problemas que se conseguem antecipar:
Em caso de erro por parte de um sistema de IA, sobre quem recairá a responsabilidade, tendo em conta que os requisitos da mesma estão moldados para que a sua imputação seja feita a humanos?
Na ausência de regulação deste mercado, que limites poderão atingir este desenvolvimento com impacto certo nas nossas vidas?
Poderão os entes públicos delegar as suas tomadas de decisão baseadas em resposta dadas pela IA, sem se colocarem questões de legitimidade?
Estão as garantias das particulares salvaguardas com sistemas de IA capazes de buscar e armazenar quantidades absurdas de informação?
Tem a IA conhecimento dos limites legais, nacionais e internacionais, existentes nas mais diversas sociedades, para que a sua conduta e atuação não os violem flagrantemente?
A quem compete a sua fiscalização, e uma vez mais, a quem se imputa a responsabilidade no caso da lesão destes limites?
Deverão esses limites ser estabelecidos na arbitrariedade dos seus criadores ao invés da expressão popular legitimada em órgão competente, já que esta população não fica indiferente às externalidades provocadas pelo surgimento da IA?
O presente trabalho tenciona debruçar-se sobre estas questões que, no plano jurídico, parecem estar longe de ver uma resposta, numa perspetiva essencialmente jurídico-administrativa.
2. A Inteligência Artificial e os seus desafios no Direito Administrativo – em especial na tomada de decisão administrativa;
Importa, primeira e sucintamente, esclarecer no que consiste a Inteligência Artificial.
Alude-se, para o efeito, à noção que nos é dada por Mc Carthy que, embora ainda numa fase bastante primária do seu surgimento, a entendia como "a ciência e engenharia de fazer máquinas inteligentes". Seria assim a IA uma disciplina da ciência da computação que se dedica à criação de sistemas capazes de executar tarefas que, tradicionalmente, requereriam a inteligência humana.
Ora, como consta do enquadramento, naturalmente o desenvolvimento da IA tem impactos no plano jurídico, e em particular, no plano administrativo.
Estará o nosso direito administrativo preparado para o desenvolvimento desta nova realidade? Estará a administração preparada objetivamente – num plano normativo - para um avanço tecnológico deste grau? Pode a Administração e os titulares de cargos de órgãos públicos servir-se da IA para tarefas determinadas e reguladas administrativamente?
Para reduzir o alcance de perguntas que facilmente podem obter grandes dimensões, parece-me sensato perspetivar sobre esses problemas em dois grandes planos: no plano procedimental e no plano contencioso (do exercício da justiça administrativa)[1].
O Código do Direito Administrativo no seu art. 14º, nº 3 prevê a necessidade de manutenção da igualdade garantística entre procedimentos tradicionais e as formas eletrónicas do direito administrativo, o que não se demonstra, no entanto, em algumas situações[2]. No entanto, há ainda que questionar se é legítimo incluir nas “formas eletrónicas do direito administrativo” o incremento do uso da IA, nomeadamente nas tomadas de decisão administrativa, já que tal como anteriormente falado, a IA não se limita a declarar a existência de atos ou notificá-los, podendo também criá-los no seio da administração. Necessidades legalmente imperiosas de celeridade, eficiência, economicidade e eficácia parecem dar razão a uma resposta afirmativa à questão. No entanto, numa análise mais aprofundada procurarei demonstrar o contrário.
No que respeita à justiça administrativa, importa contextualizar que, fruto do Estado Social que tem caracterizado os últimos anos da nossa atuação estadal, o papel do Direito Administrativo – em particular através de atos administrativos – tem assumido especial relevância. Cada vez mais são os setores com intervenção direta e indireta da Administração. Ora, tangente a esses factos, verifica-se naturalmente um aumento substancial da conflitualidade e por conseguinte, da litigiosidade. Há mais recurso a tribunais e, face à escassez de meios materiais e humanos que se constata nos mais variados setores da justiça, pode parecer de bom tom (e cumpridor da prerrogativa da busca da boa administração) recorrer a mecanismos de justiça digital que combatam a morosidade dos processos, que afetam flagrante e nuclearmente a vida dos particulares. Ora, por outro lado, podem considerar-se relevantes efeitos perversos que emergem desta “digitalização judicial” – e que atingem a esfera garantística dos cidadãos (por exemplo, as discrepâncias que poderiam resultar daí pela dificuldade de alguns cidadãos acederem com facilidade a meios eletrónicos – quer por questões económicas, quer por questões práticas – ou mesmo obstáculos de natureza técnica.
Não me parece precipitado concluir nesta fase que é inegável uma tentativa de integração de formas de atuação eletrónica do direito administrativo (como resulta do art. 14º outrora mencionado). No entanto, prova-se que inexistem condições legais e práticas que possibilitem este avanço, e que mesmo que existissem, nelas não se incluiria o uso da IA - capaz de vir a tomar ela próprios atos administrativos autónomos reservados a alguns titulares e decisores administração. Ainda que o contrário se considerasse, facilmente ficariam transparentes problemas que emergiriam necessariamente dessa consideração (causados na sua maioria pelo caráter lacunoso da nossa ordem jurídica sobre esses problemas) e que serão aprofundados posteriormente.
Observação:
Admite-se um esforço de entidades internacionais e europeias para a respetiva regulamentação.[3]
Em 2018, por exemplo, foi constituído um Grupo Europeu de Ética na Ciência e Novas Tecnologias da Comissão Europeia, responsável pela constituição de um código ético, aplicável à produção e uso da inteligência artificial; ainda nesse ano, a Comissão Europeia para a Eficiência da Justiça cria um documento normativo[4] que prevê a principologia aplicável à prolação de decisões judiciais através da inteligência artificial.
No entanto, continua a constar-se a falta de legislação mais concreta e vinculativa que permita uma efetivação destas intenções.
3. O uso da inteligência artificial no direito administrativo: uma salvação divina?
Defendem os cultores de que a IA vem salvar a administração de todos os males e que está não só em condições de, como deve ser usada pela administração, e que o seu uso tem amparo legal, e em particular nos princípios decorrentes.
Invocam-se como argumentos a resposta a todos os problemas constatados e de resto já conhecidos pela administração, de entre os quais:
(i) Maior eficiência e Velocidade – permitira o recurso à IA o processamento de grandes volumes de dados de forma muito mais rápida, acelerando consideravelmente a análise de informações relevantes para decisões administrativas. Isso resulta em uma resposta mais rápida a casos e processos;
(ii) Possibilidade de uma Análise Preditiva – elogia-se a capacidade da IA analisar dados históricos e padrões complexos, possibilitando prever tendências futuras. Isso pode ser particularmente útil na antecipação de questões administrativas recorrentes, permitindo uma abordagem proativa;
(iii) Redução de erros - ao ser programada corretamente, a IA reduz a probabilidade de erros humanos na tomada de decisões administrativas. A probabilidade de erro é bastante inferior à dos humanos.
(iv) Transparência e Imparcialidade – alega-se que a IA é de certo modo imparcial, não influenciada pela opinião pública na tomada de decisões de grande magnitude, não é movida por interesses particulares, políticos e preconceitos ou interesses pessoais; poderia isso ajudar a garantir decisões mais justas, especialmente em casos em que o interesse humano pode ser um problema.
(v) Redução de Custo e Recursos - Automatizar tarefas repetitivas com IA pode reduzir custos em processos administrativos e judiciais, liberando recursos para atividades mais críticas. Haveria um menor investimento em capital humano, e menor morosidade dos processos.
Grande parte destas vantagens são invocadas com a sua justificação de relevância legal no art. 5º do Código do Procedimento Administrativo, o Princípio da Boa Administração, que dispõe:
Art. 5º - Princípio da boa administração
1 - A Administração Pública deve pautar-se por critérios de eficiência, economicidade e celeridade.
2 - Para efeitos do disposto no número anterior, a Administração Pública deve ser organizada de modo a aproximar os serviços das populações e de forma não burocratizada.
Ora, numa análise primária até nos podem parecer concludentes as vantagens apresentadas e o interesse que parece visar o art. 5º. Realmente, parece a IA ser mais eficiente, célere e talvez até económica. Questionar-se-á então onde residem os problemas relativos e invocados pelos que apresentam reservas quanto ao seu uso no quadro da Administração.
O problema funda-se essencialmente em dois aspetos a considerar:
1 – a incorreta interpretação que é feita do preceito;
2 – a falta de visão una do direito na invocação deste princípio face aos demais;
Explicite-se:
1 - Primeiramente, o art. 5º do CPA desdobra-se em três vertentes diferentes que importam classificar. A eficiência enunciada não corresponde à ideia popular de um “melhor ou pior, bom ou mau desempenho”, mas sim à produção do efeito esperado. Ou seja, é igualmente eficiente a decisão administrativa que decorre de decisão humana (ainda que mais dispendiosa) ou da decisão da IA, desde que a atividade administrativa esteja apta a atingir os objetivos que lhe cabe prosseguir em ambas as situações. Relativamente à economicidade, pretende-se que a Administração deve pautar-se por uma gestão a mais equilibrada possível dos recursos públicos.
Ora, nesse sentido, não é linear ou facto adquirido que a IA é mais económica que a decisão humana (se forem tidos em consideração os custos de produção, manutenção e uso dos programas de IA preparados para a Administração, bem como indemnizações que podem decorrer por parte de um erro do seu programa que gere um direito a indemnização por lesão do direito de um particular). Ou podemos ainda contra-argumentar: não necessita a IA de critérios e opções para tomar a “decisão mais racional possível”? Não têm de lhe ser disponibilizadas todas as opções, os critérios a ter em conta, as diferentes valorações que deve usar, entre tantos outros? Existe portanto todo um trabalho anterior que tem de ser feito por base humana. Compensará a par de todos os custos envolventes para o estudo destas opções, critérios e valorações, só para o momento da tomada de decisão administrativa, pagar a criação e manutenção de um programa de IA? A resposta parece francamente negativa, porque se estaria no fundo a pagar o valor que realmente torna dispendioso todo o processo, acrescido do respetivo programa apenas para fazer a ponderação final.
Por fim, ainda no Princípio da Boa Administração, se determina a celeridade da Administração Pública. Pelo menos neste ponto, parece aos cultores inicialmente mencionados, claro e inequívoco que a IA teria uma melhor prestação que uma decisão humana. Para sua tristeza, a resposta também não se demonstra assim tão linear. A celeridade não corresponde ao “fazer o ato ou o processo da forma mais rápida possível”, já que, caso assim o fosse, dúvidas não existiram na superioridade da máquina que poderia despachar milhares de decisões ou processos por hora, mas de forma negligente e defeituosa. A celeridade prevista no art. 5º do CPA pretende, ao invés, que o tempo de decisão e atuação da Administração Pública dure apenas o estritamente necessário para que esta possa atingir os fins que lhe competem. Ora, se para atingir esses fins de forma zelosa, cuidada e informada for necessário um período maior, não há dúvidas que ainda assim se deve escolher este, já que, apesar de tudo, não durou mais que o estritamente necessário para salvaguardar uma “boa-administração”. Caso já não aconteceria se, havendo decisão, propositadamente se a fizesse prolongar no tempo. Não alude esta celeridade então a uma velocidade, mas sim ao cumprimento do tempo estritamente necessário, mas informado, à tomada da decisão, ou do procedimento administrativos.
Conclui-se assim que, mesmo no art. 5º, não parece dar-se razão clara ao uso da IA face à decisão humana, porque, ainda que em algumas áreas pudesse a IA ser melhor que a parte humana, os riscos constantes e inerentes à vagueza, à ausência e à desconformidade do nosso ordenamento para lidar com a realidade artificial na tomada de decisão administrativa, acabam por ser superiores aos benefícios que do seu uso se possam extrair.
2 – A interpretação isolada deste princípio vicia a sua invocação como argumento. Nem só do Princípio da Boa Administração se faz o CPA, e nesse sentido, existem mais princípios que, quando conjugados, constituem uma tendência à decisão de que não está o nosso sistema preparado para permitir que a IA incorpore a tomada de decisões e atos administrativos. Dêem-se a exemplo:
Artigo 4.º - Princípio da prossecução do interesse público e da proteção dos direitos e interesses dos cidadãos – parece a máquina capaz de avaliar o conceito indeterminado de “interesse público” ou a proteção do direito dos cidadãos?
Artigo 7º - Princípio da proporcionalidade - “2 - As decisões da Administração que colidam com direitos subjetivos ou interesses legalmente protegidos dos particulares só podem afetar essas posições na medida do necessário e em termos proporcionais aos objetivos a realizar”. – consegue a máquina fazer este jogo de proporcionalidade? Em que medida? A IA caracteriza-se precisamente por não conseguir fazer a ponderação de situações éticas ou psicológicas;
Artigo 56º do CPA - Princípio da adequação procedimental – Existem situações no âmbito do procedimento administrativo, em que caberá à Administração ponderar no caso concreto, como decorre deste princípio. Salvo a existência de normas injuntivas, o responsável pela direção do procedimento tem uma margem de conformação na estruturação do procedimento em função da participação, da eficiência, da economicidade e da celeridade na preparação da decisão. Parece bastante improvável que a automatização (característica da IA) tenha em consideração as particularidades de cada situação concreta e em função disso estabeleça as formalidades que devam ser observadas, sem prejuízo de formalidades estritamente indispensáveis do ponto de vista garantística dos interessados. Artigo 16º - Princípio da Responsabilidade - A Administração Pública responde, nos termos da lei, pelos danos causados no exercício da sua atividade. – quem responderá pelos danos provocados pelo exercício da atividade? O regime da responsabilidade não está preparado, como ainda explicitarei, para responsabilizar uma máquina (já que há quebras nos pressupostos); deverá responsabilizar-se o seu produtor? Mas e se o erro também for de causa externa ao software, ou o mesmo argumentar que a máquina não foi feita para tomar decisões de tão grande magnitude, ou que se excluir de responsabilidade pelas decisões que dela possam surgir? Ou se for um mero erro de fabrico não imputável ao vendedor? Deverá responsabilizar-se o seu programador? E se o problema não for do programa, mas dos dados errados que lhe puseram. Responsabilizar-se-á quem deu os conteúdos ao programador? Mas até nessa linha, o ato e a decisão não foram suas, só o mero erro sim. Muito se poderia debruçar sobre estes problemas, e, mesmo que se chegasse a uma resposta, uma coisa é inegável: já o particular tinha perdido em todo este processo e nesta confusão, e a sua proteção estava mais enfraquecida com todas estas questões.
Repare-se que: o que está em causa com a enumeração destes princípios não é a objetividade das respostas às questões suscitadas serem positivas ou negativas. O que se pretende demonstrar é que, ainda que na sua maioria se pudesse de alguma forma concluir que seria possível a IA autonomizada rever-se na sua execução, na sua globalidade, o uso desta ferramenta ainda acarreta consigo insegurança ao sistema, e muitas dúvidas relativas à sua capacidade de lidar com alguns dos problemas levantados. Perante as dúvidas que o uso deste instrumento pode acarretar, é de meu entendimento que se deve optar pelo campo mais seguro, assumindo que está longe ainda a possibilidade da IA ser usada no âmbito administrativo de forma diligente e responsável. |
|
4. O uso da inteligência artificial no direito administrativo: a dura realidade;
Já foram dadas inúmeras evidências da instabilidade que a adoção da IA na tomada de decisão Administrativa pode acarretar. Poderia ainda dar-se uma resposta de via lógico-argumentativa aos argumentos favoráveis apresentados, tal como: dizer que à eficiência e precisão se opõe erros de algorítimo que podem ser detetados já tarde demais, e que podem ser colossais para uma decisão de grande magnitude; dizer que a transparência elogiada pela IA já que estava menos exposta a conflitos de interesses era na verdade uma falsa transparência e pelo contrário, seria mais difícil apresentar a justificação da decisão já que a máquina dá o resultado bruto e não o processo que a levou à decisão; e já que a tomada de decisão humana passa por uma pluralidade de fontes, opiniões e escrutínio até ser tomada – o que aumenta a probabilidade na deteção de algum erro no seu processo, enquanto na inteligência artificial, a decisão é tomada atendendo a critérios únicos, e tomada por uma só máquina, não havendo depois nada a fazer. Ou – havendo – e mudando-se o veredito da máquina, há uma perda de eficiência porque além de a usar, vai-se acabar por recorrer novamente à decisão humana; entre muitos outros.
Prefere-se, no entanto, aludir a uma resposta baseada em verdadeiros problemas jurídicos que se colocam no caso de se adotar o uso da IA para a decisão do ato administrativo.
O principal problema é sem dúvida o da responsabilização. Cita-se, nesse sentido, parte do artigo de Bárbara Magalhães:
Imaginemos a introdução errónea de erros de pressupostos de facto no sistema, com base nos quais será tomada a decisão. Tais erros também podem ocorrer num procedimento administrativo tradicional, no entanto a margem de controlo e correção por parte do agente público é bem maior, neste último caso.
Outro erro relacionado com os inputs reporta-se à introdução de informação falsa no sistema quer por agentes administrativos, quer pelo próprio administrado ou então vícios que se relacionam com base de dados com erros, desatualizada, com base na qual é tomada a decisão.
Quaisquer dos vícios elencados podem carrear danos para terceiros, colocando-se inevitavelmente a questão a quem serão imputados os danos em face a uma decisão automatizada.
O enquadramento da questão das decisões automatizadas no âmbito da responsabilidade civil poderá́ eventualmente suscitar algumas dúvidas de aplicação:
(i) Perante as diferentes modalidades de responsabilidade civil extracontratual da Administração, parece-nos evidente a exclusão da modalidade de responsabilidade extracontratual aquiliana, prevista nos artigos 7º, nº 1, e 8º do Regime da Responsabilidade Civil Extracontratual do Estado e demais Entidades Públicas, pois, dois dos pressupostos essenciais desta responsabilidade são a existência de um facto voluntário do agente e de culpa como sendo um juízo de censura ético jurídico, imputado a determinado comportamento humano, dispondo o artigo 10º Responsabilidade Civil Extracontratual do Estado e demais entidades públicas que deve verificar-se “um certo nexo psicológico entre o ato praticado e a vontade do lesante”.
(ii) Num plano abstracto não seria difícil admitir-se a aplicação desta modalidade de responsabilidade relativamente a alguns vícios em que poder-se-ia com alguma facilidade identificar-se o autor material dos mesmos, como é o caso da inserção errónea de dados no sistema decisor ou até mesmo a transmissão incorreta de dados ao programador do equipamento eletrónico decisório. No entanto, parece-nos evidente que no contexto de sistemas automatizados de decisão, é difícil percebermos concretamente a origem do erro,dificultando-se a tarefa de imputação do erro a um concreto agente administrativo;
(iii) Para além do mais, um ato administrativo automatizado é produto da intervenção de vários agentes da administração, sendo de muito difícil a verificação da culpa relativamente aos mesmos.
(iv) Por fim, não esqueçamos o ónus que impende sobre o lesado de comprovar que o agente não cumpriu o seu dever de vigilância sobre a máquina, quando em determinadas circunstâncias, como vimos, o anormal funcionamento da máquina poderá́ dever-se a fatores exógenos à atuação humana (quem se responsabiliza nesta situação? O estado? Mas e o direito de regresso obrigatório nos termos da lei?)
Poderíamos equacionar a potencial aplicação do regime da responsabilidade pelo risco, prevista no artigo 11º da RRCEEP, no entanto existe um fator que poderá́ ser impeditivo da aplicação deste regime, o qual se consubstancia na existência de uma atividade particularmente perigosa, no sentido de o perigo não ser ultrapassável mediante os padrões do homem médio, em suma trata-se da “reparação dos danos inerentes ao seu próprio funcionamento normal, na medida em que decorre da objetiva perigosidade social das coisas que utilizam ou das atividades que desempenham que o seu funcionamento normal, mesmo sem eventuais disfunções ilícitas, é fonte potencial de danos”.
Parece que o conceito de perigosidade, requisito da aplicação do regime da responsabilidade pelo risco não se coaduna com o plano das decisões automatizadas, pois tal não representa especial perigosidade no sentido exigível.
Dada a complexidade adjacente à utilização de sistemas decisórios automatizados, bem como à intervenção de inúmeros agentes no processo e a consequente dificuldade de identificar os autores do facto gerador de danos, parece-nos que o mesmo deva ser imputado ao serviço público na sua globalidade, através do regime da responsabilidade por funcionamento anormal do serviço.
Trata-se da “responsabilização da Administração enquanto tal, pela sua própria conduta lesiva, sem necessidade de demonstração de que determinado agente atuou com culpa, mas apenas que o serviço no seu conjunto funcionou de modo anormal”.
Posto tudo isto, torna-se evidente que emergem problemas jurídicos sérios na tomada da decisão administrativa por parte um sistema automatizado, às quais se poderiam acrescentar questões de legitimidade para decidir, a falta do controlo democrático, o desafio na prestação de contas pública, a opacidade nas decisões políticas e o próprio impacto nas instituições democráticas.
5. Em Conclusão
Face ao exposto, não parece difícil afirmar que apesar de já existente e em verdadeira fase de difusão, a Inteligência Artificial está longe de ser recebida de forma pacífica pela ordem jurídica, e em particular, no Direito Administrativo por meio da tomada de decisão administrativa.
O verdadeiro problema afirma-se na inexistência de regulação do setor dos instrumentos de inteligência artificial e do facto da existente se desadequar flagrantemente por a sua construção não permitir que nela sejam englobados estes instrumentos, e levando assim à existência de casos omissos. Estando em fase de expansão e desenvolvimento, estes instrumentos carecem de uma visão estratégica por parte dos órgãos competentes no sentido de se anteciparem a eventuais fragilidades e problemas jurídicos que deles venham a emergir.
Não se pretende, contudo, afastar a possibilidade e o desejo de um trabalho longo e cuidado que permita adaptar a ordem jurídica existente às exigências que as novas realidades tecnológicas impõe, bem como de regular urgentemente o mercado da inteligência artificial com o objetivo de se salvaguardar o respeito pelos direitos fundamentais dos particulares.
A realidade não é desconhecida, e como mencionado, está já sob o olhar atento de órgãos e decisores internacionais como a União Europeia.
Resta-me, de resto, adotar um otimismo que acredita que a solução para os tempos futuros será adotar a inteligência de forma a evitar decisões completamente artificias: aproveitando as potencialidades e vantagens que sistemas autonomizados podem trazer, mas reconhecendo de forma inteligente as limitações de que sofrem.
[1] Distinção feita por Bárbara Magalhães, no seu artigo, Desafios da Inteligência Artificial nas Garantias do Direito e Processo Administrativo;
[2] Paulo Otero, Manual de Direito Administrativo, Volume I, Almedina, 2013, p. 493;
[3] Artur Farmínio da Silva, “Inteligência Artificial e Direito Administrativo”, 2020, p.12;
[4] Disponível em: https://rm.coe.int/ethical-charter-en-for-publication-4-december-2018/168
Comentários
Enviar um comentário