A Transparência Algorítmica e o Controlo do Particular: A Legitimidade do Particular na Impugnação de Atos Administrativos Automatizados - Inteligência Artificial e a Responsabilidade do Estado

 Introdução

Os sistemas de inteligência artificial constituem, na atualidade, uma realidade consolidada e irreversível, cuja integração na esfera da Administração Pública se apresenta não apenas como inevitável, mas também como um elemento central na modernização e eficiência dos processos administrativos. É, por conseguinte, expectável que estas tecnologias se afirmem, de forma progressiva, como instrumentos decisivos no apoio à tomada de decisões administrativas. Todavia, a par das múltiplas vantagens que decorrem da sua utilização pelas autoridades públicas, nomeadamente ao nível da celeridade, da racionalização de recursos e da melhoria da qualidade das decisões, subsistem igualmente riscos e desafios de considerável relevância jurídica e ética. Entre estes, destaca-se, de modo particular, o problema da opacidade dos sistemas algorítmicos, resultante da ausência de divulgação ativa relativamente aos modelos utilizados, aos dados que os alimentam, às finalidades para que são aplicados e ao modo como influenciam concretamente o processo decisório da Administração. Perante este cenário, impõe-se a questão de saber se os cidadãos dispõem, ou deveriam dispor, da possibilidade efetiva de aceder a tal informação, ou, dito de outro modo, se é admissível um verdadeiro controlo social sobre a utilização de sistemas de inteligência artificial pela Administração Pública. A este propósito, revela-se ainda fundamental refletir sobre a necessidade de que a transparência na utilização de tais sistemas seja acompanhada pela explicabilidade dos respetivos algoritmos, uma vez que o simples conhecimento da sua existência e aplicação, desacompanhado da compreensão do seu funcionamento interno, se mostra insuficiente para assegurar uma fiscalização pública efetiva e informada. 

Neste contexto, emerge um debate de particular importância quanto à legitimidade processual do cidadão perante uma Administração crescentemente digitalizada, colocando-se a questão de saber em que medida os particulares podem impugnar decisões de natureza algorítmica ou questionar a conformidade legal de sistemas automatizados que afetam os seus direitos e interesses legítimos. A entrada em vigor do AI Act, conjugada com a expansão das políticas de governação digital e com a transformação tecnológica do setor público, vem reforçar a urgência de repensar os mecanismos de controlo existentes, de modo a garantir que a inovação tecnológica não compromete os princípios estruturantes do Estado de Direito, da legalidade administrativa e da proteção efetiva dos direitos fundamentais dos cidadãos. 

O presente trabalho propõe, assim, analisar o enquadramento jurídico e processual das ações intentadas contra o Estado em virtude de falhas digitais, procurando identificar o papel de controlo do cidadão na fiscalização da Administração Digital e explorar a possibilidade de impugnação dos algoritmos que sustentam a atuação da máquina administrativa.

 

O que é a Inteligência Artificial (IA)?

De acordo com o Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024 ("Regulamento Europeu da Inteligência Artificial"), um sistema de inteligência artificial define-se como um "sistema baseado em máquinas concebido para funcionar com níveis de autonomia variáveis, e que pode apresentar capacidade de adaptação após a implantação e que, para objetivos explícitos ou implícitos, e com base nos dados de entrada que recebe, infere a forma de gerar resultados, tais como previsões, conteúdos, recomendações ou decisões que podem influenciar ambientes físicos ou virtuais"[1]. Deste conceito sobressaem dois elementos fundamentais que permitem qualificar um sistema como sendo de inteligência artificial. Em primeiro lugar, exige-se que o sistema atue com um determinado grau de autonomia, dispensando a intervenção humana direta no seu funcionamento após a fase de implementação. Em segundo lugar, requer-se que possua a capacidade de gerar resultados a partir da informação que recebe, podendo traduzir-se na produção de previsões, conteúdos, recomendações ou mesmo decisões. Atendendo às suas características, os sistemas de inteligência artificial apresentam-se como uma poderosa ferramenta ao dispor da Administração Pública, já que, potencialmente, permitem tomar decisões de forma completamente autonomizada, combater a fraude à lei ao detetar matrizes de risco, e agilizar e facilitar a relação das pessoas com as entidades públicas, oferecendo-lhes respostas às suas dúvidas e melhorado a comunicação com os cidadãos[2].

 

Assim, as vantagens decorrentes da utilização de sistemas de inteligência artificial pela Administração Pública revelam-se múltiplas e de grande relevância, na medida em que permitem, por um lado, aumentar de forma substancial a celeridade e a eficiência tanto na tramitação administrativa como na tomada de decisões, e, por outro, reduzir os custos materiais e humanos inerentes a esses procedimentos, contribuindo simultaneamente para a diminuição do risco de erro humano. Todavia, importa reconhecer que os riscos associados à implementação de tais sistemas no domínio administrativo são igualmente numerosos e revestem-se de significativa gravidade. Pense-se, por exemplo, na possibilidade de a lei não se encontrar corretamente traduzida no algoritmo que a pretende implementar, gerando-se inevitavelmente decisões erróneas e infundadas, ou na possibilidade de o algoritmo pressupor uma aplicação discriminatória de uma norma em detrimento de determinadas pessoas, minorias ou coletivos[3], vulnerando-se o princípio da igualdade perante a lei. A discriminação algorítmica tem origem nos preconceitos humanos incorporados na programação, podendo, por isso, ser vista como uma extensão das formas tradicionais de discriminação. Contudo, a utilização de inteligência artificial pela Administração Pública pode conduzir tanto à estagnação do Direito, uma vez que as decisões automatizadas tendem a reproduzir padrões anteriores, sem qualquer juízo de adequação ou evolução jurídica, como ainda leva ao risco das chamadas “alucinações” da inteligência artificial, isto é, a geração de resultados incorretos baseados em dados falsos ou inexistentes.

 

Como mitigar este facto? A utilização de sistemas de IA, pelo menos, por parte de autoridades públicas deverá sempre ser limitada por aquilo que a doutrina já denominou como a “reserva de humanidade”[4], ou seja, pelo direito de obter intervenção humana. Neste contexto, embora seja tecnicamente viável que os sistemas de inteligência artificial pratiquem atos e decisões de forma totalmente autónoma, parece razoável sustentar que tais decisões devam ser sujeitas a supervisão, análise e validação humanas, sobretudo nos casos em que produzam efeitos desfavoráveis para o cidadão. E, em qualquer caso, os recursos ou impugnações que se façam daquela decisão deverão sempre ser analisados e decididos por seres humanos[5]. Por outro lado, a utilização de sistemas de IA deve igualmente reger-se por princípios fundamentais do Estado de Direito, nomeadamente os da transparência e da explicabilidade. Estes assumem particular importância para garantir um controlo efetivo sobre o uso dessas tecnologias pela Administração Pública. 

Com efeito, a transparência implica que os cidadãos possam conhecer quais os algoritmos utilizados, a sua finalidade, os dados que os alimentam e a forma como influenciam a tomada de decisões administrativas. No entanto, o princípio da transparência não se encontra consagrado de forma expressa na Constituição da República Portuguesa (CRP), onde apenas se emprega o vocábulo transparência em relação aos partidos políticos, e não para regular a transparência administrativa[6]. A este respeito, o Tribunal Constitucional esclarece que o "princípio e valor da transparência administrativa" encontra-se vertido no artigo 268° da CRP, que contem duas manifestações diferentes do direito à informação administrativa: o direito à informação administrativa procedimental, consagrado no n.º 1 do artigo 268°, e o direito ao acesso a arquivos e registos administrativos, previsto no nº 2 do mesmo artigo[7].

Por sua vez, a explicabilidade dos sistemas de inteligência artificial assenta na possibilidade de os cidadãos entenderem os algoritmos que são utilizados na tomada de decisões administrativas.

 

Assim, uma vez que ainda não existem mecanismos eficazes de controlo dos sistemas de IA utilizados pela Administração Pública, como a criação de entidades de supervisão ou a realização de auditorias independentes, o controlo social através do acesso à informação sobre os algoritmos permanece o único meio viável de fiscalização. Todavia, esse acesso revela-se insuficiente se não vier acompanhado de documentação que descreva os algoritmos de forma compreensível para o ser humano.

 

O Problema da Opacidade Algorítmica

A par de problemas de imprecisão, o uso da IA revela também dificuldades acrescidas no que concerne à opacidade quanto ao modo de funcionamento dos algoritmos ou dos Automated Decision-making Systems, também conhecido por problema da caixa preta ou black box[8]. Esta problemática decorre do facto de os fabricantes dos algoritmos, por razões de concorrência e de proteção do segredo comercial ou do know-how, não revelarem o funcionamento interno dos sistemas, o que faz com que estes processem dados e apresentem resultados sem que programadores ou funcionários públicos consigam explicar o modo ou as razões subjacentes a cada decisão. O processo decisório tecnológico ocorre, assim, numa verdadeira “caixa preta”, marcada pela opacidade e pela imprecisão. Ora, se o algoritmo executa uma tarefa sem que o seu raciocínio seja transparente, claro ou plenamente compreensível, surgem inevitavelmente dificuldades no plano dos direitos, liberdades e garantias dos cidadãos, tornando-se também problemático distinguir um resultado genuíno de um resultado intencionalmente manipulado, o que compromete de forma séria os princípios da transparência e da explicabilidade. A utilização de algoritmos transparentes (White Box Algorithms[9]) no contexto judiciário é determinante, pois a clareza e transparência dos resultados é fundamental para a tutela jurisdicional efetiva e para a existência de confiança pública nos resultados apresentados por este tipo de algoritmos[10], dado que é através da clareza, explicabilidade e transparência que se dão a conhecer os fundamentos, factuais e normativos, da decisão, assim como o seu percurso lógico.

 

A utilização da IA pelo Estado

A utilização da IA na Administração Pública constitui um fenómeno em franca expansão, oferecendo um vasto leque de novas oportunidades, como já antes mencionado. O processo de tomada de decisão administrativa encontra-se, assim, cada vez mais apoiado pelo uso de tecnologias avançadas, uma vez que a capacidade de processar grandes volumes de dados em períodos de tempo reduzidos permite elevar de forma significativa os níveis de eficiência e de desempenho das entidades públicas[11].

 

Responsabilidade do Estado por Atos Algorítmicos: A Complexidade do Instituto

Na vida em sociedade, a ocorrência de danos pessoais ou patrimoniais revela-se inevitável. O princípio geral do ordenamento jurídico estabelece que cada indivíduo deve suportar os prejuízos que lhe advêm; contudo, tal regra admite exceção sempre que o dano resulte de factos imputáveis a outrem, distinto daquele na esfera jurídica de quem o prejuízo se manifesta. Nestes casos, impõe-se, por imperativo de justiça, que o lesado seja devidamente ressarcido pelos responsáveis pela produção do dano. A responsabilidade civil administrativa é, assim, o conjunto de circunstâncias da qual emerge, para a Administração e para os seus titulares de órgãos, funcionários ou agentes, a obrigação de indemnização dos prejuízos causados a outrem no exercício da atividade administrativa[12]. A conceção de responsabilidade estadual e das demais entidades públicas, foi pela primeira vez introduzida em França, no Acórdão Blanco[13], proferido em 8 de Fevereiro de 1873 pelo Tribunal de Conflitos. Segundo alguns autores, "transformou-se num mito demiurgo do direito administrativo francês e, de certo modo, de todo o direito administrativo",[14] tendo sido esta a "primeira tentativa de fundar a obrigação de indemnizar prejuízos causados a particulares por parte do Estado em princípios autónomos, não reconduzíveis ao direito civil (...) Este acórdão afirmou também expressamente a competência dos tribunais administrativos em matéria de responsabilidade do Estado".[15]

Em Portugal, o regime da responsabilidade do Estado foi progressivamente evoluindo em consonância com as transformações da sociedade e com a própria maturação do ordenamento jurídico. Até há relativamente pouco tempo, esta matéria encontrava-se regulada pelo Decreto-Lei n.º 48.051, de 21 de novembro de 1967, diploma que disciplinava a responsabilidade extracontratual do Estado e das demais entidades públicas no âmbito dos atos de gestão pública, restringindo-se, portanto, aos atos inseridos na função administrativa do Estado. Neste sentido, era comummente entendido pela doutrina que este regime de exclusividade era inaplicável aos atos integrados na função jurisdicional e na função legislativa do estado.[16] No entanto, com o passar dos anos e com a aprovação da Constituição da República Portuguesa de 1976, esta lei passou a ser bastante deficitária, suscitando várias dúvidas e questões quer à doutrina, quer à jurisprudência.[17] Tornou-se, assim, imprescindível a criação de um novo enquadramento jurídico, mais completo e sistematizado, capaz de regular de forma eficaz a responsabilidade do Estado e das demais entidades públicas, suprindo as lacunas e corrigindo as eventuais inconstitucionalidades apontadas ao regime anterior. Neste contexto, foi publicado o Decreto-Lei n.º 67/2007, de 31 de dezembro, conhecido como Regime da Responsabilidade Extracontratual do Estado e demais Entidades Públicas (RRCEEP), que veio estabelecer um quadro normativo mais coerente e adequado às exigências do Estado de Direito contemporâneo.

 

Importa ainda salientar, no âmbito do presente trabalho, a crescente relevância da responsabilidade civil em articulação com a utilização de sistemas de IA. Com o aumento da adoção de novas tecnologias no exercício de poderes públicos e a consequente possibilidade da sua aplicação na produção de decisões administrativas automatizadas, emerge uma questão central que se procura analisar: será o RRCEEP apto a prevenir e reparar eficazmente os danos decorrentes deste tipo de atuação automatizada?

 

Com efeito, uma decisão automática deve ser entendida como uma decisão imputável a um órgão administrativo, na medida em que resulta da sua opção em recorrer a um sistema informático para decidir, da escolha do programa utilizado, da introdução dos dados e da sua submissão ao processamento algorítmico. Torna-se, por isso, essencial determinar qual o instituto de responsabilidade civil extracontratual do Estado adequado à tutela dos danos emergentes de atos administrativos automatizados. Ora, a conceção tradicional da responsabilidade extracontratual do Estado assenta na verificação de determinados pressupostos (independentemente da modalidade de responsabilidade), como a culpa, a ilicitude e a existência de um agente. Contudo, tratando-se de sistemas informáticos autónomos, destituídos de personalidade jurídica, o preenchimento desses requisitos revela-se particularmente problemático. Assim, a doutrina permanece dividida quanto ao regime específico de responsabilidade a aplicar ao Estado nos casos em que os prejuízos decorrem de decisões automatizadas.

A meu ver, o regime da responsabilidade por facto ilícito, consagrado nos artigos 7º e seguintes do RRCEEP, revela-se insuficiente para responder aos desafios colocados pela utilização de sistemas de IA na Administração Pública. Tal insuficiência decorre, sobretudo, da dificuldade em demonstrar o nexo de causalidade entre o dano sofrido e uma ação ou omissão culposa imputável a um titular de órgão, funcionário ou agente público. Do mesmo modo, entendo que o regime da responsabilidade por funcionamento anormal do serviço, previsto nos nºs 3 e 4 do mesmo artigo, embora represente um avanço em relação ao regime anterior, continua dependente da verificação de ilicitude e da imputação de uma conduta culposa, o que limita a sua aplicabilidade a estes novos contextos tecnológicos.

Neste sentido, considero que o regime da responsabilidade objetiva, ou pelo risco, previsto no artigo 11º do RRCEEP, apresenta-se como a solução mais adequada para salvaguardar os direitos dos particulares face aos potenciais danos resultantes da utilização de sistemas de IA pela Administração Pública. Efetivamente, a adoção de tecnologias capazes de gerar riscos autónomos para os particulares justifica a responsabilização da Administração independentemente da prova da culpa. Assim, entendo que deverá bastar a demonstração de que o dano decorreu do risco inerente à utilização da tecnologia automatizada, promovendo uma integração responsável e segura da IA no exercício da função administrativa.

 

Estes atos administrativos automatizados / algorítmicos são suscetíveis de impugnação pelos particulares?

A questão da impugnação de decisões administrativas proferidas por sistemas de IA coloca-se hoje como um dos pontos mais sensíveis da transição para uma Administração Pública Digital, como acima referido. A crescente automatização de atos administrativos que afetam diretamente a esfera jurídica dos particulares impõe a clarificação do seu estatuto jurídico e, sobretudo, da possibilidade de reação contenciosa por parte dos mesmos. Uma análise crítica demonstra que a legitimidade do cidadão para impugnar atos algorítmicos não é apenas uma possibilidade jurídica, mas uma exigência constitucional decorrente dos princípios da tutela jurisdicional efetiva, do Estado de Direito e da legalidade administrativa.

Do ponto de vista jurídico-formal, o ato administrativo não perde a sua natureza pelo simples facto de ser produzido por IA, ou seja, a decisão continua a ser imputável ao Estado, uma vez que a escolha da tecnologia, a parametrização dos algoritmos e a sua utilização decorrem de uma decisão administrativa humana prévia. Assim, ainda que a execução concreta da decisão seja automatizada, os efeitos jurídicos são reais e imputáveis à Administração, mantendo-se plenamente aplicável o regime do contencioso administrativo e o consequente regime da Responsabilidade Civil Extracontratual do Estado. Por estes motivos, a impugnabilidade destes atos é não só possível, como necessária, se assim o particular optar, sob pena de se criar uma zona de irresponsabilidade pública assente na opacidade tecnológica.

Todavia, a verdadeira problemática não reside na admissibilidade abstrata da impugnação, mas nas dificuldades práticas que esta apresenta. Por um lado, a opacidade algorítmica impede o particular de compreender os fundamentos do ato que foi proferido, o que pode comprometer o exercício do direito ao contraditório. Por outro, a ausência de intervenção humana direta pode dificultar a identificação da ilicitude ou da culpa, elementos tradicionalmente exigidos para a responsabilidade civil ou anulação de atos administrativos. Assim, embora os tribunais administrativos admitam, em tese, a impugnação, a eficácia deste controlo está severamente comprometida por obstáculos técnicos, informacionais e, muitas vezes, jurídicos. Nesta perspetiva, a doutrina mais atual defende que a legitimidade do particular para impugnar atos administrativos automatizados deve ser reforçada com mecanismos específicos, tais como: o direito de acesso à lógica do algoritmo, a obrigatoriedade de supervisão humana em decisões lesivas e a inversão do ónus da prova em matéria de responsabilidade. 

Tais medidas são necessárias para impedir que a utilização de IA se converta numa forma de insindicabilidade da atividade administrativa, incompatível com os princípios estruturantes da ordem jurídica.

Do ponto de vista crítico, entendo que os particulares devem impugnar atos administrativos baseados em IA, com fundamento num interesse legítimo, isto é, pessoal e direto (este tema não será objeto de aprofundamento neste comentário), que lhes confere a designada legitimidade processual administrativa, pelo facto da sua esfera jurídica ter sido lesada[18]. Assim, a Administração não pode refugiar-se na complexidade técnica ou no segredo comercial dos algoritmos para escapar ao controlo jurisdicional; até pelo contrário, a utilização de IA impõe um maior grau de transparência e responsabilidade, sob pena de se subverter a lógica do Estado de Direito. Logo, a impugnação destes atos é juridicamente necessária, política, constitucionalmente imperativa, e eticamente inadiável, caso assim o particular entenda.

 

Conclusão

Em jeito de conclusão, posso afirmar que a introdução da inteligência artificial no seio da Administração Pública representa um marco de transformação profunda na atuação do Estado, trazendo consigo benefícios inegáveis de eficiência, celeridade e racionalização de recursos. Contudo, esses ganhos não podem eclipsar os riscos estruturais que tais sistemas comportam, nomeadamente a opacidade algorítmica, a possibilidade de discriminação automatizada e a dificuldade de imputação de responsabilidade. A análise desenvolvida ao longo deste trabalho permitiu demonstrar que os sistemas de IA, ao influenciarem ou determinarem decisões/atos administrativos com impacto direto na esfera jurídica dos particulares, não são neutros nem tecnicamente insindicáveis; pelo contrário, devem ser plenamente integrados no quadro jurídico do Estado de Direito, sujeitando-se aos princípios da legalidade, da transparência, da boa administração e da tutela jurisdicional efetiva.

Verificou-se que a utilização de algoritmos na tomada de decisões/atos administrativos não afasta a natureza jurídica desses atos, nem elimina a sua impugnabilidade, isto é, ainda que a decisão seja produzida de forma automatizada, ela continua a ser imputável à Administração, devendo os particulares manter intacto o seu direito de reação, quer no plano procedimental, através do acesso à informação e à explicação da sua lógica, quer no plano jurisdicional, mediante a impugnação no contencioso administrativo. A introdução do AI Act vem reforçar esta exigência, consagrando expressamente a necessidade de supervisão humana significativa e de transparência algorítmica como pilares de confiança pública nesta nova era digital.

Neste sentido, conclui-se que a legitimidade do cidadão para impugnar atos administrativos produzidos por sistemas de IA não é apenas uma faculdade jurídica, mas uma garantia essencial de preservação do Estado de Direito. Para conseguirmos dar uso a esta garantia, a tecnologia não pode ser utilizada como escudo para a irresponsabilidade ou como instrumento de automatização acrítica da Administração Pública; pelo contrário, quanto maior o grau de automatização, maior deve ser o grau de escrutínio. Para terminar, a Administração Digital deve evoluir em consonância com os direitos fundamentais e com os mecanismos de controlo democrático, assegurando que a inovação tecnológica permanece ao serviço do particular, protegendo os seus direitos e reforçando a confiança na atuação do Estado. A digitalização administrativa só será verdadeiramente legítima se acompanhada de transparência, responsabilidade e plena garantia de impugnação jurisdicional por parte dos particulares.

 

 

Bibliografia:

·  ALVES, Dora Resende; TAVARES, Ana Caroline de Melo (2024), "Revolucionando a Justiça: Uma Análise Abrangente da Inteligência Artificial no Âmbito Jurídico - Aplicações, Desafios Éticos e Perspectivas Futuras", in VEIGA, Fábio da Silva; 

 

·  AMORIM, José de Campos; AZEVEDO, Patrícia Anjos (Coords.), Desafios do LegalTech, Vol. Il, Porto: Instituto Iberoamericano de Estudos Jurídicos e Instituto Superior de Contabilidade e Administração de Porto, pp. 115-116.

 

·  MESQUITA, Lurdes Varregoso; Cruz, Rossana Martingo (2022), "Algumas notas reflexivas sobre a carta portuguesa de direitos humanos na era digital: da proteção da criança ao uso da inteligência artificial em processos decisórios", in GONZÁLEZ PULIDO, Irene (Coord.), Fodertics 10.0: estudios sobre derecho digital, Granada: Comares, p. 776; MEIJER, Albert; GRIMMELIKHUIJSEN, Stephan (2020), "Responsible and Accountable Algorithmization. How to Generate Citizen Trust in Governmental Usage of Algorithms" SCHUILENBURG, Marc; PEETERS, Rik (Eds.), The Algorithmic Society: Technology, Power, and Knowledge, Nova lorque: Routledge, p. 53.

 

·  PONCE SOLÉ, Agustí (2019), "Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimento administrativo debido tecnológico", Revista General de Derecho Administrativo, n.º 50, pp. 1-52.

 

·  FREITAS, Tiago Fidalgo de (2020), A dimensão constitucional da transparência administrativa, p. 229

 

·      BATHAEE, Yavar, "The Artificial Intelligence Black Box and the Failure of Intent and Causation", Harvard Journal of Law & echnology, Vol. 31, n. 9 2, 2018, р.938

 

·      LOYOLA González, “Black-Box vs. White Box: understanding their advantages and weaknesses from a pratical point of view”, IEEE Access, Vol 4 nº16, 2016 

 

·      DEEKS, Ashley, "The judicial demand for explainable artificial intelligence", Columbia Law Review, Vol 119, 2019, p.1829 e ss.

 

·  Marcelo Rebelo de Sousa, André Salgado de Matos, Responsabilidade Civil Administrativa – Direito Administrativo Geral, Tomo III, 1ª edição, Maio 2008, pág. 11

 

·      Colaço, Antunes, Ciência Jurídica Administrativa, Almedina, 2º Reimpressão, 2014, pág. 481, Bruno Oliveira, À Procura dos Fundamentos da Indemnização pelo Sacrifício, 2016, p. 10

 

·      João Caupers, Notas sobre a nova lei da responsabilidade civil do Estado, p. 4

 

·      Intervenção do Professor Freitas do Amaral em, A Responsabilidade Extracontratual do Estado - Trabalhos preparatórios da reforma, Coimbra Editora, 2002, p. 45.

 

Acórdãos:

·  Acórdão do Tribunal Constitucional n.º 117/2015, de 12 de fevereiro, no âmbito do processo n. 686/12.

·      Tribunal da Relação de Lisboa, em https://www.pgdlisboa.pt/textos/files/tex_0040.pdf

 

---

[1] Artigo 3.°, alínea 1), do Regulamento (UE) 2024/1689 do Parlamento Europeu e do Conselho, de 13 de junho de 2024, que cria regras harmonizadas em matéria de inteligência artificial e que altera os Regulamentos (CE) n.° 300/2008, (UE) n.º 167/2013, (UE) n.º 168/2013, (UE) 2018/858, (UE 2018/1139 e (UE) 2019/2144 e as Diretivas 2014/90/UE, (UE) 2016/797 e (UE) 2020/1828.

[2] ALVES, Dora Resende; TAVARES, Ana Caroline de Melo (2024), "Revolucionando a Justiça: Uma Análise Abrangente da Inteligência Artificial no Âmbito Jurídico - Aplicações, Desafios Éticos e Perspectivas Futuras", in VEIGA, Fábio da Silva; AMORIM, José de Campos; AZEVEDO, Patrícia Anjos (Coords.), Desafios do LegalTech, Vol. Il, Porto: Instituto Iberoamericano de Estudos Jurídicos e Instituto Superior de Contabilidade e Administração de Porto, pp. 115-116.

[3] MESQUITA, Lurdes Varregoso; Cruz, Rossana Martingo (2022), "Algumas notas reflexivas sobre a carta portuguesa de direitos humanos na era digital: da proteção da criança ao uso da inteligência artificial em processos decisórios", in GONZÁLEZ PULIDO, Irene (Coord.), Fodertics 10.0: estudios sobre derecho digital, Granada: Comares, p. 776; MEIJER, Albert; GRIMMELIKHUIJSEN, Stephan (2020), "Responsible and Accountable Algorithmization. How to Generate Citizen Trust in Governmental Usage of Algorithms" SCHUILENBURG, Marc; PEETERS, Rik (Eds.), The Algorithmic Society: Technology, Power, and Knowledge, Nova lorque: Routledge, p. 53.

[4] PONCE SOLÉ, Agustí (2019), "Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimento administrativo debido tecnológico", Revista General de Derecho Administrativo, n.º 50, pp. 1-52.

[5] Com efeito, o Regulamento Geral sobre a Proteção de Dados prevê o direito - ainda que sujeito a algumas exceções - a não se ficar sujeito a nenhuma decisão tomada exclusivamente com base no tratamento automatizado de dados que produzam efeitos na esfera jurídica ao titular dos dados ou que o afete significativamente de forma similar. Cfr. Art. 22.9, n.° 1, do Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e a livre circulação desses dados e que revoga a Diretiva 95/46/CE.

[6] FREITAS, Tiago Fidalgo de (2020), A dimensão constitucional da transparência administrativa, p. 229

[7] Acórdão do Tribunal Constitucional n.º 117/2015, de 12 de fevereiro, no âmbito do processo n. 686/12.

[8] BATHAEE, Yavar, "The Artificial Intelligence Black Box and the Failure of Intent and Causation", Harvard Journal of Law & echnology, Vol. 31, n. 9 2, 2018, р.938

[9] LOYOLA González, “Black-Box vs. White Box: understanding their advantages and weaknesses from a pratical point of view”, IEEE Access, Vol 4 nº16, 2016 

[10] DEEKS, Ashley, "The judicial demand for explainable artificial intelligence", Columbia Law Review, Vol 119, 2019, p.1829 e ss.

[11] Atualmente em Portugal existem vários exemplos do uso da IA no setor público como é o caso do Instituto da Segurança Social, I.P., que utiliza tecnologias de machine learning especificamente o chatbot de atendimento, disponível 7 dias por semana durante 24 horas. O setor da saúde tem adotado a IA com maior veemência, destacando-se o caso do Centro Hospitalar Universitário de São João, que reconheceu o papel da IA na formação de futuros médicos, na codificação clínica que permite uma otimização da eficiência dos processos internos e na elaboração de previsões que permitem melhorar a capacidade de diagnósticos médicos. Ainda no campo da saúde, a IA foi e tem sido utilizada como uma ferramenta de luta contra a pandemia Covid-19, que afetou todo o mundo desde o início de 2020, com o objetivo de promover os projetos que contribuam para melhorar os tempos de resposta no setor da saúde, minimizando o impacto da Covid-19 de acordo com o disposto no Plano Nacional de Preparação e Resposta à Doença por Covid-19 da Direção Geral da Saúde (DGS) e melhorando a prestação de serviços públicos de saúde.

[12] Marcelo Rebelo de Sousa, André Salgado de Matos, Responsabilidade Civil Administrativa – Direito Administrativo Geral, Tomo III, 1ª edição, Maio 2008, pág. 11

[13] Estava em causa um atropelamento de uma menina de 5 anos por um vagão da Companhia Nacional da Manufatura do Tabaco, uma empresa pública de Bordéus. Os pais da menina dirigem-se ao tribunal para pedir uma indemnização, pois a criança ficou com lesões graves permanentes, tendo o pai interposto uma ação de responsabilização contra o estado em 1872. Em resposta, o tribunal de primeira instância diz que não é competente, porque quem atuou foi uma entidade administrativa e não um particular. Não conformado com a decisão, há um recurso para o tribunal de conflitos que, pela primeira vez, estatui que a competência para este tipo de casos é da jurisdição administrativa, e que cabe à jurisdição administrativa resolver aqueles casos de responsabilidade civil da administração. 

[14] Colaço, Antunes, Ciência Jurídica Administrativa, Almedina, 2º Reimpressão, 2014, pág. 481; Oliveira, Bruno, À Procura dos Fundamentos da Indemnização pelo Sacrifício, 2016, p. 10

[15] João Caupers, Notas sobre a nova lei da responsabilidade civil do Estado, p. 4

[16] Intervenção do Professor Freitas do Amaral em, A Responsabilidade Extracontratual do Estado - Trabalhos preparatórios da reforma, Coimbra Editora, 2002, p. 45.

[17] Tribunal da Relação de Lisboa, em https://www.pgdlisboa.pt/textos/files/tex_0040.pdf

[18] 55º, nº1, al. a) CPTA