A entrada em vigor o Regulamento (UE) 2024/1689, conhecido como AI Act, marca um antes e um depois na relação entre tecnologia e justiça na Europa. Pela primeira vez, existe um quadro legal abrangente que classifica os sistemas de inteligência artificial segundo o nível de risco e impõe obrigações concretas a quem os desenvolve e a quem os utiliza. No centro desta arquitetura normativa está uma convicção simples e inegociável: a máquina apoia, o humano decide.

Para juristas, advogados, juízes e procuradores, este novo paradigma traz consigo um conjunto de salvaguardas, deveres e competências que convém conhecer a fundo. A alternativa é ficar para trás numa espiral que, como o título do estudo que aqui se interpreta bem sugere, pode ser vertiginosa.

A supervisão humana como aspeto intransponível

O princípio designado por "human-in-the-loop", ou supervisão humana ativa, constitui o pilar central do AI Act no que toca aos sistemas de risco elevado. Os sistemas concebidos para auxiliar a autoridade judiciária na interpretação e na aplicação da lei enquadram-se precisamente nessa categoria. O Artigo 14.º do regulamento é claro: estes sistemas devem ser desenhados, implementados e operados de modo a permitir uma supervisão humana eficaz.

Isto significa, na prática, que nenhum tribunal pode aceitar uma ferramenta de apoio à decisão como se fosse uma caixa-preta cujos resultados aceitam-se de olhos fechados. O magistrado tem de compreender os limites do modelo, as fontes de dados que o alimentam e os potenciais vieses que pode transportar. O objetivo é combater o chamado "viés de automação", aquela tendência psicológica muito humana de confiar em demasia no que uma máquina recomenda, mesmo quando a recomendação está errada.

O Artigo 14.º, n.º 3, acrescenta uma camada de exigência: a supervisão deve ser exercida por pessoas com competência, formação, autoridade e suporte adequados. A responsabilidade, portanto, não se esgota no momento da aquisição do software. Recai sobre o tribunal, sobre o Ministério Público, sobre cada profissional que utiliza a ferramenta no seu trabalho diário.

Para advogados, esta salvaguarda abre uma frente de atuação relevante. Em processos onde uma decisão judicial foi apoiada por um sistema de IA, o advogado pode e deve questionar se a supervisão humana foi genuína, se o juiz teve acesso à documentação suficiente sobre a lógica do algoritmo e se foram cumpridas as obrigações de transparência previstas na lei. A capacidade de comunicar estas questões técnicas de forma clara perante o tribunal torna-se uma competência essencial.

Quem responde quando a máquina falha

Uma das preocupações mais legítimas de qualquer cidadão é saber a quem se dirige quando um sistema de inteligência artificial causa um dano. O legislador europeu foi firme neste ponto: a IA não possui personalidade jurídica. Não há um "senhor algoritmo" a quem enviar uma notificação judicial. A responsabilidade recai sempre sobre entidades humanas ou coletivas tangíveis.

A estrutura de responsabilização civil funciona em cadeia. O fornecedor do sistema, ou seja, quem o programou e colocou no mercado, assume em regra a primeira linha de responsabilidade. Deve garantir que o produto está livre de defeitos desde o lançamento. Porém, o utilizador, que no contexto judicial pode ser o tribunal, o serviço de fiscalização ou outra autoridade pública, também tem deveres específicos: assegurar a supervisão adequada e o uso correto do sistema, conforme exige o Artigo 14.º.

Esta dualidade cria uma dinâmica complexa para quem litiga. Uma vítima de um dano causado por um sistema de IA judicial terá de navegar entre a responsabilidade do programador e a do órgão público que utilizou a ferramenta. A prova da relação causal entre a falha do sistema e o prejuízo sofrido pode ser extremamente difícil, dada a opacidade de muitos modelos.

É aqui que entra a Diretiva de Responsabilidade Civil em Matéria de IA, atualmente em discussão no plano europeu. Este diploma propõe mecanismos para aliviar a carga probatória da vítima, como a inversão do ónus da prova em determinadas circunstâncias e o dever de divulgação de informações por parte dos operadores de IA. Para advogados, isto representa uma ferramenta processual de enorme valor. Saber quando e como invocar estes mecanismos será determinante para o sucesso de ações de responsabilidade.

O Artigo 99.º do AI Act prevê sanções administrativas que podem atingir 35 milhões de euros ou 7% do volume de negócios mundial da empresa infratora, consoante o valor mais elevado. Os tribunais nacionais, através das suas instâncias administrativas e judiciais, terão autoridade para impor estas multas. Trata-se de um incentivo poderoso para o cumprimento da lei.

Novas competências para velhas togas

A integração da inteligência artificial no quotidiano forense exige uma transformação profunda das competências dos profissionais jurídicos. O conhecimento do direito substantivo e processual continua a ser a base, mas já não chega. Juristas e advogados precisam de acrescentar camadas de literacia digital, capacidade analítica e sensibilidade ética ao seu arsenal profissional.

Em primeiro lugar, a literacia digital tornou-se indispensável. Isto implica compreender, a um nível funcional, como funcionam os diferentes tipos de IA, desde os modelos de uso geral até aos sistemas de risco elevado, bem como os seus limites e riscos associados. Um juiz não precisa de se tornar engenheiro de Machine Learning, mas precisa de saber ler uma ficha técnica, interpretar um plano de gestão de riscos e avaliar um registo de desempenho.

Em segundo lugar, a capacidade de avaliar a conformidade regulatória dos sistemas de IA é crucial. Advogados e magistrados têm de saber analisar a documentação técnica e legal de um sistema para verificar se cumpre as obrigações impostas pelo Regulamento. Esta competência permite, por exemplo, contestar uma decisão judicial apoiada num sistema que não respeita os requisitos de supervisão humana ou de transparência.

Em terceiro lugar, a interpretação das obrigações de transparência constitui uma competência prática nova. Isto inclui saber rotular corretamente o conteúdo gerado por IA, conhecer as regras aplicáveis a deepfakes e estar a par das obrigações relativas a direitos de autor sobre os dados de treino dos modelos.

Por fim, a competência ética. A aplicação da Carta Ética Europeia sobre o uso de IA em sistemas judiciais, adotada pelo Conselho da Europa (CEPEJ), exige que os profissionais jurídicos avaliem criticamente as implicações éticas das decisões apoiadas por IA. Igualdade de tratamento, não discriminação, dignidade humana e autonomia da decisão humana são princípios que não se delegam a um algoritmo.

Salvaguardas práticas para juristas e advogados

Perante este cenário, que salvaguardas concretas devem os profissionais do direito adotar?

A primeira é o ceticismo informado. Nenhum “output” de um sistema de IA deve ser aceite sem verificação crítica. O advogado que recebe uma análise algorítmica deve tratá-la como trataria o parecer de um perito: com respeito, mas com escrutínio.

A segunda é a exigência de explicabilidade. Os tribunais e os escritórios de advogados devem recusar ferramentas que funcionem como caixas-pretas. A documentação e as funcionalidades de interpretação são um direito, não um favor.

A terceira salvaguarda é a formação contínua. Redes como a European Judicial Training Network já integram temas de IA nos seus programas, e instituições como a Escola Judicial de Espanha oferecem cursos com módulos dedicados à introdução, aos princípios éticos e à avaliação de impacto. Contudo, um inquérito recente revelou que a maioria destes módulos ainda é de caráter introdutório. Há uma necessidade urgente de aprofundar e normalizar o currículo. A formação não pode ser um evento isolado; deve acompanhar a evolução rápida da tecnologia e da jurisprudência.

A quarta salvaguarda é a especialização. A figura do advogado especialista em IA começa a ganhar contorno. Este profissional serve como intérprete entre a tecnologia e o direito, domina a jurisprudência emergente, identifica corretamente os responsáveis numa cadeia de fornecimento e utilização, e articula os argumentos conforme o regime de responsabilidade civil aplicável.

A quinta salvaguarda é a consciência dos limites absolutos. O AI Act proíbe categoricamente certas aplicações, como a manipulação cognitivo-comportamental e a pontuação social. Nestes casos, nem a supervisão humana torna a prática legítima. O risco é inaceitável por definição. Juristas e advogados devem conhecer estas fronteiras e estar preparados para as invocar em juízo.

Conclusão

O Regulamento de Inteligência Artificial não é apenas mais um diploma para arquivar na estante do escritório. É um convite, e em muitos aspetos, uma exigência, para que o sistema judicial europeu se reinvente sem perder a sua alma. A justiça continuará a ser feita por pessoas, para pessoas, com a consciência moral e a interpretação contextual que nenhuma máquina consegue replicar.

A espiral em que o juiz se encontra pode parecer vertiginosa, mas tem um centro firme: a primazia da decisão humana. Advogados, juristas, magistrados e procuradores que compreendam esta realidade, que invistam na sua formação e que exerçam o seu papel com sentido crítico estarão bem posicionados. A tecnologia avança, o direito adapta-se, e a proteção dos cidadãos permanece como a razão de ser de este edifício normativo. No final do dia, a justiça europeia precisa de profissionais que saibam ler a lei e, quando necessário, ler o código. E que saibam, sobretudo, quando desligar o ecrã e confiar no próprio julgamento.

Foto: Freepik

Curadoria: Gerueb

Autoria do texto original: O. Santos

Data de publicação original: Agosto 2026