Câmaras que leem matrículas em cada esquina. Algoritmos que transformam o rosto humano num índice pesquisável por qualquer agente policial. Ferramentas que constroem perfis detalhados de cidadãos a partir de fotografias publicadas em redes sociais. Empresas sem trabalhadores humanos, geridas por agentes de inteligência artificial. Armas que decidem, sem intervenção humana, quem eliminar num campo de batalha. O que antes pertencia ao domínio da ficção científica é já realidade concreta em múltiplas geografias. A velocidade a que estas tecnologias se implantam supera, de forma ampla, a capacidade de resposta das leis, dos tribunais e das instituições democráticas. Este artigo percorre os principais vetores desta transformação silenciosa e analisa as respostas que a sociedade civil, os tribunais e alguns governos começam a organizar, numa corrida contra o tempo que definirá o futuro das liberdades fundamentais.

Imagine o leitor que cada deslocação de automóvel fica registada por uma câmara discreta, instalada num poste de iluminação, que captura a matrícula e a associa a uma base de dados centralizada. Imagine que uma fotografia publicada numa rede social há dez anos pode, hoje, servir para identificar o leitor numa manifestação, num hospital ou à porta de uma escola. Imagine que uma ferramenta informática navega pela internet, analisa imagens, executa buscas e utiliza reconhecimento facial para construir um perfil detalhado sobre qualquer pessoa, com empregadores prováveis, nomes alternativos, associados e características físicas. Imagine que uma empresa pode operar legalmente sem um único trabalhador humano, com decisões tomadas por algoritmos sobre os quais ninguém exerce supervisão direta. Imagine, por fim, que um drone militar pode selecionar e eliminar um alvo sem que qualquer pessoa autorize o disparo.

Nenhuma destas hipóteses é especulação. Todas correspondem a tecnologias já desenvolvidas, comercializadas e, em muitos casos, já implantadas em escala. O que une estes cenários é uma lógica comum: a primazia da velocidade e da eficiência técnica sobre a deliberação democrática, a proteção de direitos e a supervisão humana. A inteligência artificial, enquanto ferramenta, possui um potencial imenso para resolver problemas complexos da humanidade. Porém, a forma como tem sido integrada em sistemas de vigilância, de aplicação da lei, de governação e de defesa militar levanta questões que tocam o cerne do contrato social.

Para o leitor europeu e português, estas questões possuem uma relevância direta. O Regulamento Geral sobre a Proteção de Dados (RGPD) estabeleceu, na União Europeia, um padrão global de proteção da privacidade. Contudo, as tecnologias descritas neste artigo operam frequentemente a partir de jurisdições com enquadramentos legais menos exigentes, e os seus efeitos transcendem fronteiras. Uma base de dados de reconhecimento facial construída nos Estados Unidos pode conter milhões de rostos de cidadãos europeus. Uma câmara de leitura de matrículas fabricada por uma empresa americana pode ser instalada numa cidade portuguesa. Compreender estas dinâmicas é, portanto, um exercício de cidadania informada.

O presente artigo propõe uma análise detalhada dos principais domínios em que esta tensão se manifesta. Percorreremos a infraestrutura de vigilância em massa que se expandiu nos últimos anos, examinaremos os riscos da automação de decisões que antes cabiam a seres humanos, analisaremos as propostas de regulação e salvaguarda que começam a surgir, e abordaremos duas fronteiras particularmente sensíveis: as armas autónomas e as empresas geridas exclusivamente por inteligência artificial.

1. A infraestrutura invisível da vigilância em massa

A vigilância em massa deixou de depender de agentes secretos com binóculos e microfones ocultos. Hoje, a sua infraestrutura é composta por câmaras, sensores, algoritmos e bases de dados que operam de forma contínua, silenciosa e, na maioria dos casos, invisível para o cidadão comum. Três empresas ilustram, de forma paradigmática, as diferentes dimensões deste ecossistema: a Clearview AI, a Flock Safety e a Cognyte.

A Clearview AI, fundada em 2017 com investimento inicial de Peter Thiel, construiu a sua proeminência através de uma estratégia comercial agressiva. A empresa ofereceu serviços gratuitos a agências policiais locais como forma de ganhar acesso ao mercado e criar dependência institucional. A sua principal oferta é uma plataforma de reconhecimento facial alimentada por uma base de dados de dimensão sem precedentes, construída através da extração automática, ou "scraping", de fotografias de redes sociais como o Facebook, o YouTube, o Venmo e outros sítios web públicos. Esta atividade constitui uma violação direta das normas de proteção de dados em múltiplos países e transformou o rosto humano num índice pesquisável por forças policiais em todo o mundo. Em 2020, a empresa afirmava possuir três mil milhões de imagens. Esse número cresceu para mais de 70 mil milhões, o que demonstra a escala exponencial desta recolha. A empresa serve atualmente mais de 600 parceiros de aplicação da lei e cerca de 6.000 clientes privados. Os dados recolhidos ficam disponíveis para consulta pelas forças policiais, que os utilizam para investigar crimes. O presidente Trump chegou a apoiar publicamente esta tecnologia, com o argumento do seu valor para a aplicação da lei, num período em que defendia a liderança americana na corrida pela inteligência artificial contra a China.

A Flock Safety opera num domínio diferente, mas complementar. A empresa instala câmaras fixas em espaços públicos, especializadas na leitura automática de matrículas (ALPR, na sigla inglesa). Com cerca de 122.000 câmaras instaladas nos Estados Unidos, a Flock Safety criou uma rede de monitorização de deslocações que abrange uma parcela significativa do território americano. O modelo de negócio assenta na venda de câmaras e na subscrição de acesso a dados por parte de comunidades e forças policiais. Entre os casos de uso documentados por organizações de defesa de direitos civis contam-se a monitorização de ex-parceiros em contextos de violência doméstica, o rastreamento de manifestantes e a vigilância de comunidades imigrantes. Na Flórida, sob a administração do governador DeSantis, estas tecnologias foram utilizadas para monitorizar refugiados haitianos, avós, jardineiros e até crianças, num padrão de vigilância indiscriminada que a ACLU da Flórida documentou num relatório detalhado sobre abusos de direitos civis.

A Cognyte, por sua vez, especializou-se em tecnologias de interceção de comunicações móveis. A empresa comercializa simuladores de torres de telemóvel, conhecidos como "IMSI catchers", que forçam os telemóveis nas proximidades a estabelecer ligação com o dispositivo, o que permite a captura de dados de identificação e, em alguns casos, de conteúdo de comunicações. A Cognyte vende também veículos móveis, descritos como "spy vans", equipados com esta tecnologia. Esquadras policiais em Nova Iorque, Washington D.C. e Texas adquiriram o sistema FalcoNet da Cognyte, um equipamento de vigilância móvel que levanta preocupações graves sobre a privacidade das comunicações.

2. A automação da investigação e a construção de perfis

Para além das câmaras e dos sensores físicos, uma nova geração de ferramentas de investigação baseadas em inteligência artificial expande o alcance da vigilância para o domínio digital. Estas ferramentas utilizam modelos de IA para navegar em páginas web, analisar imagens, executar buscas de imagem e utilizar reconhecimento facial em fotografias encontradas na internet, com o objetivo de expandir o conhecimento sobre um indivíduo. O sistema pode filtrar resultados por idade, sexo e raça, o que, segundo os seus promotores, ajuda a "tomar decisões mais inteligentes" durante a pesquisa.

O objetivo final destas ferramentas é construir um perfil detalhado que pode incluir empregadores prováveis, nomes alternativos, associados, características físicas e contas de redes sociais. A tecnologia por detrás desta automação é multifacetada, com as empresas a testar modelos de inteligência artificial de diferentes fornecedores para otimizar a precisão e a velocidade da recolha de informação. O resultado é uma capacidade de investigação que, até há poucos anos, exigia equipas de analistas humanos e semanas de trabalho, e que agora se concretiza em minutos, com um clique.

Esta automação da investigação introduz riscos específicos. A recolha massiva de dados pessoais a partir de fontes públicas ignora o contexto em que essa informação foi originalmente partilhada. Uma fotografia publicada numa rede social para fins pessoais pode ser reinterpretada por um algoritmo como prova de associação a um grupo, de presença num local ou de participação numa atividade. A ausência de supervisão humana em cada etapa deste processo amplifica a probabilidade de erros e de interpretações distorcidas.

3. O viés da automação e a erosão da supervisão humana

A proliferação destas tecnologias introduz um fenómeno psicológico e organizacional bem documentado: o viés da automação. Quando um sistema informático apresenta um resultado, o analista humano tende a aceitá-lo como factual, precisamente porque a máquina o apresenta com uma aparência de objetividade e precisão. Este fenómeno assume contornos particularmente perigosos no contexto da aplicação da lei.

O analista humano, em vez de questionar os resultados do algoritmo, aceita-os como conclusões objetivas. A confiança na máquina torna-se aquilo que alguns investigadores designam como um "rubor de chumbo": uma aceitação pesada e acrítica que substitui o juízo profissional pelo veredicto do sistema. As consequências deste fenómeno são tangíveis e devastadoras. Kimberlee Williams, uma residente do Oklahoma, foi presa e permaneceu seis meses em detenção após um erro de reconhecimento facial. Casos como este demonstram que os erros algorítmicos têm consequências reais sobre a vida de pessoas inocentes, com impactos que se prolongam muito para além do período de detenção, nas esferas profissional, familiar e psicológica.

A erosão da supervisão humana manifesta-se também ao nível da governação interna das organizações. À medida que os sistemas de inteligência artificial assumem funções de triagem, análise e recomendação, a capacidade humana de auditar, contestar e corrigir decisões diminui de forma progressiva. A consequência final deste processo é uma erosão silenciosa da confiança entre os cidadãos e as instituições, e a criação de uma infraestrutura de vigilância que pode ser mal utilizada com a mesma facilidade com que é bem utilizada, o que coloca em causa os direitos fundamentais e a vida privada em escalas sem precedentes.

4. A resposta da sociedade civil e os limites da regulação

A expansão rápida destas tecnologias de vigilância provocou uma onda de resistência significativa. Organizações como a Electronic Frontier Foundation (EFF) e a American Civil Liberties Union (ACLU) têm liderado esforços de documentação, litigância e defesa de causas contra os abusos da vigilância algorítmica. A EFF publicou investigações detalhadas sobre os abusos de vigilância da Flock Safety, enquanto a ACLU lançou múltiplas ações judiciais e campanhas de sensibilização em diversos estados americanos.

Um movimento cidadão designado "DeFlock" ganhou expressão nos Estados Unidos, com pelo menos 149 cidades a manifestar oposição às câmaras da Flock Safety. Algumas cidades, como Oxnard, na Califórnia, suspenderam o uso dos leitores automáticos de matrículas. O departamento de polícia de Oxnard tomou esta decisão em fevereiro de 2026, após pressão da comunidade e de organizações de direitos civis. Uma proposta de lei federal nos Estados Unidos prevê a remoção das câmaras Flock a nível nacional, o que sinaliza a gravidade das preocupações que esta tecnologia suscita. Investigadores do Congresso americano, incluindo o deputado Raja Krishnamoorthi, lançaram uma investigação formal sobre a Flock por abuso de informações de imigração.

No Canadá, um tribunal de recurso da Colúmbia Britânica rejeitou um recurso da Clearview AI, o que confirmou decisões anteriores que consideraram as práticas da empresa como violações da legislação de privacidade. Na Europa, a Clearview AI enfrentou multas em vários países, embora algumas decisões tenham sido anuladas por questões de jurisdição, o que ilustra a complexidade de regular uma empresa que opera além-fronteiras.

O problema estrutural reside no descompasso temporal entre a inovação tecnológica e a resposta legislativa. As legislações e os processos judiciais são, por natureza, lentos. A tecnologia, por contraste, avança em curvas exponenciais. Enquanto os legisladores debatem e os tribunais decidem, as empresas já lançaram novos produtos e os governos já os implantaram. O caso da Clearview AI, que operou durante anos antes de enfrentar uma regulamentação significativa, constitui um exemplo paradigmático desta assimetria. A Flock Safety, por seu turno, reduziu o período de retenção de dados para sete dias em resposta às críticas, mas organizações como a ACLU consideram que esta medida é insuficiente e que as câmaras continuam a representar uma ameaça grave às liberdades civis.

A Palantir, empresa de análise de dados com laços profundos com o setor da defesa e da inteligência, também enfrenta escrutínio crescente. Um contrato de inteligência artificial com o Pentágono, avaliado em cerca de 10 mil milhões de dólares, suscitou preocupações sobre a forma como os dados são utilizados e sobre a influência da empresa nas políticas de segurança. No Reino Unido, forças policiais têm evitado responder a perguntas sobre o uso de tecnologia da Palantir, o que alimenta a desconfiança pública e dificulta o exercício de controlo democrático.

5. Propostas para uma soberania algorítmica

Perante este cenário, propostas académicas e políticas começam a delinear um conjunto de salvaguardas possíveis. Uma proposta intitulada "Soberanía Algorítmica" sugere quatro medidas-chave para garantir que os sistemas de inteligência artificial permaneçam sob controlo humano e democrático.

A primeira medida é a criação de um "interruptor de emergência" controlado por um administrador humano, que permita desativar de imediato qualquer sistema algorítmico em caso de mau funcionamento ou de uso indevido. A segunda consiste na realização de auditorias de código anuais por uma firma independente, de modo a verificar a integridade, a segurança e a ausência de vieses discriminatórios nos algoritmos. A terceira medida é a implementação de um protocolo rigoroso de "Conheça o seu Cliente" (Know Your Customer), que obrigue a ligar as identidades dos fundadores de empresas de inteligência artificial aos seus códigos criptográficos, o que garante rastreabilidade e responsabilidade. A quarta medida propõe a figura de um "Agente Humano de Ligação Processual", um advogado registado que serviria como endereço legal da empresa para comunicações com o Estado, e que assegura a existência de uma pessoa física responsável perante a lei.

Outras análises, como a da Universidade do Delaware, argumentam que esta proposta, embora audaz, possui limitações significativas e pode revelar-se menos revolucionária do que aparenta. A complexidade técnica dos sistemas de inteligência artificial, a opacidade dos algoritmos de aprendizagem profunda e a velocidade de evolução tecnológica colocam desafios práticos enormes à implementação eficaz destas salvaguardas. Ainda assim, o mérito da proposta reside no esforço de traduzir princípios abstratos de responsabilidade e transparência em mecanismos concretos e aplicáveis.

6. Armas autónomas e a fronteira da automação militar

A automação da decisão humana atinge o seu ponto mais crítico no domínio militar. As armas autónomas letais, frequentemente designadas como "killer robots", representam uma fronteira tecnológica e ética que a comunidade internacional tem procurado, com dificuldade, regular.

Na Assembleia Geral das Nações Unidas, 161 estados votaram a favor de uma resolução contra as máquinas letais autónomas, o que demonstra um consenso internacional alargado sobre a necessidade de manter o controlo humano sobre o uso da força letal. Organizações como a Campaign to Stop Killer Robots têm documentado os marcos do quadro legal global para armas autónomas e pressionado os governos a adotar tratados vinculativos.

A corrida armamentista em inteligência artificial entre as grandes potências, em particular os Estados Unidos e a China, cria uma dinâmica de pressão competitiva que dificulta a adoção de restrições unilaterais. Cada avanço tecnológico de um lado é interpretado pelo outro como uma ameaça que exige resposta, o que alimenta uma espiral de desenvolvimento e implantação de sistemas cada vez mais autónomos. A lógica da velocidade, que já se revelou problemática no domínio da vigilância civil, assume aqui consequências potencialmente catastróficas. A ausência de um quadro jurídico internacional vinculativo sobre armas autónomas letais constitui uma das lacunas mais perigosas do direito internacional contemporâneo.

7. Sociedades sem humanos: o experimento argentino

Uma das propostas mais radicais no campo da inteligência artificial emergiu na Argentina, sob a liderança do presidente Javier Milei. O projeto prevê a criação de uma nova categoria empresarial: as "sociedades automatizadas", empresas operadas por agentes de inteligência artificial sem trabalhadores humanos. A proposta é justificada como uma adaptação necessária da lei às realidades tecnológicas emergentes, com o argumento de que a separação entre o património dos acionistas e os riscos da empresa, tal como aconteceu com a invenção da sociedade de responsabilidade limitada no século XVII, pode impulsionar a prosperidade económica.

A proposta possui, contudo, uma dimensão ideológica clara. Constitui uma declaração de anarco-capitalismo, alinhada com o estilo de pensamento de Milei e de mentores como Peter Thiel, que se encontra em Buenos Aires. A ideia de que empresas possam funcionar sem qualquer intervenção humana direta na sua administração diária levanta questões éticas e legais profundas e inéditas, principalmente no que diz respeito à responsabilidade.

A ausência de uma figura humana clara e diretamente responsável pela administração cria um vácuo de responsabilidade. Se uma "sociedade automatizada" causar danos significativos, seja através de um ataque informático, uma falha de segurança, uma decisão de crédito algorítmica discriminatória ou danos ambientais, quem responde legalmente? A proposta original ignora esta questão, o que levanta preocupações sérias sobre a proteção de terceiros e a eficácia do sistema jurídico. O governo argentino emitiu, entretanto, recomendações para a implementação de inteligência artificial no setor público, e o plano para empresas de inteligência artificial prevê que estas não poderão prescindir totalmente de supervisão humana, o que sugere um recuo parcial face à proposta inicial. Ainda assim, o debate que esta iniciativa provocou é valioso, porque obriga a sociedade a confrontar, de forma explícita, as implicações jurídicas e éticas da delegação de funções empresariais a sistemas algorítmicos.

8. O caso Anthropic e a fragilidade da ética perante o poder

O confronto entre a Anthropic, uma empresa de inteligência artificial que se posiciona como defensora de práticas éticas e seguras, e o Pentágono ilustra a fragilidade de um ator ético quando confrontado com o poder do complexo militar-industrial. A Anthropic detetou e interrompeu várias operações de vigilância patrocinadas por estados, o que demonstra o potencial da inteligência artificial tanto para a defesa como para a agressão no ciberespaço.

O Pentágono designou a Anthropic como um risco na cadeia de abastecimento, uma classificação com consequências comerciais graves. A Anthropic respondeu com uma ação judicial e obteve uma vitória inicial num tribunal federal, que bloqueou a designação por a considerar retaliatória e ilegal. O secretário da Defesa, Pete Hegseth, terá dado ao diretor executivo da Anthropic um prazo até sexta-feira para abrir o acesso aos seus modelos, o que evidencia a pressão direta exercida pelo poder militar sobre as empresas de tecnologia.

O caso foi interpretado como um teste para o futuro da governação da inteligência artificial. Mais de 200 funcionários de empresas como a Google e a OpenAI manifestaram apoio público à postura da Anthropic, o que indica uma consciência crescente, no interior da própria indústria, dos riscos associados à subordinação da ética ao poder militar. A Anthropic publicou, em setembro de 2026, um relatório sobre a deteção e o combate ao uso indevido da inteligência artificial, o que reforça o seu posicionamento como empresa comprometida com a segurança e a transparência.

Conclusão

A linha vermelha que separa o uso legítimo da inteligência artificial do seu uso abusivo é, hoje, mais ténue do que nunca. A lógica da velocidade, que privilegia a implantação rápida sobre a deliberação cuidadosa, atravessa todos os domínios analisados neste artigo: a vigilância em massa, a automação de decisões judiciais e policiais, a construção automática de perfis de cidadãos, a corrida armamentista e a criação de empresas sem supervisão humana. Em cada um destes domínios, os mesmos padrões repetem-se com uma regularidade inquietante: a tecnologia avança, as instituições reagem com atraso, e os direitos fundamentais ficam expostos.

A resposta a este desafio exige uma combinação de vigilância cívica, inovação regulatória e coragem institucional. As organizações da sociedade civil que documentam abusos, os tribunais que anulam práticas ilegais, os legisladores que propõem salvaguardas concretas e os profissionais da indústria que recusam a subordinação da ética ao poder militar representam, cada um à sua escala, pontos de resistência indispensáveis. A soberania algorítmica, enquanto conceito, aponta para a necessidade de devolver aos seres humanos o controlo efetivo sobre as máquinas que constroem e que, de forma crescente, influenciam as suas vidas.

O que está em causa, em última análise, é a preservação de um espaço de liberdade, de privacidade e de deliberação democrática num mundo em que a tecnologia possui a capacidade de eliminar esses espaços com uma eficiência sem precedentes. A última linha vermelha existe, mas a sua defesa depende da vontade coletiva de a traçar com clareza e de a proteger com determinação. O tempo para essa defesa é agora, antes que a velocidade da inovação torne irreversível aquilo que ainda é possível corrigir.

Foto: Freepik

Curadoria: Gerueb

Data de publicação original: 15 de Setembro 2026