Esta semana, a conversa sobre os riscos da IA deu um salto de escala. E não é qualquer um a dizê-lo.
Nos últimos dias:
- A ONU, através do seu Alto Comissário para os Direitos Humanos, enviou uma carta a governos e empresas a pedir medidas urgentes. A mensagem: não se pode deixar a IA avançada à autorregulação das empresas, porque o ritmo de desenvolvimento está a ultrapassar a capacidade de controlo.
- A China alertou formalmente para riscos como a desinformação em massa, os ciberataques, a manipulação da opinião pública e o uso militar de sistemas autónomos, enquanto os seus próprios produtos de IA já ultrapassam os 500 milhões de utilizadores.
- Nos EUA, diretores executivos e ex-funcionários das principais empresas do setor voltaram a exprimir publicamente a sua preocupação com a velocidade a que estão a ser desenvolvidos sistemas cada vez mais potentes, com menos supervisão do que seria desejável.
- Um novo Relatório Internacional de Segurança da IA, elaborado com mais de 100 especialistas independentes, esclarece: os sistemas atuais mostram sinais precoces de certas capacidades preocupantes, mas (por enquanto) não a níveis que permitam uma perda real de controlo.
O que dizem os especialistas?
Há consenso num ponto: o risco já não é apenas “de laboratório” nem ficção científica — é uma preocupação económica, geopolítica e de segurança reconhecida por governos, académicos e pelas próprias empresas que constroem estes sistemas. O desacordo está no “quando” e no “quão grave”, não no “se”.
Riscos a curto prazo (já estão aqui): Deepfakes e usurpação de identidade, cada vez mais sofisticados e difíceis de detetar, fraude empresarial através de voz e imagem geradas por IA, desinformação à escala com capacidade real para influenciar processos eleitorais e a opinião pública, lacunas legais sobre a responsabilidade de conteúdos gerados por IA.
Riscos a médio prazo (os que preocupam os especialistas): Sistemas de IA a operar com pouca supervisão em tarefas críticas, uso militar crescente de IA autónoma em conflitos reais, concentração de poder tecnológico sem quadros regulatórios internacionais claros, uma corrida geopolítica (EUA–China) que prioriza a velocidade em detrimento da segurança.
A tecnologia não é o problema em si. O problema é o desfasamento entre a velocidade de implementação e a velocidade de governação — e esse desfasamento está a aumentar, não a diminuir.
O que é que vocês acham? Acreditam que a regulação chegará a tempo, ou vamos continuar a correr primeiro e a perguntar depois?
E fica aqui uma pergunta um pouco provocatória: estaríamos “em segurança” se voltássemos à vida analógica de há 30 anos? A resposta curta é: não de todo. Voltar ao papel e ao telefone fixo proteger-nos-ia dos riscos mais diretos — deepfakes, fraude digital, manipulação algorítmica —, mas não dos riscos sistémicos como decisões militares automatizadas, infraestruturas críticas geridas por IA, ou o poder concentrado em quem controla estes sistemas. Esses existiriam na mesma, mesmo que pessoalmente não tivesses sequer telemovel. A desconexão individual é uma opção legítima e até saudável a nível pessoal, mas não é uma solução para o problema de fundo: este é um desafio de governação coletiva, não de escolha de estilo de vida.