China e Irã usam IA para espionagem, alerta Anthropic

Anthropic interrompe campanhas de vigilância com inteligência artificial

A empresa de inteligência artificial Anthropic divulgou na semana passada um relatório alarmante sobre o uso indevido de seus modelos de IA para espionagem. A IA para espionagem tem se tornado uma preocupação crescente para a companhia, que detectou e encerrou várias operações de vigilância patrocinadas por Estados utilizando seus sistemas. Os incidentes foram identificados entre janeiro e julho e tiveram origem em três principais regiões: China, Irã e África Ocidental.

Segundo o relatório divulgado pela Anthropic, as campanhas de vigilância com IA para espionagem tinham como alvo comunidades específicas historicamente perseguidas por esses regimes. Os grupos afetados incluem ativistas pró-democracia de Hong Kong, comunidades tibetanas, minorias religiosas e políticas, além de opositores do governo iraniano que residem no exterior. Essa descoberta evidencia como governos e atores alinhados a eles estão recorrendo cada vez mais à inteligência artificial para monitorar e perseguir populações vulneráveis.

Operações detectadas em diferentes regiões

Vigilância coordenada pela China

A China utilizou modelos de IA da Anthropic para desenvolver operações sofisticadas de monitoramento. Além da vigilância direcionada, desenvolvedores chineses foram acusados de empregar uma técnica conhecida como