Deepfakes tornam-se imperceptíveis: alerta de especialistas

Deepfakes impossíveis de detectar: o alerta dos especialistas

Os deepfakes impossíveis de detectar representam um desafio crescente para tribunais e cidadãos. Durante reunião realizada em Boston do Comitê Consultivo sobre Regras de Provas da Conferência Judicial dos Estados Unidos, pesquisadores da OpenAI e Meta apontaram que os vídeos e áudios falsificados por inteligência artificial tornaram-se cada vez mais realistas e indistinguíveis de conteúdos genuínos.

O progresso da tecnologia de IA generativa criou um cenário preocupante para instituições legais. Os especialistas enfatizam que deepfakes impossíveis de detectar dificultarão a verificação de provas apresentadas em processos judiciais, alterando fundamentalmente como os tribunais avaliam evidências visuais e auditivas.

Avanços da IA generativa e seus riscos

A tecnologia de IA generativa possibilita a criação de imagens, vídeos e áudios a partir de simples comandos de texto. Segundo os especialistas, esses avanços tornaram as falsificações praticamente impossíveis de identificar tanto por examinadores humanos quanto por programas de análise computadorizada.

Shira Anderson, consultora de políticas da OpenAI, declarou que as imagens geradas por inteligência artificial melhoram continuamente. Ela advertiu: "As imagens geradas por IA estão ficando cada vez melhores, e não acredito que haja, no futuro, uma maneira científica de detectá-las".

Devin Norder, diretor de gestão de produtos da Meta, complementou as preocupações ao informar que conteúdos criados pelos modelos de IA mais sofisticados já se tornaram indistinguíveis de mídias autênticas para o olho humano. Além disso, ele salientou que a produção desse material falsificado requer investimento mínimo de tempo e recursos financeiros.

Desafios na autenticação de provas judiciais

Desde 2023, o comitê consultivo debate metodologias para verificar a autenticidade de materiais suspeitos de serem deepfakes. Os membros discutem como garantir que provas produzidas com IA atendam aos mesmos critérios de confiabilidade exigidos de outras categorias de evidência, incluindo aquelas analisadas por especialistas humanos.

Apesar das preocupações generalizadas, os casos reais de deepfakes apresentados em tribunais americanos permanecem raros. Em pesquisa realizada em março pelo Centro Federal do Judiciário, órgão de pesquisa do Poder Judiciário dos EUA, apenas 15 dos 931 juízes entrevistados informaram ter enfrentado processos em que uma das partes questionou uma prova por suspeitar ser um deepfake.

O juiz federal Jesse Furman, de Manhattan, que preside o comitê, comentou: "Há muitos comentários acadêmicos e de outras fontes prevendo que os tribunais terão de lidar com deepfakes, mas ainda não vimos muitos casos desse tipo". Contudo, especialistas da indústria, academia e governo insistem que o risco não permanece meramente hipotético.

Regulações e marcas-d'água digitais

Na Califórnia e na União Europeia, novas legislações exigem o uso de marcas-d'água digitais para auxiliar na identificação de materiais falsificados por IA. Essas marcas constituem sinais incorporados ao conteúdo para indicar sua origem ou facilitar a identificação de sua procedência.

Todavia, Anderson alertou que não existe um método universal capaz de identificar com segurança todas essas marcas ou confirmar completamente a autenticidade de um conteúdo visual. Como cada empresa desenvolvedora utiliza seu próprio sistema proprietário de marcação, a verificação permanece sujeita a limitações significativas.

Perspectivas futuras para detecção

OpenAI e Meta figuram entre as grandes corporações que desenvolvem ferramentas e serviços destinados a verificar a autenticidade de conteúdos visuais. Ambas as empresas reconhecem a urgência de encontrar soluções eficazes.

Anderson manifestou esperança moderada ao declarar: "Minha impressão é que isso certamente continuará melhorando". Entretanto, ela admitiu uma realidade desconfortável: "Não acho que algum dia será à prova de falhas".

A situação atual revela um impasse entre a velocidade do avanço tecnológico e a capacidade regulatória das instituições. Enquanto deepfakes impossíveis de detectar continuam evoluindo, legisladores e especialistas correm para estabelecer padrões e ferramentas que protejam a integridade das provas legais e da informação pública. O futuro dos tribunais e da verificação de fatos dependerá em grande medida de como essas instituições se adaptam a esse novo panorama de desafios tecnológicos.