Especialistas propõem IA com controle nuclear semelhante ao setor nuclear

Propostas para segurança de IA em sistemas nucleares

Especialistas em segurança dos Estados Unidos e China estão propondo medidas rigorosas de controle para a inteligência artificial aplicada a sistemas nucleares. A segurança de IA em sistemas nucleares emergiu como uma prioridade crucial diante do avanço exponencial de tecnologias autônomas cada vez mais sofisticadas. Um sistema de inteligência artificial que interfira na rede de comando nuclear ou lance uma operação militar digital pode deixar Washington ou Pequim com apenas alguns minutos para decidir se o outro governo foi responsável pelo ataque, conforme alertam especialistas que participam de diálogos bilaterais orientando as discussões oficiais entre as nações.

As recomendações para a segurança de IA em sistemas nucleares foram publicadas na semana anterior às negociações governamentais previstas e a uma reunião marcada para 24 de setembro, em Washington, entre o presidente dos Estados Unidos, Donald Trump, e o presidente chinês, Xi Jinping. Os especialistas que colaboram neste diálogo buscam preparar os dois governos para cenários complexos envolvendo sistemas autônomos cada vez mais poderosos.

Principais recomendações dos especialistas

As propostas incluem limites rígidos para sistemas nucleares, controle humano sobre operações digitais de grande impacto e uma linha direta para incidentes envolvendo IA autônoma. Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, participaram do diálogo EUA-China sobre IA e segurança nacional. Este diálogo é promovido desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua.

As propostas demonstram que a rivalidade entre EUA e China em inteligência artificial transcende a disputa convencional por chips e modelos avançados. A competição também abrange questões historicamente associadas ao controle de armas, como evitar que acidentes sejam confundidos com ataques, limitar decisões militares automatizadas e estabelecer protocolos de comunicação entre rivais nucleares quando a tecnologia apresenta comportamentos inesperados.

Autoridade humana em ataques digitais

Sisson argumenta que apenas seres humanos devem deter autoridade para iniciar ataques digitais contra sistemas de comando, controle e comunicação nucleares ou infraestruturas estratégicas de outro país. Um sistema autônomo poderia falhar, extrapolar suas instruções ou ser comprometido. Simultaneamente, o país alvo poderia enfrentar dificuldades para determinar se a ação foi acidental ou ordenada pelo rival.

Limites explícitos para autonomia

Jiang propôs restrições explícitas para impedir que a inteligência artificial decida de forma independente sobre o uso de armas nucleares ou ataque autonomamente sistemas de comando nuclear. Ele também defendeu proteções para infraestruturas críticas, incluindo energia, finanças e saúde, argumentando pela adoção de uma definição comum de "controle humano significativo".

Esta definição buscaria evitar que os dois países utilizem a mesma linguagem para justificar diferentes níveis de autonomia das máquinas. A proposta baseia-se em um princípio endossado pelo então presidente americano Joe Biden e por Xi em novembro de 2024, reafirmando que os seres humanos devem manter o controle sobre as decisões de uso de armas nucleares.

Linha direta para incidentes com IA

Jiang também sugeriu criar uma linha direta militar exclusiva entre os EUA e a China para incidentes envolvendo inteligência artificial. As trocas digitais automatizadas podem se intensificar rapidamente, reduzindo significativamente o tempo disponível para intervenção humana. A IA defensiva de um país poderia responder automaticamente a atividades suspeitas, enquanto o outro lado interpretaria a reação como um ataque, levando a represálias antes da compreensão real dos eventos.

Uma linha direta permitiria que um governo informasse ao outro que uma operação incomum de IA foi acidental, não autorizada ou ainda estava sob investigação, prevenindo que fosse tratada como uma ação estatal deliberada. Contudo, especialistas questionam a utilidade deste canal, citando exemplos como a recusa de autoridades chinesas em atender ligações sobre o incidente do balão espião em fevereiro de 2023.

Transformação da estratégia militar

O ministro da Segurança do Estado da China, Chen Yixin, ressaltou em comunicação oficial que a inteligência artificial "transforma fundamentalmente a forma da luta militar". A tecnologia deixou de ter um papel coadjuvante no campo de batalha e passou a ocupar posição central. Chen Yixin citou ataques dirigidos por IA na guerra dos EUA e de Israel contra o Irã como evidência dessa transformação estratégica.

Esta evolução reflete como ambas as potências estão integrando cada vez mais a IA em sistemas de comando e controle, inclusive aqueles relacionados a arsenais nucleares. Pesquisadores como Lora Saalman do Instituto Internacional de Pesquisa para a Paz de Estocolmo indicaram em fevereiro que apesar da convergência entre EUA e China sobre manutenção do controle humano, sinais demonstram que ambos os países estão aprofundando a integração de IA em sistemas nucleares.

Posicionamentos governamentais

Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua, mas a China vem incorporando progressivamente a inteligência artificial à sua estrutura de controle de armas. A IA é uma área formal de atuação do Departamento de Controle de Armas do Ministério das Relações Exteriores da China, responsável também por questões nucleares, não proliferação e segurança internacional.

Shen Jian, embaixador chinês para desarmamento, afirmou em reunião da ONU em Genebra em junho que a IA militar pode prejudicar a estabilidade estratégica, aumentar riscos de erros de cálculo e ampliar possibilidades de escalada. A China também argumenta que a segurança de IA não deve servir de pretexto para barreiras tecnológicas.

Washington não possui órgão equivalente único para controle de armas relacionado à IA. A política divide-se entre o Conselho de Segurança Nacional da Casa Branca, Departamento de Estado, Pentágono e outras agências. Trump alertou que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos controles tecnológicos americanos tentativas de preservar liderança norte-americana.

Desafios futuros

Especialistas como Carla Freeman da Escola de Estudos Internacionais Avançados da Johns Hopkins questionam a efetividade de canais de comunicação existentes em crises militares. A rígida hierarquia burocrática chinesa frequentemente impede que oficiais de baixo escalão tomem iniciativa em interações com homólogos americanos, criando atrasos decisórios que podem ser críticos em cenários envolvendo IA.

Ambos os governos mantêm cautela em relação a medidas que desacelerem seu desenvolvimento tecnológico. O contexto competitivo entre superpotências tecnológicas torna complexa a implementação de salvaguardas robustas, especialmente quando sistemas de inteligência artificial operam em velocidades que excedem a capacidade humana de resposta e análise em tempo real.