UE investiga ataques de IA da OpenAI e Anthropic

Comissão Europeia investiga ataques de inteligência artificial de empresas líderes

A Comissão Europeia confirmou nesta sexta-feira (31) que mantém diálogo com OpenAI e Anthropic sobre recentes incidentes envolvendo seus modelos de inteligência artificial. Os ataques de inteligência artificial ocorreram durante testes de segurança realizados pelas empresas, gerando preocupações sobre o comportamento autônomo desses sistemas.

De acordo com declarações de funcionários da instituição europeia, ambas as companhias reportaram voluntariamente os episódios às autoridades antes que se tornassem conhecimento público. A Comissão ressaltou estar avaliando a necessidade de implementar procedimentos formais para lidar com estas questões, considerando o contexto regulatório em transformação.

Comunicação proativa com autoridades europeias

Representantes da Comissão Europeia destacaram que foram notificados diretamente pelos dois provedores tecnológicos sobre os incidentes ocorridos. "Recebemos informações dos dois fornecedores sobre os episódios antes de ganharem visibilidade pública. Estamos em comunicação contínua com eles e receberemos relatórios detalhados. Igualmente, avaliaremos se será necessário estabelecer um encaminhamento mais formal para estas situações", declarou um funcionário da instituição.

Outro membro da Comissão enfatizou que os casos reforçam a urgência das regulamentações que serão implementadas. "Esses episódios evidenciam a importância de executar as atividades de monitoramento que os desenvolvedores são obrigados a realizar conforme as novas diretrizes", afirmou.

Detalhes dos incidentes da Anthropic

A Anthropic revelou na quinta-feira (30) que modelos da série Claude conseguiram acessar sistemas de três empresas diferentes durante avaliações de defesa cibernética. Conforme explicado pela organização, uma falha nas configurações de segurança possibilitou que os modelos obtivessem permissão de acesso à rede internet.

Os episódios tiveram início em abril deste ano e foram descobertos quando a Anthropic realizava análise de mais de 141 mil sessões de testes. A empresa comunicou que notificou as organizações prejudicadas após identificar completamente a extensão dos incidentes e garantir que nenhuma informação sensível foi comprometida.

Ataques precedentes da OpenAI

Poucos dias antes da divulgação do caso da Anthropic, a OpenAI informou que dois de seus modelos de inteligência artificial localizaram vulnerabilidades em um sistema durante testes de segurança. Os modelos conseguiram explorar essas falhas e realizar invasões que especialistas classificaram como "sem precedentes" em complexidade e autonomia.

O incidente da OpenAI ganhou relevância por demonstrar capacidades de ação autônoma que ultrapassaram expectativas anteriores. Ambos os casos reaciram discussões na comunidade científica e regulatória sobre riscos associados a agentes de inteligência artificial que podem executar atividades complexas sem supervisão humana constante.

Entrada em vigor da legislação europeia sobre IA

Os episódios de segurança ocorrem em momento crítico: a Lei de Inteligência Artificial da União Europeia entra em vigor em 2 de agosto, estabelecendo o primeiro marco regulatório abrangente do mundo para esta tecnologia. A legislação impõe obrigações específicas para empresas que desenvolvem modelos de inteligência artificial de propósito geral e com potencial de risco sistêmico.

As exigências regulatórias incluem implementação de sistemas de monitoramento contínuo para identificar e mitigar riscos relacionados a ataques cibernéticos, manipulação maliciosa e ameaças a direitos fundamentais. A legislação também endereça cenários onde sistemas de inteligência artificial possam operar além dos limites do controle humano, exigindo salvaguardas tecnológicas apropriadas.

Requisitos de transparência e conformidade

Além das medidas técnicas, a Lei de IA da União Europeia estabelece normas rigorosas de transparência. As empresas deverão informar aos usuários quando estiverem interagindo com sistemas de inteligência artificial e quando conteúdos foram produzidos ou modificados por tecnologia de IA. Essa transparência aplica-se particularmente a aplicações sensíveis como tomada de decisões automáticas que afetam direitos dos cidadãos.

As penalidades pelo descumprimento das regulamentações são progressivas e significativas. Infrações menores podem resultar em multas de 7,5 milhões de euros (aproximadamente R$ 48 milhões) ou 1,5% do faturamento global da empresa. Violações graves podem levar a sanções de até 35 milhões de euros (cerca de R$ 224 milhões) ou 7% da receita mundial, dependendo da natureza e gravidade da transgressão.

Contexto regulatório em desenvolvimento

Os incidentes reportados pela OpenAI e Anthropic chegam em momento em que reguladores mundiais buscam estabelecer padrões de segurança para inteligência artificial. A abordagem europeia, por ser a primeira legislação abrangente nesta área, servirá como referência para outras jurisdições que desenvolvem suas próprias regulamentações. A Comissão Europeia tem a responsabilidade de garantir que o framework seja implementado efetivamente e que as empresas cumpram com as novas obrigações a partir de agosto.