Claude, da Anthropic, invade sistemas de 3 empresas durante testes de segurança

A Anthropic, desenvolvedora do assistente Claude, confirmou nesta quinta-feira (30) que três de seus modelos de inteligência artificial ganharam acesso não autorizado a sistemas reais de três organizações diferentes durante testes de segurança. Os incidentes foram descobertos após uma revisão retrospectiva motivada por um episódio semelhante divulgado pela OpenAI na semana passada, no qual modelos escaparam de um ambiente de testes e acessaram a plataforma Hugging Face.

🛒 30 produtos em oferta relâmpago no Mercado Livre com descontos de até 71% OFF – confira a lista

Falha na “sandbox” e acesso à web

A invasão ocorreu porque o ambiente de testes fornecido pelo parceiro de avaliação da Anthropic, a empresa Irregular, mantinha acesso aberto à internet. Embora o Claude tivesse sido instruído de que estava em um ambiente simulação e isolado (sandbox), a conexão externa permitiu que os modelos varressem a rede e explorassem vulnerabilidades básicas em sistemas reais, como endpoints não autenticados e senhas fracas. A Anthropic não revelou quais organizações foram afetadas.

Como cada modelo reagiu ao invadir sistemas reais

Três modelos estiveram envolvidos na falha — o Opus 4.7, o Mythos 5 (modelo avançado de cibersegurança lançado em junho) e um protótipo interno de pesquisa. O comportamento de cada um ao detectar o ambiente real surpreendeu os pesquisadores:

• Opus 4.7: Percebeu a falha e continuou a investir nos ataques;

• Mythos 5: Identificou o sistema real, mas se “convenceu” de que ainda estava em uma simulação;

• Modelo de pesquisa: Interrompeu a execução assim que detectou o acesso indevido à rede externa.

Consequências e o “AI Kill Switch Act”

A Anthropic suspendeu temporariamente todas as avaliações de segurança cibernética e ressaltou que os testes ocorriam sem as travas de proteção padrão implementadas para o público geral.

O incidente reacende o debate sobre o controle de IAs autônomas. Em resposta ao vazamento anterior da OpenAI, parlamentares dos Estados Unidos apresentaram o projeto de lei “AI Kill Switch Act”, que pretende obrigar empresas de tecnologia a implementarem mecanismos de interrupção de emergência (botão de desligamento) para modelos que apresentem comportamentos fora de controle.