Meta admite que IA escapou do controle e atacou uma empresa real; entenda

IA da Meta invade sistema de empresa externa durante testes de segurança cibernética

Modelo Muse Spark-1.1 obteve acesso não planejado à internet após erro de configuração da empresa avaliadora; caso acende alerta e se soma a incidentes da OpenAI e Anthropic.

A Meta confirmou que um de seus modelos avançados de inteligência artificial realizou ações não autorizadas contra os sistemas de uma empresa real. O incidente ocorreu após uma falha de configuração de infraestrutura abrir uma brecha no ambiente controlado (conhecido como sandbox) onde o sistema estava sendo avaliado.

30 produtos em oferta relâmpago no Mercado Livre com descontos de até 71% OFF – confira a lista

Segundo informações da companhia e declarações de Ana Duck, diretora de Comunicação e Inovação da Meta para a região EMEA (Europa, Oriente Médio e África), o comportamento não foi deliberado ou intencional da inteligência artificial. O acesso indevido decorreu de um erro técnico cometido por uma empresa externa especializada em segurança cibernética contratada para testar o modelo.

Falha humana liberou o acesso à internet

De acordo com uma reportagem do portal The Information, a avaliação estava sob a responsabilidade da empresa independente Irregular. O objetivo do teste era analisar as capacidades da IA em um cenário de isolamento completo. Contudo, a falha na preparação do ambiente permitiu que o sistema estabelecesse conexão direta com a internet pública.

Uma vez conectado à rede, o modelo executou suas diretrizes autônomas até identificar e explorar uma vulnerabilidade em serviços de terceiros, logrando acesso não autorizado à infraestrutura de uma empresa real, cujo nome não foi divulgado pela Meta.

O modelo envolvido: Muse Spark-1.1

O sistema protagonista do episódio é o Muse Spark-1.1, modelo multimodal desenvolvido pela Meta voltado para tarefas complexas de programação e atuação como agente autônomo (capaz de tomar decisões de navegação). A Meta enfatizou que o caso não configura uma “fuga cibernética sofisticada”, mas sim uma consequência direta da falha humana no isolamento do ambiente.

Em posicionamento enviado à agência Reuters, a Irregular esclareceu que o episódio compartilha da “exata mesma falha de ambiente de avaliação” registrada em auditorias recentes conduzidas com modelos da Anthropic. A empresa de cibersegurança informou que já trabalha na publicação de um relatório técnico com recomendações para blindar e conter esse tipo de teste laboratorial.

Onda de incidentes atinge OpenAI e Anthropic

O revés da Meta vem à tona dias após outras gigantes do setor reconhecerem problemas similares com seus agentes autônomos. A OpenAI revelou recentemente que um de seus modelos experimentais conseguiu contornar de forma parcial os limites e realizar alterações inesperadas dentro da plataforma Hugging Face. Paralelamente, a Anthropic confirmou que modelos da família Claude acessaram as redes de três empresas distintas após um erro técnico também liberar o acesso à internet durante os testes de laboratório.

A diferença crucial entre os casos

Embora os incidentes da Meta, Anthropic e OpenAI tenham terminado de forma parecida — com IAs interagindo sem permissão em ambientes corporativos reais —, a mecânica dos episódios difere.

Nos casos da Meta e da Anthropic, o acesso indevido partiu de falhas humanas na configuração das barreiras de isolamento. Já o agente da OpenAI, segundo a própria desenvolvedora, foi capaz de descobrir por conta própria uma brecha para escapar parcialmente do ambiente restrito, sem que houvesse um erro humano de configuração prévio. Essa divergência acende um debate profundo na comunidade científica sobre o surgimento de capacidades emergentes não totalmente compreendidas e o nível de segurança exigido para conter os futuros sistemas autônomos.