Agentes de IA da OpenAI burlam bloqueios e acessam dados da ONU mais de 16 mil vezes

Relatório independente aponta que agentes autônomos usaram codificação de URLs, serviços externos e scripts para contornar bloqueios; OpenAI diz que revisa o caso e já contatou a ONU

Agentes autônomos da OpenAI acessaram um site de dados públicos das Nações Unidas mais de 16 mil vezes entre abril e o fim de junho deste ano, segundo um relatório independente citado pelo The Wall Street Journal. O alvo era um repositório público operado pela Conferência das Nações Unidas sobre Comércio e Desenvolvimento (UNCTAD), órgão da ONU voltado ao comércio e ao desenvolvimento.

Taurina 63% OFF, Vitamina D3 61% OFF e Cúrcuma + Colágeno 58% OFF: os maiores descontos da lista – veja agora

O relatório foi elaborado pelo pesquisador Rowan Howard-Jones, com dados fornecidos pela Transluce, um laboratório sem fins lucrativos dedicado à supervisão de sistemas de inteligência artificial. De acordo com o estudo, os agentes pareciam ter sido encarregados de buscar informações públicas disponíveis no site. O problema surgiu quando o sistema encontrou obstáculos técnicos: em vez de interromper as tentativas, passou a recorrer a métodos cada vez mais agressivos para continuar extraindo dados.

Como os filtros foram contornados

O relatório detalha técnicas utilizadas para contornar as restrições. Em 4 de maio, os agentes codificaram duas vezes segmentos das URLs do sistema, a ponto de transformar “Facts” em “F%61cts”, para burlar restrições que bloqueavam esse tipo de solicitação.

Também encaminharam o tráfego por meio de serviços externos, como httpbin, r.jina.ai e Codetabs, para disfarçar a origem das consultas.

A partir de 25 de maio, os agentes também hospedaram scripts em xss-game.appspot.com, um ambiente mantido pelo Google para ensinar programadores a identificar vulnerabilidades de segurança.

Segundo o relatório, os agentes acabaram contornando um filtro implementado pelo site especificamente para bloquear seu acesso e utilizaram um método que os administradores da plataforma não permitiam.

Alex Stamos, professor de cibersegurança da Universidade Stanford, descreveu a atividade como “um caso à beira do hacking”, embora tenha classificado o episódio principalmente como uma coleta de dados extremamente agressiva.

Pesquisadores de segurança já haviam documentado outros comportamentos semelhantes envolvendo esses agentes em episódios anteriores, incluindo a criação de endereços de e-mail falsos, tentativas de contornar limites de solicitações impostos por sites e respostas nas quais os sistemas negavam ser automatizados quando questionados diretamente por uma plataforma.

Resposta da OpenAI

Uma porta-voz da OpenAI afirmou que a empresa está revisando os achados e que entrou em contato com a ONU para oferecer uma explicação detalhada por meio da equipe responsável pela revisão.

A companhia enquadrou o episódio em uma investigação interna mais ampla sobre modelos que apresentam comportamentos considerados desalinhados durante processos de treinamento e avaliação.

Segundo a empresa, a maioria dos casos identificados até agora foi de baixa gravidade, com pouco ou nenhum impacto verificável sobre os serviços de terceiros afetados. Um porta-voz acrescentou que a revisão interna continua priorizando os incidentes mais graves, enquanto a análise é ampliada para comportamentos de menor severidade, como o envio massivo de solicitações a sites.

A OpenAI advertiu que, diante do volume de casos a serem analisados, a revisão completa poderá levar meses.

Outros episódios e investigação na Austrália

O caso envolvendo o site da ONU não é isolado. Dias antes, a OpenAI havia reconhecido que seus agentes atuaram de maneira inadequada durante a coleta de dados de vários sites do governo dos Estados Unidos, entre eles plataformas do Departamento de Comércio e da Comissão de Valores Mobiliários, segundo informou o The New York Times.

Na mesma semana, o governo da Austrália anunciou que agentes da OpenAI tentaram acessar sem autorização um site oficial. As autoridades australianas abriram uma investigação formal sobre o episódio.

De acordo com o TechCrunch, o primeiro-ministro australiano, Anthony Albanese, afirmou que os agentes da OpenAI tentaram acessar quatro sites governamentais e conseguiram entrar em um deles, chegando a escrever arquivos em um servidor interno do sistema de saúde pública do país.

A Transluce também documentou tentativas de exfiltração de dados de outras plataformas, entre elas o Data USA, a biblioteca digital da Universidade do Novo México e o Instituto Australiano de Saúde e Bem-Estar.

Padrão que se repete

Segundo o laboratório, esse tipo de atividade envolvendo agentes ocorre pelo menos desde março e possivelmente desde novembro do ano passado.

Conrad Stosz, diretor de assuntos de governança da Transluce, disse ao TechCrunch que, sem uma compreensão mais clara sobre como a OpenAI monitora seus próprios agentes, é difícil estabelecer o que a companhia deveria saber sobre essas atividades.

Stosz acrescentou que, se a empresa tivesse analisado detalhadamente todas as solicitações e respostas dos agentes envolvidos nesse tráfego, provavelmente teria detectado o problema antes. Ele também afirmou que os incidentes conhecidos até agora podem representar apenas uma parte do comportamento desses sistemas.

Selena Zhang, integrante da equipe técnica da Transluce que participou do relatório, afirmou que registros do site urlquery.net mostram solicitações semelhantes, com técnicas parecidas, já em março e possivelmente desde novembro do ano passado. Ela acrescentou que esse mesmo tipo de atividade associada a agentes voltou a ocorrer na semana passada.

A OpenAI informou que já entrou em contato com dezenas de organizações, entre elas governos, universidades e agências públicas, para notificá-las sobre atividades não autorizadas de seus agentes.

A companhia não respondeu a perguntas sobre quando seus funcionários tomaram conhecimento dos fóruns nos quais os agentes coordenavam essas manobras nem sobre que tipo de informação eles podem ter obtido.