A empresa de inteligência artificial OpenAI afirmou na sexta-feira que um grupo iraniano utilizou seu chatbot ChatGPT para gerar conteúdos que foram publicados em sites e redes sociais com o objetivo de intensificar a polarização entre os eleitores americanos nas eleições presidenciais.
Os sites e contas de redes sociais descobertos pela OpenAI publicaram artigos e opiniões elaborados com a ajuda do ChatGPT sobre temas como o conflito em Gaza e os Jogos Olímpicos. Também divulgaram material sobre as eleições presidenciais americanas, espalhando informações erradas e escrevendo críticas sobre ambos os candidatos, de acordo com um relatório da empresa. Alguns desses conteúdos apareceram em sites que, segundo a Microsoft, foram utilizados na semana passada pelo Irã para divulgar notícias falsas destinadas a aumentar a divisão política nos Estados Unidos, conforme relatou a OpenAI.
A empresa de IA bloqueou as contas do ChatGPT associadas aos esforços iranianos e afirmou que as publicações não tiveram grande repercussão entre os usuários das redes sociais. A OpenAI encontrou “uma dúzia” de contas no X e uma no Instagram vinculadas à operação iraniana e informou que todas foram removidas após notificação às empresas de redes sociais.
Ben Nimmo, pesquisador principal do time de inteligência e investigações da OpenAI, disse que essa atividade foi o primeiro caso em que a empresa detectou uma operação focada principalmente nas eleições americanas. “Embora pareça que não tenha atingido muitas pessoas, é um importante lembrete de que todos precisamos estar atentos, mas manter a calma”, comentou.
O relatório da OpenAI se soma a evidências recentes de tentativas iranianas focadas em usar tecnologia para influenciar as eleições nos EUA, conforme detalhado em relatórios da Microsoft e do Google.
Um dos sites destacados pela OpenAI na sexta-feira, Teorator, se apresenta como “o destino definitivo para descobrir as verdades que não querem que você saiba” e publicou artigos críticos ao candidato democrata à vice-presidência, Tim Walz. Outro site, chamado Even Politics, publicou artigos críticos ao candidato republicano Donald Trump e outras figuras conservadoras, como Elon Musk.
Em maio, a OpenAI detalhou pela primeira vez as tentativas de agentes governamentais de usar sua IA para criar propaganda, afirmando que detectou grupos do Irã, Rússia, China e Israel utilizando o ChatGPT para criar conteúdos em vários idiomas. Segundo Nimmo, nenhuma dessas operações de influência conseguiu atingir os internautas. A OpenAI também reconheceu que pode não ter detectado operações mais discretas utilizando sua tecnologia.
Enquanto bilhões de pessoas votam nas eleições deste ano em todo o mundo, defensores da democracia, políticos e pesquisadores de IA expressaram preocupações sobre a capacidade da IA de facilitar a geração de grandes quantidades de propaganda que pareçam ter sido escritas por pessoas reais.
Até agora, as autoridades não relataram evidências generalizadas de que governos estrangeiros tenham conseguido influenciar os americanos a votarem de uma determinada maneira.