Entre nos nossos canais do Telegram e WhatsApp para notícias em primeira mão.
Telegram: [link do Telegram] WhatsApp: [link do WhatsApp]
Quatro dias após um ataque do Estado Islâmico a um local de concertos na Rússia em março, começou a circular um vídeo em uma plataforma privada afiliada ao grupo terrorista. A transmissão de 92 segundos mostrava um apresentador de notícias com capacete e uniforme militar dizendo que o ataque não foi uma operação terrorista, mas parte do “contexto normal da guerra em curso entre o Estado Islâmico e os países que lutam contra o Islã.”
O “apresentador” era falso, uma criação de inteligência artificial feita por simpatizantes do Estado Islâmico como parte de um novo programa de mídia gerado por IA chamado News Harvest, conforme vídeos e mensagens de chat compartilhados com The Washington Post pelo SITE Intelligence Group, que rastreia movimentos terroristas e extremistas online.
Desde março, o programa tem oferecido despachos de vídeo quase semanais sobre as operações do Estado Islâmico ao redor do mundo. Feito para se parecer com uma transmissão de notícias da Al Jazeera, o programa —que não foi relatado anteriormente— marca a aparição da IA como uma poderosa ferramenta de propaganda enquanto os afiliados do Estado Islâmico ganham força e reconstruem as operações midiáticas do grupo, disse Rita Katz, cofundadora do SITE Intelligence Group.
“Para o ISIS, a IA representa uma mudança de jogo,” disse Katz. “Vai ser uma forma rápida para eles espalharem e disseminarem seus ataques sangrentos [para] alcançar quase todos os cantos do mundo.”
Os programas começam mostrando um logotipo gráfico e uma sequência de títulos. Apresentadores de notícias gerados por IA aparecem na tela, vestidos com equipamento de combate ou túnicas formais, enquanto rolos de notícias se deslocam e imagens de vídeo mostram membros do Estado Islâmico realizando missões terroristas. Os apresentadores leem despachos de mídia oficial do Estado Islâmico, incluindo al-Naba e Amaq.
Os vídeos oferecem algumas das primeiras indicações de que a IA está ajudando os grupos terroristas a disseminar rapidamente propaganda e recrutar membros, disseram especialistas em mídia de terrorismo, e até desencadearam um debate interno sobre o uso da tecnologia sob a lei islâmica.
O Estado Islâmico é conhecido por sua operação midiática chamativa, que cria vídeos de recrutamento ao nível de Hollywood que são atraentes para os jovens. Os geradores de vídeo de IA agora lhes permitem criar esse tipo de conteúdo por uma fração do custo. Vários grupos militantes islâmicos, incluindo a al-Qaeda, mostraram interesse em usar chatbots de IA, geradores de imagens e clonadores de voz para criar rapidamente desinformação, de acordo com mensagens compartilhadas com The Post.
A inteligência artificial proporciona aos simpatizantes do Estado Islâmico a capacidade de criar propaganda disfarçada de maneira inofensiva, como uma transmissão de notícias, o que dificulta a moderação por parte das empresas de tecnologia, disse Katz. As ferramentas de IA baratas e fáceis de usar permitem que os vídeos sejam feitos rapidamente e com um orçamento reduzido, beneficiando grupos como o Estado Islâmico e a al-Qaeda, que foram enfraquecidos por ataques militares.
Os simpatizantes do Estado Islâmico estiveram ansiosos para usar a IA para propaganda. Em 15 de março, um simpatizante, “Al Kurdi 500”, defendeu em um servidor de mensagens privado por que outros simpatizantes deveriam adotar a IA.
“Seria ótimo se os irmãos produzissem vídeos sobre notícias diárias, como uma alternativa para ler as notícias em texto e ver imagens”, escreveu Al Kurdi 500, “como fazem os canais de notícias como a Al Jazeera” ao falar sobre eventos.
“A tecnologia evoluiu muito e isso seria mais fácil de fazer hoje em dia, especialmente com o uso da IA”, acrescentou Al Kurdi 500. “Os meios de comunicação são tão importantes quanto a guerra física, ou até mais. Porque eles têm uma grande influência sobre as pessoas.”
Sete dias após essa mensagem, membros do Estado Islâmico mataram pelo menos 133 pessoas em um ataque a um local de concertos na área de Moscou. Um simpatizante do grupo extremista chamado Hisad se mobilizou rapidamente para criar um vídeo gerado por IA. Em 26 de março, Hisad publicou o primeiro episódio do News Harvest em uma plataforma de mensagens privada.
Desde o ataque na Rússia, seis transmissões do News Harvest foram publicadas, fornecendo uma visão geral das operações recentes dos afiliados do Estado Islâmico ao redor do mundo, incluindo Níger, Camarões, Iraque, Síria e Nigéria. Não está claro qual tecnologia de IA está sendo usada, embora alguns simpatizantes em publicações tenham incentivado o uso de “bom” software de IA, como a ferramenta de clonagem de voz da Eleven Labs, uma empresa de geração de áudio por IA. (A Eleven Labs não respondeu a um pedido de comentário).
Steven Stalinsky, diretor executivo do Instituto de Pesquisa de Mídia do Oriente Médio (MEMRI), afirmou que os episódios não são realizados pelo braço oficial do Estado Islâmico, então não está claro se estão alinhados com a estratégia geral do grupo. No entanto, ele disse que não ficaria surpreso se eles criassem uma divisão de mídia de IA, já que sempre foram rápidos em adotar tecnologia de ponta.
Os meios de comunicação pró-Estado Islâmico já estão buscando pessoas com habilidades em IA, disse ele. Uma mensagem obtida pelo MEMRI em 23 de abril mostra que estão sendo solicitados especialistas em criação de cartazes, redação de artigos e edição de vídeos, com conhecimento em Adobe Photoshop, Premiere e IA. “Oh mujahidines da mídia”, dizia a publicação. “A mídia está aguardando seu ataque.”
Outras organizações militantes islamistas, como a al-Qaeda, também estão discutindo o uso de IA. Em 9 de fevereiro, um grupo afiliado à al-Qaeda anunciou que começaria a organizar workshops de IA online. No dia seguinte, eles se associaram a outra organização afiliada à al-Qaeda para lançar um guia de 50 páginas intitulado “Formas incríveis de usar chatbots de inteligência artificial”, que fornecia uma visão geral básica do ChatGPT da OpenAI, incluindo relatos da mídia como a revista Wired sobre IA traduzida para o árabe, de acordo com um documento compartilhado pelo SITE Intelligence Group com o The Post.
“A introdução do guia dizia: ‘ChatGPT é uma ferramenta poderosa’. Então, vamos ver o que você pode fazer com essa ferramenta, certo?”
Stalinsky disse que as empresas de tecnologia onde os simpatizantes do Estado Islâmico compartilham conteúdo – como na plataforma de mensagens seguras Rocket.Chat, Telegram e X – estão falhando em remover adequadamente materiais de militantes islamistas. Agora que a IA está permitindo que mais desse tipo de mídia surja, disse ele, será um desafio para os reguladores e os esforços de contraterrorismo.
Laís Machado Rocha, representante de relações públicas do Rocket.Chat, disse que a empresa é uma plataforma de código aberto que não hospeda mensagens em seus servidores e, portanto, não pode removê-las. “A disseminação de mensagens é limitada aos usuários do espaço de trabalho específico”, disse Rocha.
Telegram e X não responderam aos pedidos de comentários.
Rostos proibidos?
Há mais de uma década, o braço midiático do Estado Islâmico, al-Hayat, permitiu ao Estado Islâmico produzir vídeos de alta qualidade, uma tática chave para recrutar pessoas de todo o mundo. Embora os ataques militares ocidentais tenham acabado com a divisão, disseram especialistas em terrorismo, a IA permite que os simpatizantes do Estado Islâmico criem rapidamente propaganda nos dias seguintes a um ataque terrorista, o que pode permanecer online por mais tempo do que o conteúdo sangrento, quando a oportunidade de radicalizar novos membros é alta.
“Se você realiza o melhor ataque do mundo e não o propaga, perdeu seu feito”, disse Katz. “O que a IA está fazendo agora é permitir que eles criem tanto quanto quiserem em pouco tempo.”
Enquanto isso, os vídeos também geraram controvérsia interna entre os simpatizantes do Estado Islâmico sobre se as representações artificialmente geradas de humanos são proibidas pela lei islâmica, conhecida como “haram”.
“Não mostre o rosto de desenhos animados ou animações, é PROIBIDO HARAM”, escreveu um simpatizante do Estado Islâmico chamado Hamed 123 ao criador da série News Harvest em uma plataforma privada, de acordo com mensagens compartilhadas pelo SITE Intelligence Group com o The Post.
Hamed 123 escreveu que as pessoas que fizessem imagens “desenhando ou gravando” seriam punidas no Dia da Ressurreição do Islã. “Essas imagens proibidas são imagens de seres animados, como humanos, animais e pássaros”, acrescentou Hamed 123.
Hisad respondeu no início de maio. “Fui falar com o xeque sobre isso e ele disse que é haram ter animação ou desenho de IA sendo mostrado”, escreveu Hisad. “Então ele me disse para desfocar o rosto do modelo e é por isso que você o vê assim agora”, referindo-se a episódios mais recentes da transmissão de News Harvest, onde o apresentador gerado por IA parece mais caricato, com o rosto escurecido.
Aaron Zelin, pesquisador principal do Instituto Washington para Política do Oriente Próximo, disse que a IA poderia contribuir para o crescimento do extremismo local, oferecendo às pessoas em qualquer lugar a capacidade de consumir propaganda, criar mídia gerada por IA e se envolver com o grupo extremista.
“Se você lançar muitas peças de espaguete contra a parede, eventualmente uma delas vai grudar”, disse ele. “Poderia fornecer mais caminhos para a viralidade desse tipo de conteúdo.”
*Com informações do The Washington Post
