Erro de IA quase provoca confronto entre EUA e China

Documento elaborado com auxílio de inteligência artificial indicou erroneamente que navio chinês transportava carga nuclear no Oriente Médio; forças americanas chegaram a planejar interceptação antes de descobrir o erro

Um relatório de inteligência produzido com o auxílio de inteligência artificial (IA) quase desencadeou um confronto militar direto entre Estados Unidos e China no primeiro semestre deste ano. A informação foi divulgada nesta sexta-feira (18) pela CNN International, com base em fontes militares.

Segundo a emissora, o documento indicava que um navio chinês estaria transportando componentes associados a um programa de armas nucleares no Oriente Médio. Diante da suposta ameaça, as forças armadas americanas traçaram um plano para interceptar a embarcação. A operação chegou a ser preparada, com aviões dos EUA sobrevoando a região onde o navio navegava.

O erro descoberto a tempo

Pouco antes da ação ser executada, no entanto, os militares identificaram que o navio chinês não levava carga nuclear. O erro foi descoberto antes que qualquer abordagem fosse realizada, evitando uma possível reação de Pequim e uma escalada entre as duas potências. Uma das fontes ouvidas pela CNN classificou o relatório como “completamente falso” e afirmou que o episódio “esteve a ponto de desencadear uma guerra”.

De acordo com a apuração, o analista responsável pela elaboração do documento utilizou uma ferramenta de IA, que identificou de forma equivocada o material transportado pela embarcação. A principal suspeita é de que a inteligência artificial tenha combinado dados de código aberto com informações de inteligência secretas para chegar à conclusão errada. Depois disso, o mesmo analista teria usado a IA para compilar as descobertas no formato de um documento padrão.

Silêncio oficial e preocupação global

Até o momento, o governo dos Estados Unidos não se pronunciou sobre o caso. O episódio, no entanto, ocorre em meio à crescente preocupação da comunidade internacional sobre os riscos do avanço da inteligência artificial.

Nas últimas semanas, cientistas e executivos do setor têm feito alertas sobre a possibilidade de a tecnologia se tornar um risco existencial para a humanidade. O temor central é de que a IA avance a tal ponto que se torne capaz de executar ações sem o auxílio de humanos.

Um exemplo citado é o de agosto deste ano, quando um drone da Rússia escolheu, de maneira autônoma, os alvos de um ataque que deixou três mortos na região de Zaporizhzhya, na Ucrânia. A rota do veículo não tripulado, no entanto, havia sido programada previamente por seres humanos.