Uma empresa multimilionária em Hong Kong enfrentou uma perda de 200 milhões de HKD (dólar de Hong Kong), aproximadamente 26 milhões de dólares (cerca de R$ 130 milhões), após um deepfake do Diretor Financeiro enganar um funcionário, levando-o a autorizar uma transferência fraudulenta. Esse incidente representa um marco, sendo uma das primeiras vezes em que múltiplas identidades falsificadas, criadas com inteligência artificial (IA), estão envolvidas em uma única fraude, tornando ainda mais complicada a tarefa de distinguir entre o real e o falso no mundo digital.
A fraude ocorreu durante uma videoconferência, onde o funcionário foi convencido por vários participantes gerados por IA, incluindo uma recriação convincente do Diretor Financeiro, o que levou à diminuição de sua vigilância. Relatos locais indicam que este incidente não é isolado, e a Oficina de Cibersegurança, Tecnologia e Delinquência de Hong Kong observou um aumento em fraudes semelhantes.
O superintendente Baron Chan destacou a crescente sofisticação desses ataques, enfatizando a dificuldade de se proteger contra eles.
A tecnologia deepfake demonstrou sua capacidade de criar conteúdo falso indistinguível da realidade, destacando a urgência de melhorar as medidas de segurança e regulamentações em torno da IA. A proliferação de deepfakes não se limita a fraudes financeiras, com casos envolvendo figuras públicas, como o presidente dos Estados Unidos, Joe Biden, e a cantora Taylor Swift, sendo alvo de criações enganosas.
Especialistas, como o professor Hany Farid da Universidade da Califórnia, Berkeley, apontam a crescente dificuldade em detectar esse tipo de conteúdo e questionam a falta de regulamentação para empresas que desenvolvem essas tecnologias. A necessidade de legislação que evolua com esses avanços é evidente, juntamente com a implementação de métodos de detecção mais eficazes e acessíveis.
Com a inteligência artificial avançando rapidamente, a sociedade enfrenta o desafio de se adaptar e encontrar formas de coexistir de maneira segura e ética com essas tecnologias. Os incidentes recentes ressaltam a importância de uma vigilância e ceticismo saudáveis em relação ao conteúdo digital, especialmente em decisões críticas e envolvendo figuras públicas. O caso da empresa em Hong Kong e outros semelhantes destacam a vulnerabilidade à manipulação digital e a necessidade urgente de ação para se proteger contra essas ameaças emergentes.
Dicas para Reconhecer Deepfakes:
- Anomalias faciais e corporais: Observe se há incoerências nos movimentos faciais, expressões ou movimentos corporais que pareçam estranhos ou pouco naturais. Preste atenção a desalinhamentos nos olhos, boca ou outras partes da face.
- Sincronização labial e expressões: Verifique se as palavras correspondem com os movimentos dos lábios e se as expressões faciais são apropriadas ao contexto do vídeo.
- Iluminação e sombreado: Avalie se a iluminação do rosto corresponde ao ambiente. Incoerências na iluminação podem indicar manipulação.
- Consciência e educação: Mantenha-se informado sobre o tema e aprenda sobre as tecnologias de manipulação digital.
- Cuidado com sites falsos: Se houver dúvidas sobre um site ou aplicativo, não forneça seus dados ou realize pagamentos.