Google abre ao público ferramenta gratuita para identificar imagens, áudios e vídeos gerados por IA

Inicialmente, a ferramenta estava disponível apenas para um grupo limitado de jornalistas, profissionais de mídia e investigadores. Agora, qualquer pessoa pode utilizar o serviço.

 15 suplementos Essencial Labs com até 63% OFF: vitamina D3, creatina, colágeno e mais – confira

A proposta é oferecer uma maneira simples de verificar a origem de conteúdos que circulam pela internet, em um momento em que se torna cada vez mais difícil distinguir materiais reais daqueles produzidos artificialmente.

Para utilizar a ferramenta, o usuário deve carregar um arquivo multimídia compatível no site de verificação. O Google analisa o conteúdo e verifica se há sinais associados ao SynthID.

Arquivos compatíveis

O serviço do Google aceita uma ampla variedade de formatos.

Para imagens, são compatíveis JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF e GIF.

Para vídeos, a ferramenta permite o envio de arquivos MP4, MOV e WEBM.

Já os formatos de áudio compatíveis incluem WAV, MP3, OGG, FLAC, AAC e M4A.

Como funciona o SynthID

O SynthID é um sistema apresentado pelo Google em 2023 que funciona por meio da incorporação de uma marca d’água digital em conteúdos criados por inteligência artificial. Essas marcas não são necessariamente visíveis para as pessoas, mas podem ser detectadas posteriormente por ferramentas desenvolvidas para identificá-las.

O Google utiliza o SynthID em modelos como Nano Banana, Veo e Lyria, além de produtos com recursos de geração de conteúdo, como Gemini, Flow, ProducerAI e Vids.

Isso significa que a ferramenta não determina simplesmente se uma imagem “parece” ter sido criada por inteligência artificial. Em vez disso, ela procura sinais específicos associados aos sistemas compatíveis com o SynthID.

Outras plataformas

O SynthID não está limitado aos produtos do Google. OpenAI, Nvidia e Kakao também são compatíveis com a tecnologia, enquanto a OpenAI conta ainda com seu próprio site para verificar conteúdos gerados por seus modelos.

O Google também incorporou a verificação do SynthID ao Gemini e ao Google Chrome. Segundo a empresa, atualmente são realizadas cerca de 1 milhão de solicitações diárias para verificar conteúdos por meio do sistema.

A expansão dessas ferramentas ocorre em meio ao crescimento de imagens, vídeos e áudios produzidos por inteligência artificial. O conteúdo sintético pode ser utilizado para entretenimento e criação digital, mas também apresenta riscos quando é apresentado como material autêntico.

Uma fotografia falsa, por exemplo, pode ser usada para disseminar informação enganosa. Já uma gravação de voz gerada artificialmente pode ser utilizada para se passar por uma pessoa real.

Limites da verificação

Apesar de as marcas d’água digitais serem uma ferramenta para identificar conteúdos gerados por IA, elas não são um mecanismo infalível.

A tecnologia depende de que o conteúdo tenha sido criado por um sistema que incorpore a marca d’água correspondente.

Microsoft e Meta também desenvolveram seus próprios padrões para marcar e verificar conteúdos produzidos por inteligência artificial. No entanto, esses sistemas podem enfrentar dificuldades para reconhecer materiais produzidos por modelos de outras empresas.

Por isso, uma resposta negativa de uma ferramenta de detecção não significa necessariamente que um conteúdo seja autêntico. Da mesma forma, a identificação de uma marca d’água pode fornecer um indicativo sobre a origem do material, mas não substitui outras formas de verificação.