Vaticano Adverte que IA Pode “Minar os Fundamentos da Sociedade”

No documento, o Papa Francisco destacou os riscos associados à IA. A divulgação ocorre apenas um dia após um novo modelo de IA chinês, o DeepSeek, agitar a indústria.

À medida que o uso e as capacidades da tecnologia de IA se expandem rapidamente, o Papa Francisco argumentou que os humanos precisam ser mais responsáveis em relação à tecnologia e cuidadosos com seu impacto em vários setores no futuro.

O Vaticano observou que a IA pode ser usada “como um auxílio à dignidade humana” ao ajudar pessoas em todo o mundo com pesquisa e conhecimento. Mas também destacou os riscos.

“Em uma escala mais ampla, ao distorcer ‘nossa relação com os outros e com a realidade’, a mídia falsa gerada por IA pode gradualmente minar os fundamentos da sociedade”, afirmou o documento.

O Vaticano disse que a IA representa um sério risco de “conteúdo manipulado”. O uso de vídeos deepfake começou a infiltrar vários setores, incluindo a política.

A tecnologia avançada pode gerar imagens, áudio e vídeo, alterando digitalmente a aparência e a voz de uma pessoa. Está se desenvolvendo rapidamente e deixou os legisladores correndo para acompanhar.

O Vaticano observou que mitigar os riscos associados ao conteúdo pode ser “bastante grave”.

O papa disse que a questão requer “regulamentação cuidadosa” para mitigar a desinformação, a polarização política e a agitação social.

“À medida que os deepfakes fazem as pessoas questionarem tudo e o conteúdo falso gerado por IA corrói a confiança no que veem e ouvem, a polarização e o conflito só aumentarão”, disse o Vaticano.

“Tal engano generalizado não é uma questão trivial; atinge o cerne da humanidade, desmantelando a confiança fundamental sobre a qual as sociedades são construídas.”

Em 2023, o Papa Francisco pediu um tratado internacional para garantir que a inteligência artificial seja desenvolvida e usada de forma ética, argumentando que os riscos da tecnologia sem os valores humanos de compaixão, misericórdia, moralidade e perdão são grandes demais.

No início daquele ano, uma imagem gerada por IA dele usando um casaco branco de luxo se tornou viral, mostrando o quão rapidamente imagens deepfake realistas podem se espalhar online.