A deputada estadual Renata Souza (PSOL) criticou uma ferramenta da Microsoft que permite criar personagens estilo “Disney Pixar”. Ela pediu para a ferramenta gerar uma imagem de uma mulher negra na favela, mas o resultado apresentado foi uma pessoa segurando uma arma na mão.
Renata Souza questionou por que a “desinteligência artificial” associou o seu corpo e identidade com uma arma, afirmando que uma mulher negra da favela não pode estar em um espaço que não seja de violência. Ela chamou esse incidente de “racismo algorítmico” e ressaltou que as tecnologias também perpetuam estruturas racistas.
A deputada está analisando ações legais para denunciar o caso e buscará estabelecer um diálogo com a direção da empresa responsável pelo aplicativo Microsoft Bing.
Eis a íntegra da declaração da deputada em rede social:
Fui surpreendida pelo “racismo algorítmico” durante o processo de pesquisa sobre o funcionamento das inteligências artificiais. Ao gerar uma imagem que correspondessem as minhas descrições, fui apresentada a uma ilustração que trazia uma mulher negra segurando uma arma dentro de uma favela.
Isso é o racismo algorítmico. Quando as tecnologias em um mundo forjado pelo privilégio branco fortalecem essa estrutura racista. O imaginário de violência nas favelas e de criminalização de corpos e territórios negros também está presente em tecnologias descritas como “inteligências”, que em tese seriam neutras ou impessoais.
Estou analisando medidas cabíveis de encaminhamento da denúncia e buscarei um canal de diálogo com a direção da empresa que produz o aplicativo Microsoft Bing.