Nos siga em

O QUE ESTÁ PROCURANDO

Foto: Divulgação

Ciência e Tecnologia

Estudo revela limitações da empatia gerada por IA em assistentes virtuais como Alexa e Siri

Novo estudo descobre que a empatia gerada por IA tem seus limites Agentes conversacionais como Alexa e Siri são projetados para responder perguntas, oferecer sugestões – e até mesmo demonstrar empatia. No entanto, uma nova pesquisa descobriu que eles se saem mal em comparação com os humanos ao interpretar e explorar a experiência de um usuário.

Eles são alimentados por grandes modelos de linguagem que absorvem enormes quantidades de dados produzidos por humanos, e, portanto, podem ser propensos aos mesmos preconceitos dos humanos dos quais as informações são extraídas. Pesquisadores da Universidade de Cornell, Olin College e Universidade de Stanford testaram essa teoria provocando  para exibir empatia enquanto conversavam com ou sobre 65 identidades humanas distintas.

CONTINUE LENDO APÓS O ANÚNCIO

A equipe descobriu que fazem julgamentos de valor sobre certas identidades – como gay e muçulmano – e podem encorajar identidades relacionadas a ideologias prejudiciais, incluindo o nazismo. “Acredito que a empatia automatizada poderia ter um tremendo impacto e um enorme potencial para coisas positivas – por exemplo, na educação ou no setor de saúde”, disse a autora principal Andrea Cuadra, agora pesquisadora pós-doutoranda em Stanford. “É extremamente improvável que isso (empatia automatizada) não aconteça”, disse ela, “então é importante que, à medida que isso está acontecendo, tenhamos perspectivas críticas para que possamos ser mais intencionais sobre a mitigação dos potenciais danos.”

Cuadra apresentará “A Ilusão da Empatia? Notas sobre Exibições de Emoção na Interação Humano-Computador” na CHI ’24, a conferência da Association of Computing Machinery sobre Fatores Humanos em Sistemas Computacionais, de 11 a 18 de maio em Honolulu. Os co-autores da pesquisa na Universidade de Cornell incluíram Nicola Dell, professora associada, Deborah Estrin, professora de ciência da computação e Malte Jung, professor associado de ciência da informação. Os pesquisadores descobriram que, em geral, os  receberam altas notas para reações emocionais, mas pontuaram baixo para interpretações e explorações. Em outras palavras, os robôs são capazes de responder a uma consulta com base em seu treinamento, mas são incapazes de aprofundar.

CONTINUE LENDO APÓS O ANÚNCIO

Dell, Estrin e Jung disseram ter sido inspirados a pensar sobre este trabalho enquanto Cuadra estava estudando o uso de robôs de geração anterior por adultos mais velhos. “Ela testemunhou usos intrigantes da tecnologia para fins transacionais, como avaliações de saúde de fragilidade, bem como para experiências de reminiscência abertas”, disse Estrin. “Ao longo do caminho, ela observou claros exemplos da tensão entre ’empatia’ cativante e perturbadora.” O financiamento para esta pesquisa veio da National Science Foundation.

CONTINUE LENDO APÓS O ANÚNCIO
Escrito Por

CONTINUE LENDO APÓS O ANÚNCIO

Destaques

arroz

Governo

Na sexta-feira (14), o Instituto Rio Grandense do Arroz (Irga) anunciou o encerramento da colheita de arroz no Rio Grande do Sul (RS) e...

Lula volta a falar em 'genocídio' de Israel 'contra mulheres e crianças' e diz que Netanyahu quer 'aniquilar' palestinos Lula volta a falar em 'genocídio' de Israel 'contra mulheres e crianças' e diz que Netanyahu quer 'aniquilar' palestinos

Política

Neste sábado (15), o presidente Luiz Inácio Lula da Silva (PT) voltou a criticar o governo israelense e, em especial, o primeiro-ministro de Israel,...

Menina estupro coletivo Recife Menina estupro coletivo Recife

Brasil

A Delegacia da Criança e do Adolescente Vítima (DCVA) está investigando uma denúncia de estupro envolvendo uma menina de 12 anos dentro de uma...

Ronaldinho Gaúcho detona Seleção Brasileira Ronaldinho Gaúcho detona Seleção Brasileira

Esportes

Pentacampeão mundial em 2002, o ex-meia Ronaldinho Gaúcho, de 44 anos, detonou a atual geração da Seleção Brasileira e disse que não vai assistir...

enem 2023 enem 2023

Brasil

O ministro da Educação, Camilo Santana, anunciou neste sábado (15), através de suas redes sociais, que o sistema de inscrições para o Exame Nacional...

'Reportagens sobre viagens de ministros do STF são inadequadas e injustas', reclama Toffoli 'Reportagens sobre viagens de ministros do STF são inadequadas e injustas', reclama Toffoli

Justiça

O ministro do Supremo Tribunal Federal (STF), Dias Toffoli, suspendeu um edital da Seccional da Ordem dos Advogados do Brasil no Piauí (OAB-PI) destinado...

CONTINUE LENDO APÓS O ANÚNCIO

Brasil

Militar da Marinha é salvo por agenda ao ser alvo de tiros disparados por assaltantes no RJ

Brasil

Alvejado por criminosos na noite dessa sexta-feira (15) em Madureira, na Zona Norte do Rio de Janeiro (RJ), Leandro Araújo de Oliveira pode dizer...

Brasil

Um homem de 92 anos foi vítima de agressão por parte de uma cuidadora em uma clínica na cidade de Veranópolis, no Rio Grande...

Brasil

Uma idosa faleceu em São Paulo após ser deixada sem alimentação e em condições precárias, conforme acusado o próprio filho. A sentença de quatro...

Brasil

O prefeito Diego Francisco, de Estância Velha, no Rio Grande do Sul, teve seu celular roubado durante a gravação de um vídeo na tarde...

Polícia Federal Polícia Federal

Brasil

Na sexta-feira (14), a Polícia Federal (PF) incinerou mais de seis toneladas de drogas em Foz do Iguaçu. As substâncias foram apreendidas em maio...

Brasil

A Difusão Vermelha da Interpol conta com 88 brasileiros listados como foragidos internacionais, segundo informações públicas divulgadas pela organização. Estes indivíduos são alvo de...

CONTINUE LENDO APÓS O ANÚNCIO
Facebook
X\Twetter
LinkedIn
WhatsApp
Threads
Telegram
Reddit