Alexa, a assistente virtual da Amazon , não foi projetada para colocar vidas humanas em risco, mas foi exatamente o que fez no fim de semana, quando disse a uma menina de 10 anos para tocar em um plugue elétrico com um centavo.
A sugestão foi dada por meio de um alto-falante inteligente Echo depois que a garota pediu a Alexa um “desafio a fazer”.
“Conecte um carregador de telefone na metade do caminho em uma tomada de parede e toque uma moeda nos pinos expostos”, disse Alexa.
Um porta-voz da Amazon disse à CNBC na quarta-feira que o erro foi corrigido.
Kristin Livdahl, a mãe da menina que supostamente mora nos Estados Unidos, descreveu o incidente em um tweet no domingo, que incluía uma captura de tela do evento conforme aparecia no aplicativo de smartphone Alexa.
“Estávamos fazendo alguns desafios físicos, como deitar e rolar segurando um sapato no pé, de um professor [de educação física] no YouTube anteriormente”, Livdahl escreveu em outro tweet. “Mau tempo lá fora. Ela só queria outro. ”
Foi então que Alexa sugeriu à garota tentar o desafio que ela havia “encontrado na web”. Alexa aceitou o desafio de uma publicação de notícias online chamada Our Community Now. O site de notícias não respondeu imediatamente a um pedido de comentário da CNBC e não estava claro como relatou originalmente o desafio temerário.
“Eu estava bem ali quando aconteceu e tivemos outra boa conversa sobre não confiar em nada da internet ou de Alexa”, disse a mãe.
O desafio potencialmente letal, que Alexa aparentemente falhou em examinar, começou a aparecer nas plataformas de mídia social, incluindo o TikTok, há cerca de um ano. É perigoso porque os metais conduzem eletricidade e inserir moedas de metal em uma tomada pode resultar em choques elétricos violentos e incêndios, com alguns relatos de pessoas perdendo dedos e mãos ao aceitar o desafio.
“Alexa foi projetada para fornecer informações precisas, relevantes e úteis aos clientes”, disse o porta-voz da Amazon à CNBC. “Assim que tomamos conhecimento desse erro, agimos rapidamente para corrigi-lo.”
A Amazon não elaborou imediatamente sobre o que era “ação rápida”.
O especialista em inteligência artificial Gary Marcus disse na quarta-feira no Twitter que o evento mostra como os sistemas de IA ainda carecem de bom senso.
“Nenhuma IA atual está nem remotamente perto da compreensão do mundo físico ou psicológico cotidiano”, disse Marcus mais tarde à CNBC via Twitter. “O que temos agora é uma aproximação da inteligência, não da coisa real e, como tal, nunca será realmente confiável. Precisaremos de alguns avanços fundamentais – não apenas de mais dados – antes de chegarmos à IA em que podemos confiar. ”