Mulher é presa na Flórida após confessar a inteligência artificial que atacaria delegacia

Uma mulher de 30 anos foi presa na Flórida, nos Estados Unidos, depois de escrever no modelo de inteligência artificial Claude que havia comprado uma arma e pretendia atacar o gabinete do xerife local.

A troca de mensagens dela com o chatbot acendeu um alerta na Anthropic, empresa dona do Claude, que repassou o caso à polícia.

A usuária, identificada como Carli Heller, escreveu numa interação com a IA que ia atacar a tiros o gabinete do xerife do condado de Lee, e no dia seguinte disse ter conseguido uma arma nova. Ela foi detida em casa, sem incidentes, e passou a responder por ameaça escrita de violência.

Como o caso chegou à polícia

De acordo com o documento da polícia, os sistemas da Anthropic monitoram os chats em busca de expressões e conteúdos ameaçadores e, quando o caso é grave, o material segue para uma equipe humana. Foi essa equipe que decidiu avisar as autoridades.

A polícia declarou à imprensa da Flórida que Carli alegou usar a IA como um diário, ou seja, o que ela tratava como espaço privado tinha leitores.

Base legal

A acusação se apoia numa lei da Flórida que pune com até 15 anos de prisão, como crime de segundo grau, quem envia ou publica por meio eletrônico a ameaça de matar alguém, de promover um tiroteio em massa ou de cometer um ato terrorista.

A Anthropic não comentou o caso. A política de privacidade da empresa, em vigor desde 10 de setembro, permite repassar informações a autoridades quando ela acredita, de boa-fé, que isso é necessário para evitar dano grave a pessoas ou propriedades.