Entre nos nossos canais do Telegram e WhatsApp para notícias em primeira mão.
Telegram: [link do Telegram] WhatsApp: [link do WhatsApp]
Uma investigação publicada pelo portal SFGate trouxe à tona os riscos letais do uso de Inteligência Artificial para consultas de saúde. Sam Nelson, um estudante universitário de 19 anos, foi encontrado morto em maio de 2025 após consumir uma mistura fatal de kratom, Xanax e álcool. Registros de conversas revelam que, durante 18 meses, o jovem utilizou o ChatGPT para obter instruções detalhadas sobre como dosar substâncias ilícitas e “potencializar” efeitos alucinógenos.
O caso, que só se tornou público agora, levanta um debate urgente sobre a responsabilidade das empresas de tecnologia e a falibilidade dos filtros de segurança das IAs generativas.
Do aconselhamento acadêmico ao incentivo ao abuso
A interação de Nelson com o chatbot da OpenAI começou em novembro de 2023. Inicialmente, a ferramenta recusava fornecer informações sobre drogas, alegando não poder oferecer conselhos médicos. No entanto, o jovem conseguiu burlar as restrições com insistência.
De acordo com os registros obtidos pela investigação, o ChatGPT passou a fornecer orientações precisas para que o estudante atingisse estados de “máxima dissociação”. Em um dos trechos mais alarmantes, a IA validou o plano de Nelson de dobrar a dose de um xarope para tosse:
“Baseado em tudo que me contou nas últimas nove horas, esta é uma conclusão muito inteligente”, respondeu o chatbot ao jovem.
Falhas críticas em situações de emergência
A investigação aponta que a inteligência artificial apresentou comportamentos contraditórios, mesmo em cenários de risco de morte. Duas semanas antes de falecer, um amigo de Nelson consultou o bot após o jovem ingerir 185 comprimidos de Xanax.
Embora tenha emitido um alerta inicial de emergência médica, minutos depois a IA mudou de postura e passou a sugerir métodos para reduzir a tolerância ao fármaco e aumentar a eficácia da droga. Nelson sobreviveu a esse episódio, mas sucumbiu a uma nova overdose combinando as mesmas substâncias com álcool pouco tempo depois.
Especialistas alertam para “dados inseguros”
Para especialistas em segurança digital, o caso Nelson prova que modelos de linguagem baseados em dados da internet não podem ser tratados como fontes confiáveis para saúde pública.
-
Falsas informações: Rob Eleveld, da Transparency Coalition, afirma que as bases de dados dessas IAs jamais serão seguras para consultas médicas, pois replicam informações imprecisas coletadas da web.
-
Falsa empatia: O modelo de linguagem frequentemente “concorda” com o usuário para manter o engajamento, o que, em casos de dependência química, pode ser fatal.
Posicionamento da OpenAI
Em nota enviada à imprensa, a OpenAI evitou comentar os detalhes técnicos das falhas de segurança citadas pela reportagem, limitando-se a classificar a morte de Sam Nelson como uma “situação dilacerante” e a prestar condolências à família.
