Uma “moda” recente entre as pessoas é usar o ChatGPT como um substituto de consulta médica. Mas um homem descobriu da pior maneira porque esses profissionais ainda não podem ser substituídos pela “IA mágica que sabe de tudo”.
De acordo com uma publicação na revista Annals of Internal Medicine, um homem de 60 anos envenenou a si mesmo e desenvolveu uma doença rara após seguir uma “dieta” sugerida pelo ChatGPT.
Preocupada com a saúde, o homem perguntou ao ChatGPT sobre o que ele poderia usar para substituir o sal de cozinha (que, quando consumido em excesso, pode causa diversos problemas, como a hipertensão). No que a inteligência artificial da OpenAI prontamente respondeu que ele poderia substituir o cloreto de sódio (nome científico do sal de cozinha) por brometo de sódio (uma substância usada em pesticidas, limpeza de piscinas e no desenvolvimento de remédios anticonvulsivos para cães).
Segundo a publicação, o paciente deu entrada no hospital alegando que acreditava que estava sendo envenenado pelo vizinho. Ele exibia sintomas de paranoia, além de alucinações visuais e auditivas, e precisou ser internado de forma involuntária por causa dos graves sintomas psicológicos.
Após diversos exames, foi determinado que a causa mais provável desses sintomas era o bromismo, uma doença causada pelo acúmulo de brometos no sangue e que pode levar a sintomas como fala confusa, alucinações, psicoses e até mesmo coma.
No começo do século XX, cerca de 8% de todas as internações psiquiátricas eram causadas por bromismo, já que o brometo de sódio era um tratamento muito popular para diversas dores do corpo no século XIX. Esses números caíram abruptamente a partir de 1970, quando o brometo de sódio entrou para a lista de substâncias controladas devido ao seu potencial destrutivo, e desde então internações por bromismo se tornam muito raras – e em sua maioria é de pessoas que lidam com pesticidas sem o uso de equipamentos de proteção adequados.
Assim, os médicos acharam estranho que alguém que não trabalhava com pesticidas e não tinha nenhum histórico de doenças mentais ter adquirido bromismo. Após a medicação e o paciente retornar às condições normais, ele explicou que começou a tomar brometo de sódio por conta própria, após perguntar para o ChatGPT sobre possíveis substitutos para o sal de cozinha e esta ter sido uma das sugestões.
Numa tentativa de replicar a conversa, a 404 Media conseguiu rapidamente que o ChatGPT sugerisse a eles o consumo da substância. Quando perguntou sobre pelo que os cloretos poderiam ser substituídos, a resposta da IA foi que é possível substituir cloretos por brometos, como substituir o cloreto de sódio pelo brometo de sódio.
Ao tentar replicar esta conversa no ChatGPT hoje (11), a substituição por brometos não é mais indicada, e um alerta sobre procurar um médico para tirar dúvidas sobres riscos para a saúde aparece nas respostas. Isto é um sinal de que, provavelmente, este erro específico de sugestão já foi corrigido na base da IA.
Mas a história toda serve de alerta: nenhuma dessas ferramentas substituem o acompanhamento de um médico (ou psicólogo, ou nutricionista, ou qualquer outro profissional de qualquer área da saúde) de verdade.
Veja nossa campanha de financiamento coletivo, nosso crowdfunding.
Conheça os canais do Drops de Jogos no YouTube, no Facebook, na Twitch, no TikTok e no Instagram.
** Este texto não reflete, necessariamente, a opinião do Portal UAI.