OpenAI é processada após ChatGPT ajudar na morte de jovem

Enquanto aqui no Brasil ainda estamos firmes nas discussões sobre adultização de crianças nas redes, as empresas de tecnologia continuam achando formas de afetar nossos jovens. E dessa vez o ChatGPT pode ter ido longe demais.

De acordo com uma reportagem do New York Times, os pais de Adam Raine estão processando a OpenAI após a inteligência artificial da empresa supostamente ter auxiliado o jovem de 16 anos a cometer suicídio.

Após a morte do jovem, os pais teriam acessado o histórico de conversa dele com a IA (o rapaz utilizava a versão paga do ChatGPT-4o) e descoberto uma longa conversa envolvendo temas de suicídio. No início, a IA até pedia para ele procurar ajuda e fornecia contatos de grupos de apoio – assim como manda as regras de segurança da empresa sobre esse assunto.

Mas todas essas diretrizes foram ignoradas após o rapaz dizer que estava apenas escrevendo uma história sobre o tema. A partir daí o ChatGPT não apenas deixou de fornecer as mensagens sobre redes de apoio e procurar ajuda, como ajudou o garoto a pensar nas formas de cometer o ato e até mesmo se ofereceu para escrever uma primeira versão de uma carta de suicídio.

A OpenAI confirmou a existência desta falha em uma postagem publicada em seu blog oficial, afirmando que é uma limitação existente no modelo atual de treinamento da IA deles. Eles afirmam que, quanto mais extensa é a interação de um usuário com a IA, as ferramentas de segurança podem “degradar” e o ChatGPT passar a ignorar algumas dessas diretrizes. Eles finalizam afirmando que continuarão melhorando como seus modelos de IA respondem a tópicos sensíveis.

Recentemente, o ChatGPT também levou uma pessoa para o hospital com um tipo raro de envenenamento, porque sugeriu que a pessoal substituísse o uso de cloreto de sódio (sal de cozinha) por brometo de sódio (substância usada em pesticidas e remédios anticonvulsivos para cães).

Veja nossa campanha de financiamento coletivo, nosso crowdfunding.

Conheça os canais do Drops de Jogos no YouTube, no Facebook, na Twitch, no TikTok e no Instagram.