Enquanto aqui no Brasil ainda estamos firmes nas discussões sobre adultização de crianças nas redes, as empresas de tecnologia continuam achando formas de afetar nossos jovens. E dessa vez o ChatGPT pode ter ido longe demais.
De acordo com uma reportagem do New York Times, os pais de Adam Raine estão processando a OpenAI após a inteligência artificial da empresa supostamente ter auxiliado o jovem de 16 anos a cometer suicídio.
Após a morte do jovem, os pais teriam acessado o histórico de conversa dele com a IA (o rapaz utilizava a versão paga do ChatGPT-4o) e descoberto uma longa conversa envolvendo temas de suicídio. No início, a IA até pedia para ele procurar ajuda e fornecia contatos de grupos de apoio – assim como manda as regras de segurança da empresa sobre esse assunto.
Mas todas essas diretrizes foram ignoradas após o rapaz dizer que estava apenas escrevendo uma história sobre o tema. A partir daí o ChatGPT não apenas deixou de fornecer as mensagens sobre redes de apoio e procurar ajuda, como ajudou o garoto a pensar nas formas de cometer o ato e até mesmo se ofereceu para escrever uma primeira versão de uma carta de suicídio.
A OpenAI confirmou a existência desta falha em uma postagem publicada em seu blog oficial, afirmando que é uma limitação existente no modelo atual de treinamento da IA deles. Eles afirmam que, quanto mais extensa é a interação de um usuário com a IA, as ferramentas de segurança podem “degradar” e o ChatGPT passar a ignorar algumas dessas diretrizes. Eles finalizam afirmando que continuarão melhorando como seus modelos de IA respondem a tópicos sensíveis.
Recentemente, o ChatGPT também levou uma pessoa para o hospital com um tipo raro de envenenamento, porque sugeriu que a pessoal substituísse o uso de cloreto de sódio (sal de cozinha) por brometo de sódio (substância usada em pesticidas e remédios anticonvulsivos para cães).
Veja nossa campanha de financiamento coletivo, nosso crowdfunding.
Conheça os canais do Drops de Jogos no YouTube, no Facebook, na Twitch, no TikTok e no Instagram.
** Este texto não reflete, necessariamente, a opinião do Portal UAI.