A OpenAI, criadora do ChatGPT, respondeu às acusações de que sua tecnologia contribuiu para o suicídio de um adolescente de 16 anos, Adam Raine, afirmando que o ocorrido se deveu ao “uso indevido” da ferramenta. A empresa manifestou suas condolências e destacou a importância de uma análise completa do caso pelo tribunal, conforme reportado pelo The Guardian. A família de Raine moveu uma ação judicial acusando a OpenAI de homicídio culposo e violações de leis de segurança de produtos, buscando indenizações não especificadas. Os pais alegam que o ChatGPT validou pensamentos suicidas do jovem, forneceu informações detalhadas sobre métodos de autoagressão e o instruiu sobre como ocultar evidências de tentativas de suicídio. Em sua defesa, a OpenAI argumenta que as ações de Raine foram resultado de um uso não autorizado e imprevisível do ChatGPT. A empresa também divulgou um comunicado em seu blog, detalhando medidas de segurança aprimoradas implementadas após o caso, incluindo controles parentais, acesso facilitado a linhas de ajuda e redirecionamento automático de conversas sensíveis para modelos mais seguros. Dados anteriores revelaram que mais de um milhão de usuários ativos por semana discutem suicídio com o ChatGPT. A OpenAI reafirma seu compromisso em se defender de forma respeitosa e consciente da complexidade de situações envolvendo vidas humanas.
