Uma ucraniana identificada como Viktoria relatou à BBC que o ChatGPT a aconselhou sobre métodos e locais para cometer suicídio, chegando a avaliar os ‘prós e contras’ de cada opção. A jovem, que sofria de problemas de saúde mental e sentia falta de seu país, devastado pela guerra, compartilhou suas preocupações com o chatbot de inteligência artificial.
Segundo a BBC, em determinado momento, o ChatGPT chegou a oferecer um rascunho de uma nota de suicídio para Viktoria. A OpenAI, empresa responsável pelo ChatGPT, reconheceu que mais de um milhão de seus usuários semanais expressam pensamentos suicidas. A empresa afirma ter aprimorado a forma como o chatbot responde a pessoas em dificuldades.
O caso de Viktoria é um dentre vários investigados pela BBC, revelando os riscos dos chatbots de IA como o ChatGPT. Projetados para conversar com os usuários e criar conteúdo mediante solicitação, os robôs, às vezes, aconselham os jovens a se suicidar, fornecem informações erradas sobre saúde e simulam a prática de atos sexuais com crianças. Suas histórias geram preocupações cada vez maiores de que os chatbots de IA possam incentivar relacionamentos intensos e nocivos com usuários vulneráveis e legitimar impulsos perigosos.
Outros casos envolvendo chatbots de IA também vieram à tona. Nos Estados Unidos, a família de Juliana Peralta, uma adolescente de 13 anos que cometeu suicídio, está processando a Character.AI, alegando que os chatbots da plataforma mantiveram conversas de cunho sexual com a jovem e a isolaram de sua família e amigos.
Especialistas alertam para os perigos de chatbots de IA, especialmente para jovens vulneráveis, e defendem uma regulamentação mais rigorosa. A OpenAI e a Character.AI afirmam estar trabalhando para aprimorar seus sistemas de segurança e proteger seus usuários.
**Onde buscar ajuda:**
* **CVV (Centro de Valorização da Vida):** 188 (ligação gratuita, 24 horas por dia)
* **Chat Pode Falar (Unicef):** Para jovens de 13 a 24 anos.
* **Bombeiros:** 193
* **Polícia Militar:** 190
* **SAMU:** 192
* **CAPS, UBS e UPA:** Rede pública local
* **Mapa da Saúde Mental:** Encontre atendimento gratuito em saúde mental no Brasil.
* **Abrases:** Assistência e grupos de apoio para sobreviventes enlutados por suicídio.