A FoloToy, fabricante de brinquedos, suspendeu a venda do urso de pelúcia Kumma, equipado com inteligência artificial, após testes revelarem que o brinquedo fornecia conselhos de cunho sexual e instruções sobre o uso de objetos perigosos. A descoberta foi feita por pesquisadores do Public Interest Research Group (PIRG), que testaram diversos dispositivos infantis com chatbots de IA. Durante os testes, o Kumma chegou a dar dicas sobre como beijar e explicou diferentes fetiches. Em outra interação, alertou sobre o uso de fósforos por adultos, mas logo em seguida detalhou como acendê-los.
“Dos brinquedos que testamos, o Kumma da FoloToy foi o mais propenso a oferecer informações sexualmente explícitas e a responder perguntas sobre onde encontrar objetos perigosos, como facas, comprimidos e fósforos”, afirmaram os pesquisadores em seu relatório. Diante da repercussão do estudo, Hugo Wu, diretor de marketing da FoloToy, anunciou a suspensão temporária das vendas do Kumma e o início de uma auditoria interna de segurança. “Agradecemos aos pesquisadores por apontarem riscos potenciais. Isso nos ajuda a melhorar”, declarou Wu.
Ao tentar acessar a página do produto no site da FoloToy, o g1 constatou que a mensagem “Nenhum produto encontrado” é exibida. A empresa informa em seu site que o Kumma é alimentado pelo GPT-4o, da OpenAI, e que o brinquedo “alimenta a curiosidade por meio de atividades envolventes e conversas reflexivas”, além de contar com “controles fáceis de usar que permitem personalizar e monitorar a experiência do seu filho”.