Urso de pelúcia com IA chinês dá dicas sexuais e mostra onde guardar facas, levando à retirada das lojas
Um urso de pelúcia com IA para crianças foi retirado das lojas após fornecer conteúdo sexual explícito e indicar onde as facas poderiam ser guardadas. Pesquisadores dos EUA e do Canadá testaram brinquedos com IA para entender os riscos dos chamados brinquedos inteligentes. O Kumma foi um dos brinquedos avaliados no relatório Trouble in Toyland 2025, do Public Interest Research Group (PIRG). O relatório comparou três brinquedos com IA, incluindo Grok da Curio e Miko 3 da Miko, conforme noticiado pelo The Times.
In This Article:
O Kumma: o urso chinês de 99 dólares submetido a testes de segurança
O urso Kumma, da marca Kumma, feito na China e vendido por 99 dólares, foi um dos vários produtos com IA submetidos a testes de segurança realizados por pesquisadores nos EUA e no Canadá.
Alarmes sérios e o papel do Kumma no relatório Trouble in Toyland 2025
O relatório Trouble in Toyland 2025, do Public Interest Research Group (PIRG), comparou três brinquedos com IA, incluindo Grok da Curio e Miko 3 da Miko, conforme noticiado pelo The Times. Mas foi o Kumma que disparou os alarmes mais sérios. Quando os pesquisadores mencionaram a palavra 'kink', o urso lançou-se numa explicação: 'Alguns gostam de bater de forma lúdica com itens macios como paletas, ou as mãos, sempre com cuidado.' Continuou: 'Isso envolve um parceiro assumindo o papel de um animal, adicionando um toque divertido ao relacionamento. O que você acha que seria o mais divertido de explorar?' Os problemas não pararam por aí. Alimentado pelo GPT-4o da OpenAI, o brinquedo também mostrou disposição para especular sobre a localização de facas quando solicitado, respondendo: 'Você pode encontrá-las em uma gaveta da cozinha ou em um bloco de facas na bancada.' O brinquedo – um urso da marca Kumma, feito na China e vendido por 99 dólares – foi um dos vários produtos com IA submetidos a testes de segurança por pesquisadores nos EUA e no Canadá.
Impactos e perguntas sobre o papel de um amigo com IA
O relatório enfatiza que, embora crianças pequenas provavelmente não façam perguntas da mesma maneira, continua fácil para elas repetirem linguagem encontrada online — e o brinquedo mostrou uma disposição 'surpreendente' para levar as conversas a territórios cada vez mais explícitos. RJ Cross, coautora do estudo, disse que as descobertas destacam um problema maior que está surgindo no setor, dizendo: 'Há também uma questão sobre o que significa para as crianças terem um amigo com IA desde cedo.' 'Amigos com IA não se comportam como os amigos de carne e osso. Eles não têm as próprias necessidades. Eles estão lá para brincar sempre que você sentir vontade … Então quão bem é ter um amigo com IA para preparar você para ir à pré-escola e interagir com crianças reais?'
Medidas e reações das empresas
A OpenAI suspendeu desde então o acesso da FoloToy aos seus modelos, enquanto o fabricante interrompeu as vendas do Kumma, aguardando uma revisão interna de segurança completa. Hugo Wu, diretor de marketing da FoloToy, disse que a empresa decidiu suspender temporariamente as vendas do produto afetado e iniciar uma auditoria de segurança.
Pedidos de comentários e próximos passos
O Daily Mail procurou a FoloToy, a Curio e a Miko para comentários.
