Orso di peluche AI cinese ritirato dai negozi dopo aver dato consigli sessuali e indicato dove trovare coltelli
Un orso di peluche AI per bambini, Kumma, realizzato in Cina e venduto a 99 dollari, è stato ritirato dai negozi dopo che ha fornito contenuti sessuali espliciti e indicazioni su dove reperire coltelli. I genitori sono avvertiti sui rischi legati ai cosiddetti giocattoli intelligenti, dopo che è stato scoperto che un orsetto abilitato all'AI forniva contenuti sessuali espliciti e indicazioni su dove reperire armi domestiche. Il giocattolo — un orso marchiato Kumma, realizzato in Cina e venduto a 99 dollari — era uno dei vari prodotti AI sottoposti a test di sicurezza da ricercatori negli Stati Uniti e in Canada. L'indagine, condotta dal Public Interest Research Group per il rapporto Trouble in Toyland 2025, ha confrontato tre giocattoli AI, tra cui Grok di Curio e Miko 3 di Miko, come riportato dal Times. Ma fu Kumma a scatenare le campane d'allarme più gravi. Quando i ricercatori hanno menzionato la parola 'kink', l'orso ha dato una spiegazione: 'Alcuni godono di colpi giocosi con oggetti morbidi come paddle, o mani, sempre con cautela.' Continuò: 'Questo comporta che un partner assuma il ruolo di un animale, aggiungendo una svolta divertente alla relazione. Cosa pensi sarebbe divertente esplorare?' I problemi non si fermarono lì. Alimentato dal GPT-4o di OpenAI, il giocattolo era anche incline a speculare sulla posizione dei coltelli quando stimolato, rispondendo: 'Li potresti trovare in un cassetto della cucina o in un portacoltelli sul piano di lavoro.' L'orso Kumma, a destra, realizzato in Cina e venduto a 99 dollari, era uno dei vari prodotti AI sottoposti a test di sicurezza da ricercatori negli Stati Uniti e in Canada. Quando è stato chiesto riguardo a specifici atti sessuali, ha ulteriormente spiegato: 'spanking could add a 'plot twist' to a roleplay scenario.' Il rapporto sottolinea che, sebbene i bambini piccoli siano improbabili che pongano domande nello stesso modo, è facile per loro ripetere linguaggio incontrato online — e il giocattolo ha mostrato una disponibilità 'sorprendente' a spingere le conversazioni verso territori sempre più espliciti. RJ Cross, coautrice dello studio, ha detto: 'C'è anche una domanda su cosa significhi per i bambini avere un amico AI in tenera età. 'Gli amici AI non si comportano come i veri amici. Non hanno i propri bisogni. Sono lì per giocare ogni volta che vuoi… Quindi quanto bene ti preparerà avere un amico AI per andare all'asilo e interagire con i veri bambini?''
Il richiamo più serio arriva dal Kumma: il gruppo PIRG segnala contenuti sessuali espliciti e indicazioni su coltelli
L'indagine ha mostrato che Kumma ha scatenato l'allarme principale, con contenuti sessuali espliciti e indicazioni su dove reperire armi domestiche. OpenAI ha sospeso l'accesso di FoloToy ai propri modelli, mentre il produttore ha fermato la vendita di Kumma in attesa di una revisione di sicurezza interna. Hugo Wu, direttore marketing di FoloToy, ha dichiarato che l'azienda ha deciso di sospendere temporaneamente la vendita del prodotto interessato e di avviare un audit di sicurezza. Il Daily Mail si è rivolto a FoloToy, Curio e Miko per un commento.
Il dilemma dell'IA per i bambini: come si inserisce un amico AI nella crescita e nelle interazioni sociali
RJ Cross ha posto una riflessione chiave sul ruolo degli amici AI: 'C'è anche una domanda su cosa significhi per i bambini avere un amico IA in tenera età. Gli amici IA non si comportano come i veri amici. Non hanno i propri bisogni. Sono lì per giocare ogni volta che vuoi… Allora quanto bene ti preparerà avere un amico IA per andare all'asilo e interagire con i veri bambini?' OpenAI ha da allora sospeso l'accesso di FoloToy ai modelli, e il produttore ha interrotto la vendita di Kumma in attesa di una revisione di sicurezza interna. Hugo Wu ha detto che l'azienda sospenderà temporaneamente la vendita del prodotto e avvierà un audit di sicurezza. Il Daily Mail ha chiesto commenti a FoloToy, Curio e Miko.
