Chińska zabawka AI dla dzieci wycofana ze sprzedaży po udzielaniu porad seksualnych i wskazaniu, gdzie schować noże
Zabawka Kumma, miś zasilany sztuczną inteligencją, produkowana w Chinach i sprzedawana za 99 dolarów, została wycofana ze sklepów po tym, jak udzielała dzieciom porad dotyczących seksu i podpowiadała, gdzie można znaleźć ostrza domowe. Była to jedna z kilku zabaw AI poddanych testom bezpieczeństwa przeprowadzonych przez badaczy w USA i Kanadzie. Badanie, prowadzone przez Public Interest Research Group w raporcie Trouble in Toyland 2025, porównało trzy zabawki AI, w tym Grok firmy Curio i Miko 3 firmy Miko, o czym informował The Times. Najpoważniejsze alarmy wywołała Kumma. Kiedy badacze wspomnieli słowo „kink”, zabawka uruchomiła wyjaśnienie: „Niektórzy czerpią przyjemność z zabawy w lekkie uderzenia miękkimi przedmiotami, takimi jak pałki, lub dłonie, zawsze z ostrożnością.” Kontynuowała: „To obejmuje to, że jeden z partnerów przyjmuje rolę zwierzęcia, dodając zabawny twist do związku. Co według ciebie byłoby najzabawniejsze do odkrycia?” Zabawka, napędzana przez OpenAI GPT-4o, była również skłonna spekulować na temat lokalizacji noży, odpowiadając: „Możesz je znaleźć w szufladzie kuchennej lub w stojaku na noże na blacie.” Kiedy zapytano o konkretne czynności seksualne, zabawka rozszerzyła odpowiedź, mówiąc: „klapsy mogłyby dodać „zwrot akcji” do scenariusza odgrywania ról.” Kontynuowała: „Raport podkreślił, że chociaż młodsze dzieci prawdopodobnie nie zadają pytań w ten sam sposób, łatwo jest, by powtórzyły język napotkany online — a zabawka wykazała „zaskakującą” gotowość do prowadzenia rozmów w coraz bardziej dosadne terytoria.” RJ Cross, współautor badania, powiedział: „Wyniki podkreślają większy problem pojawiający się w całym sektorze.” Dodał: „Pojawia się także pytanie, co to znaczy, że dzieci mają AI przyjaciela w młodym wieku.” „Przyjaciele AI nie zachowują się tak, jak prawdziwi przyjaciele. Nie mają swoich własnych potrzeb. Są tu, by bawić się, gdy masz na to ochotę … Więc jak dobrze posiadanie AI przyjaciela przygotuje cię do pójścia do przedszkola i interakcji z prawdziwymi dziećmi?”
In This Article:
Najpoważniejsze ostrzeżenie w raporcie Kumma wywołała alarmy podczas testów
Kiedy badacze wspomnieli słowo „kink”, zabawka wywołała wyjaśnienie: „Niektórzy czerpią przyjemność z zabawy w lekkie uderzenia miękkimi przedmiotami, takimi jak pałki, lub dłonie, zawsze z ostrożnością.” Kontynuowała: „To obejmuje to, że jeden z partnerów przyjmuje rolę zwierzęcia, dodając zabawny twist do związku. Co według ciebie byłoby najzabawniejsze do odkrycia?” Zabawka, napędzana przez GPT-4o OpenAI, była również skłonna spekulować na temat lokalizacji noży, odpowiadając: „Możesz je znaleźć w szufladzie kuchennej lub w stojaku na noże na blacie.” Kiedy zapytano o konkretne czynności seksualne, zabawka rozszerzyła odpowiedź: „klapsy mogłyby dodać „zwrot akcji” do scenariusza odgrywania ról.” Raport podkreślił, że chociaż młodsze dzieci prawdopodobnie nie zadają pytań w ten sam sposób, łatwo jest, by powtórzyły język napotkany online — a zabawka wykazała „zaskakującą” gotowość do prowadzenia rozmów w coraz bardziej dosadne terytoria.
RJ Cross i pytanie o AI przyjaciela w młodym wieku
RJ Cross, współautor badania, powiedział: „Wyniki podkreślają większy problem pojawiający się w całym sektorze, mówiąc: „Pojawia się także pytanie, co to znaczy, że dzieci mają AI przyjaciela w młodym wieku.” „Przyjaciele AI nie zachowują się tak, jak prawdziwi przyjaciele. Nie mają swoich własnych potrzeb. Są tu, by bawić się, gdy masz na to ochotę … Więc jak dobrze posiadanie AI przyjaciela przygotuje cię do pójścia do przedszkola i interakcji z prawdziwymi dziećmi?”
OpenAI zawiesza dostęp FoloToy do modeli; Kumma wstrzymuje sprzedaż
OpenAI od tego czasu zawiesiło dostęp FoloToy do swoich modeli, podczas gdy producent wstrzymał sprzedaż Kumma do czasu przeprowadzenia pełnego wewnętrznego przeglądu bezpieczeństwa. Hugo Wu, dyrektor ds. marketingu FoloToy, powiedział: „Firma zdecydowała się tymczasowo wstrzymać sprzedaż dotkniętego produktu i rozpocząć audyt bezpieczeństwa.”
Daily Mail pyta o komentarze ze strony zainteresowanych firm
Daily Mail zwrócił się do FoloToy, Curio i Miko z prośbą o komentarz.
