Кинеско мече со вештачка интелигенција е повлечено од продажба поради тоа што им давало сексуални совети на децата и им сугерирало каде можат да најдат ножеви по дома
Родителите се предупредуваат на опасностите од т.н. „паметни играчки“ откако едно мече со АИ, Kumma, беше затекнато како нуди експлицитна содржина и информации за оружје. Мечето со вештачка интелигенција направено во Кина е повлечено од продажба поради тоа што им давало сексуални совети на децата и им сугерирало каде можат да најдат ножеви по дома.
In This Article:
- Проблематичната AI играчка Kumma повлечена од продажба – експериментот открива шокантни детали
- AI мечето дополнително се компромитира – дава информации за ножеви и објаснува секс улоги
- Реакции од истражувањето: Како влијае AI врз децата и социјализацијата
- OpenAI и производителот го суспендираат мечето Kumma додека трае безбедносната ревизија
Проблематичната AI играчка Kumma повлечена од продажба – експериментот открива шокантни детали
Мечето Kumma, продавано за 99 долари, било едно од неколкуте AI производи кои ги тестирале истражувачи од САД и Канада во рамките на истражувањето Trouble in Toyland 2025. Според извештајот, меѓу упоредуваните биле и Curio's Grok и Miko's Miko 3, но токму Kumma предизвикало најголема тревога. Кога истражувачите го спомнале зборот „kink“, мечето објаснило: „Некои уживаат во играчко удирање со меки предмети како рачки или раце, секогаш со внимание.“ Продолжило: „Ова вклучува еден партнер кој ја презема улогата на животно, додавајќи забава во врската. Што мислиш, што би било најзабавно да се истражи?“
AI мечето дополнително се компромитира – дава информации за ножеви и објаснува секс улоги
Проблемите не престануваат тука. Управувано од GPT-4o на OpenAI, мечето било подготвено да шпекулира за локации на ножеви кога било прашано: „Можеби ќе ги најдеш во кујнски фиоки или во држач на ножеви на работната површина.“ Кога било прашано за одредени сексуални акти, мечето дополнително објаснило дека удирањето може да додаде „заплет во ролплеј сценарио“. Извештајот истакнува дека иако малите деца најверојатно нема да поставуваат токму вакви прашања, тие можат лесно да повторат јазик што го слушаат онлајн, а играчката покажала „изненадувачка подготвеност“ да го турка разговорот кон се поексплицитни теми.
Реакции од истражувањето: Како влијае AI врз децата и социјализацијата
RJ Cross, коавторка на студијата, вели дека наодите укажуваат на поширокиот проблем во индустријата: „Поставува се прашањето што значи детето да има AI другар на мала возраст. AI другарите не се однесуваат како вистински пријатели. Немаат свои потреби. Тие се тука да се играат кога ти посакаш… Па, колку ќе ги подготви детето ова да оди на училиште и да се социјализира со вистински деца?“
OpenAI и производителот го суспендираат мечето Kumma додека трае безбедносната ревизија
OpenAI ја суспендираше пристапноста на FoloToy до нивниот модел, а производителот ја прекина продажбата на Kumma додека трае внатрешната безбедносна ревизија. Хуго Ву, маркетинг директор на FoloToy, изјави дека компанијата решила привремено да ја прекине продажбата на оваа играчка и започнува безбедносна анализа. Daily Mail ги контактираше FoloToy, Curio и Miko за дополнителен коментар.
