Му го открила планот на четботот, а завршила во полиција: Разговор со Claude доведе до апсење
Во време кога расте притисокот врз компаниите за вештачка интелигенција подобро да ги спречат потенцијалните штети поврзани со нивните производи, сè почесто се поставува и прашањето – колку навистина се приватни разговорите што корисниците ги водат со четботовите? Еден таков разговор неодамна завршил и со полициска интервенција. Карли Мишел Хелер од Бонита Спрингс, Флорида, била уапсена откако наводно му открила на четботот Claude на Anthropic дека планира да пука во блиската канцеларија на шерифот.
In This Article:
- Внатрешниот софтвер на Anthropic ги означил записите за човечки преглед
- Шерифот Кармин Марсено рече дека таа го користела Claude како „дневник“
- Во Tumbler Ridge, ChatGPT бил дел од планирањето пред масовното пукање во февруари
- Anthropic има лошо досие за реална штета, но сега се обидува да избегне ист тип инцидент
Внатрешниот софтвер на Anthropic ги означил записите за човечки преглед
Според WINK News, Хелер била обвинета за упатување писмена закана со насилство — кривично дело од втор степен во Флорида — откако внатрешниот софтвер за следење на Anthropic ги означил нејзините записи од разговорот за човечки преглед. Откако биле прегледани од човечки вработен во Anthropic, пренесува WINK, компанијата утврдила дека плановите на Хелер достигнале ниво на веродостојна закана и на крај ги известила локалните полицајци.
Шерифот Кармин Марсено рече дека таа го користела Claude како „дневник“
Како што шерифот на округот Ли, Кармин Марсено, им кажа на локалните новинари во изјава, жената признала дека го користела Claude како „дневник“, очигледно несвесна дека нејзината историја на разговори може да биде прочитана од вработени во Anthropic. Тука постои вистинска напнатост меѓу приватноста на корисниците и одговорноста на компаниите за вештачка интелигенција да се обидат да спречат насилни настани.
Во Tumbler Ridge, ChatGPT бил дел од планирањето пред масовното пукање во февруари
По масовното пукање во Tumbler Ridge, Канада, брзо излезе на виделина дека сторителката во голема мера се потпирала на ChatGPT за да го испланира пукањето. Не само што вработени во OpenAI знаеле за тие записи од разговорите пред пукањето — тие биле означени за човечки преглед неколку месеци претходно — туку директорите на компанијата дури се обиделе да ја сокријат, а подоцна и да ја минимизираат улогата на нивниот производ во охрабрувањето на смртоносниот напад.
Anthropic има лошо досие за реална штета, но сега се обидува да избегне ист тип инцидент
Иако сопственото досие на Anthropic за реална штета е бедно, се чини дека компанијата барем се обидува да избегне ист таков инцидент — иако, со речиси бескрајни можности за четботови што сега се на пазарот, можеби веќе е предоцна да се спречи следната трагедија помогната од вештачка интелигенција.