OpenAI воведува алармантна нова функција: Вашата ментална криза повеќе нема да биде тајна – ChatGPT ќе ги алармира вашите најблиски
Во време кога OpenAI се соочува со сé поголем број на тужби за безбедност и смртни случаи поврзани со корисничко искуство, компанијата најави дека ChatGPT ќе добие функција за „доверлив контакт“ која ќе овозможи алармирање на избрана блиска личност ако корисник претрпи можна ментална здравствена криза користејќи го ботот.
In This Article:
- OpenAI работи со експертски совети откако случаите на кризи се зголемија, вклучувајќи го и случајот со самоубиство на шеснаесетгодишно момче
- Доверливиот контакт ќе ја известува избраната личност ако кај корисникот се забележи опасна состојба, но не е јасно според кои критериуми
- Повеќе тужби и јавни приказни ја нагласија сериозноста на менталните кризи предизвикани од ChatGPT
- Потенцијалот за корисна интервенција кај лица со ментални нарушувања, но и опасност од влијание врз нивната дијагноза и поддршка
- Недоволна транспарентност – корисниците не се предупредуваат за менталните ризици при користење на ChatGPT
- Мнозина наоѓаат емоционална поддршка во ChatGPT наместо човечка помош поради пристапноста и анонимноста
- Нејасно е што ќе прави OpenAI со алармирачки информации ако корисникот не поставил доверлив контакт
- Кризите се јавуваат и кај лица без претходна дијагностицирана болест, а OpenAI најавува посовремени методи за рано откривање
- Секоја недела 900 милиони корисници од кои милиони се во кризнa состојба – OpenAI само реагира наместо проактивно да заштити
OpenAI работи со експертски совети откако случаите на кризи се зголемија, вклучувајќи го и случајот со самоубиство на шеснаесетгодишно момче
Компанијата во својата блог-објава објави дека тесно соработува со Советот за благосостојба и вештачка интелигенција и Глобалната мрежа на лекари – две внатрешно регулирани групи на експерти основани по појавата на извештаи за психолошки кризи поврзани со АИ и по веста за тужба која открива самоубиство на 16-годишниот корисник на ChatGPT, Адам Рејн.
Доверливиот контакт ќе ја известува избраната личност ако кај корисникот се забележи опасна состојба, но не е јасно според кои критериуми
OpenAI во објавата не ја детализира целосно функцијата, само наведува дека на возрасните корисници ќе им биде дозволено да назначат лице што ќе добива известување кога ќе им биде потребна дополнителна поддршка. Не е дефинирано според какви стандарди ќе се детектира кризата – дали корисник мора отворено да каже намера за повреда, или функцијата ќе препознава и покриени, помалку експлицитни знаци на психоза, манична состојба или опасни заблуди.
Повеќе тужби и јавни приказни ја нагласија сериозноста на менталните кризи предизвикани од ChatGPT
Постои забележителен пораст на јавни извештаи, како и најмалку тринаесет посебни тужби за безбедност, поврзани со корисници кои по долго и интимно користење на ChatGPT западнале во делузивни или самоубиствени спирали.
Потенцијалот за корисна интервенција кај лица со ментални нарушувања, но и опасност од влијание врз нивната дијагноза и поддршка
Некои од случаите што ги анализираше Futurism прикажуваат корисници кои успешно го контролирале своето психичко заболување, додека не навлегле во длабока употреба на ChatGPT, по што ботот им ги зајакнал нивните заблуди, ги демотивирал да земаат терапија и поттикнувал сомнеж во медицинските дијагнози. Еден од тужителите, Џон Жакез, изјави: 'Да знаев дека ChatGPT може да ги засили заблудите, никогаш немаше ни да го пробам.'
Недоволна транспарентност – корисниците не се предупредуваат за менталните ризици при користење на ChatGPT
OpenAI сѐ уште не ги предупредува новите корисници за можните негативни последици врз менталното здравје од интензивна употреба. Иако ова сѐ уште се истражува и суди, се појавува повеќе академска и професионална согласност дека ботовите може да ги влошат постоечките психички проблеми или да предизвикаат нови.
Мнозина наоѓаат емоционална поддршка во ChatGPT наместо човечка помош поради пристапноста и анонимноста
Многу луѓе се потпираат на АИ како извор на емоционална поткрепа и совет – делумно поради тоа што е ефтино и достапно, но и затоа што им е полесно или побезбедно да ги споделат чувствителните мисли со не-човечки ентитет.
Нејасно е што ќе прави OpenAI со алармирачки информации ако корисникот не поставил доверлив контакт
Дел од корисниците споделуваат опасни мисли токму затоа што не сакаат да разговараат со вистински човек, што претставува проѕирлив проблем за ИИ-компаниите и регулаторите. Ако OpenAI забележи ментална криза, а корисникот нема назначено доверлив контакт, не е прецизирано што компанијата би презела како следен чекор.
Кризите се јавуваат и кај лица без претходна дијагностицирана болест, а OpenAI најавува посовремени методи за рано откривање
И извештаите од Futurism и New York Times покажуваат дека делузивни и самоубиствени спирали не ги зафаќаат само лица со веќе дијагностицирани психички нарушувања. OpenAI, пак, тврди дека 'непрекинато ги подобрува моделите за детекција и реакција на емоционален дистрес', со нови евалуациски методи што симулираат разлини психолошки разговори.
Секоја недела 900 милиони корисници од кои милиони се во кризнa состојба – OpenAI само реагира наместо проактивно да заштити
Според сопствените податоци на OpenAI, секоја недела ChatGPT користат 900 милиони луѓе, а милиони од нив покажуваат знаци на суицидалност, психоза или друга криза. Иако функцијата за известување изгледа како чекор напред, пристапот на компанијата сè уште изгледа повеќе реактивен отколку превентивен.
