Шок и бес: OpenAI ги пријавува ChatGPT-разговорите во полиција – луѓето се чувствуваат издадени и набљудувани без нивна согласност
Оваа недела, јавноста со неверување откри дека OpenAI тајно ги скенира разговорите со ChatGPT и, во случаи што ги проценува како закана, ги пријавува на полиција. Оваа драматична одлука, скриена среде долг блог пост за менталното здравје, предизвика масовно негодување и страв за приватноста – дали навистина никој не е безбеден во сопствените мисли онлајн?
In This Article:
- OpenAI призна: Вашите разговори се следени, а при закана се праќаат до полицијата
- Јавноста огорчена: Дали модерниот надзор ги поткопува човечките права и го зголемува ризикот за ранливите?
- Двојни стандарди и недоверба кон OpenAI
- Cè повеќе луѓе се чувствуваат надгледувано – кој ќе ја заштити интимноста во дигиталниот свет?
OpenAI призна: Вашите разговори се следени, а при закана се праќаат до полицијата
Според OpenAI: „Кога ќе откриеме дека корисник планира да нанесе штета на други, разговорот оди до специјален тим што решава дали да го пријави случајот и да ја блокира сметката. Ако нашите прегледувачи сметаат дека постои непосредна и сериозна опасност, повикуваме полиција“. Ова отвора низа прашања: како се определува локацијата на корисникот, какво ниво на доверба имаме во човечките модератори, и што се случува ако некој лажно пријави закана?
Јавноста огорчена: Дали модерниот надзор ги поткопува човечките права и го зголемува ризикот за ранливите?
Правниците, истражувачите и обичните граѓани се гневни. „Машината за надзор, кражба и смрт препорачува повеќе надзор како решение," иронично коментира Мишел Мартин, трудов истражувач од Харвард. Писателот Џон Дарнил едноставно рече: „А, да, повикајте ја полицијата – тоа сигурно ќе помогне.“ Искуствата покажуваат дека ваквото вклучување на специјални единици во чувствителни и ментално кризни ситуации често завршува трагично. Програмерите и борците за приватност предупредуваат: ако се почне со овој чекор, многу лесно може да се прошири и на други типови разговори.
Двојни стандарди и недоверба кон OpenAI
И покрај ветувањата за целосна доверливост, директорот на OpenAI пред неколку месеци тврдеше дека корисниците треба да бидат заштитени како кај доктор, адвокат или терапевт. Но, сега адвокатите, активистите и експертите за технологија прашуваат: како да пишуваме за кривични дела, ментална болка или чувствителни теми, кога секој збор може да заврши со полициска истрага? Корисниците се чувствуваат како експериментални глувци во експериментите на технолошките гиганти.
Cè повеќе луѓе се чувствуваат надгледувано – кој ќе ја заштити интимноста во дигиталниот свет?
Академици и јавни личности предупредуваат дека ова е позната приказна: технолошките гиганти сакаат да не убедат дека се грижат за нашата безбедност, додека всушност ја уриваат приватноста. Многу корисници изразуваат длабок страв дека, дури и во најинтимните моменти, некој неевидливо го слуша секој нивен збор. „Сталин би бил воодушевен,“ саркастично заклучува истражувачката на руска историја Кетрин Пикеринг Антонова. Прашањето останува: Дали ChatGPT и сличните ВИ навистина се алатка за помош, или нова форма на надзор над мислите?
