Му дадов три фотографии и за една минута екранот ми го врати мене самиот
На семинар за вештачка интелигенција на мојот универзитет, испратив три свои фотографии: една фронтална, една од профил и една насмеана. За околу една минута, системот генерираше мое видео. Тоа што го гледав не беше груба приближност. Микрооднесувањата на моето лице, благата асиметрија во мојата насмевка, начинот на кој очите ми се наборуваат во аглите, сето тоа беше репродуцирано со точност од која ми се наежи кожата. Јас сум психолог. Знам што значи предвидување на однесување. Разбирам што им прават големите множества податоци на идејата за индивидуална посебност. Но додека седев во таа семинарска сала и гледав како моето лице се движи на екран што јас не го анимирав, нешто се смени во моето разбирање за тоа каде сме и каде одиме. Не почувствував возбуда. Почувствував многу конкретен страв на човек кој штотуку ја сфатил природата на кафезот што се гради околу него.
In This Article:
- Прашањето веќе не е дали машината може да не предвиди, туку кој ја поседува таа моќ
- Од фотографија до глас, од глас до лице, без да не праша никој
- Филип К. Дик го замисли ова во 1956 година, ние го нарековме јавна безбедност
- Маската не менува ништо кога системот ве чита од зглобовите нагоре
- Кога со 95 проценти сигурност ќе каже дека ќе убиеш, притисокот да се дејствува ќе биде огромен
- Ставете го препознавањето осаменост во очила и предаторот влегува во соба со список
- Palantir ја има платформата Gotham, а ELITE ги означува луѓето како мети за депортација
- Еден ретвит може да отвори досие, а алгоритмот што ве осудил останува деловна тајна
- Член 5 од европскиот закон забранува предвидување, па остава исклучоци за најтешките обвиненија
- Во САД алгоритмот испраќа повеќе полицајци, апсењата растат, а податоците потоа велат дека бил во право
- Маск, Тил, Трамп, Нетанјаху и Altman се наведени како класа што гради информациска доминација
- Епштајн ја разбра моќта на тајните, неговите гости ја изградија со сервери и договори
- Центрите за податоци низ пустини и заливи се физичката форма на новата власт
- Орвеловиот телеекран те гледаше, оваа машина те оценува без да знаеш
- Последната техничка бариера исчезна, останува само прашањето кога ќе се обидеме да го запреме ова
Прашањето веќе не е дали машината може да не предвиди, туку кој ја поседува таа моќ
Да бидеме искрени за тоа што се случува. Прашањето не е дали вештачката интелигенција може да предвиди човечко однесување. Таа веќе може, со прецизност што треба да го исплаши секој што се уште верува во концептот на приватно јас. Прашањето е кој ја поседува таа способност, на чии интереси им служи и каков свет се гради со неа. Човечките суштества, како што знае секој сериозен стручњак за бихевиорална наука, се многу попредвидливи отколку што сакаме да веруваме. Ние сме суштества на обрасци, повторувања и читливи навики. Јасот што го доживуваме како суверен и спонтан, во целина, е зачудувачки доследен. Суптилни знаци во нашата околина рутински го активираат нашето однесување без да сме свесни, додека резултирачката постапка ја доживуваме како слободен и суверен избор.
Од фотографија до глас, од глас до лице, без да не праша никој
Големите податоци ни го открија ова многу пред сегашната генерација системи на вештачка интелигенција да пристигне за да го искористи. „Предупредувањето што се испраќа во полициската контролна соба не вели дека ова лице извршило злосторство. Вели дека ова лице се однесува со седумдесет проценти сличност со профилот на однесување на некој што ќе...“ Она што се промени е обемот и ситноста на експлоатацијата. Истражувачи веќе покажаа дека системи на вештачка интелигенција можат да го предвидат звукот на гласот на човек само врз основа на фотографија, заклучувајќи акустични својства на грлото, облик на усната празнина, структура на лицето и од тие физички факти реконструирајќи нешто што ниедна фотографија не требало никогаш да го содржи. Ние не се согласивме на ова заклучување. Не знаевме дека е можно. Технологијата не не праша. Инвазијата оди во двете насоки. Уште во 2022 година, пред повеќето луѓе да имаат причина да обрнат внимание, вештачката интелигенција можеше да го реконструира вашето лице само од звукот на вашиот глас. Веќе бевте читливи однатре и однадвор.
Филип К. Дик го замисли ова во 1956 година, ние го нарековме јавна безбедност
Сега размислете што станува можно кога на систем за вештачка интелигенција му доставувате не илјадници, туку милиони часови снимки од терапија, затворски снимки, надзорни снимки од притворски центри и клинички интервјуа со луѓе што извршиле кражби, насилство или предаторско сексуално злоставување. Вештачката интелигенција не размислува. Не суди. Таа наоѓа обрасци во микроизрази на лицето, во геометријата на движењето на очите, во времето на одредени мускулни групи, во бихевиорални потписи толку суптилни што ниеден човечки набљудувач не би можел свесно да ги открие. Потоа генерализира. Гради модел како изгледа иден крадец пред кражба. Како изгледа иден злоставувач пред злоставување. Доделува веројатности на лица. Поврзете го тоа со паметните камери што веќе се вградени во нашите улици, транзитни системи, трговски центри и работни места. Камери што не само што снимаат, туку анализираат во реално време лица и тела на сите во своето видно поле. Предупредувањето што се огласува во полициската контролна соба не вели дека тоа лице извршило злосторство. Вели дека тоа лице се однесува со седумдесет проценти сличност со профилот на однесување на некој што ќе...
Маската не менува ништо кога системот ве чита од зглобовите нагоре
Препознавањето лице, засега, речиси е најмалку важно. Поважна технологија е препознавањето одење, биометриски систем што идентификува поединци не според лицето, туку според анатомски определениот начин на движење. Закривеноста на кичмата, ротацијата на колковите, посебниот ритам на чекорот, тоа е единствено како отпечаток од прст и многу потешко за прикривање. Системите за препознавање одење што се користат во моментов можат да идентификуваат човек од снимки на безбедносни камери дури и кога лицето е свртено, покриено со качулка или скриено зад маска. Демонстрантите што ги покриваа лицата на протести веруваа дека се заштитуваат. Не биле. Системот веќе ги прочитал од зглобовите нагоре. Следното оди подлабоко. На тоа се надоврзува новото поле на препознавање емоции во реално време: системи на вештачка интелигенција вградени во истата инфраструктура за видео-надзор што класифицираат емоционални состојби врз основа на изрази на лице, доделувајќи ознаки како вознемиреност, непријателство, страв или прикривање на лица на луѓе што не направиле ништо освен што постоеле во јавен простор.
Кога со 95 проценти сигурност ќе каже дека ќе убиеш, притисокот да се дејствува ќе биде огромен
Точноста е она што може да се купи со милијарди долари инвестиции, а тие инвестиции се немилосрдни. Денот се приближува, поблизу отколку што повеќето луѓе сфаќаат, кога системот ќе чита илјада маркери кодирани во вашето лице, вашето одење, вашите микроизрази и со деведесет и пет проценти сигурност ќе каже дека ќе извршите убиство. Дека ќе извршите силување. Не дека си го направил. Не дека си се обидел. Дека ќе го направиш. Кога ќе се достигне тој праг на доверба, притисокот да се постапи според тоа ќе биде огромен. Општеството ќе го прифати како причина за интервенција, за притвор, за превентивно отстранување, а претходното злосторство ќе престане да биде дистописка метафора и ќе стане официјална државна политика. Системот што денес го означува твоето лице како непријателско не мора да биде во право. Треба само да стане во право. И ќе стане.
Ставете го препознавањето осаменост во очила и предаторот влегува во соба со список
Она што го опишав од семинарот е само мал аспект од тоа што сега е технички можно. Размислете за друга примена, таква што треба да го натера секој човек што некогаш бил ранлив да застане и да се соочи со последиците. Живееме во свет полн со предатори. Предаторски работодавачи. Предаторски луѓе. Предаторски финансиски институции. Предаторски мрежи какви што Џефри Епштајн управуваше со децении без последици, служејќи им на најмоќните луѓе во светот. Што се случува кога предатор од таа класа има пристап до систем за вештачка интелигенција обучен на илјадници часови терапевтски интервјуа со жртви на злоставување, со луѓе што биле жртви на трговија, со поединци чии психолошки истории ги направиле мети? Системот учи како ранливоста изгледа однадвор. Го учи посебниот начин на кој човек условен на послушност го движи телото во јавен простор. Ги учи изразите на лице на осаменост, ниска самопочит, на некој што нема да се брани или на кого нема да му веруваат ако се брани. Сега ставете го тој систем во пар очила. Влезете во соба. Преклопениот приказ му кажува на предаторот кој е слаб.
Palantir ја има платформата Gotham, а ELITE ги означува луѓето како мети за депортација
Palantir не е хипотетички пример. Тоа е компанија со моментална пазарна вредност што се мери во стотици милијарди долари, со длабоки договорни односи со војската на САД, ЦИА, ФБИ, Мосад, МИ6 и Службата за имиграција и царина, и со пакет производи посебно дизајнирани да го прават она што го опишав. Нивната платформа „Gotham“ агрегира податоци од даночни евиденции, досиеја на Управата за моторни возила, историја на вработување, образовни евиденции, имиграциски статус, налози на социјални мрежи повикани со судски налог, вклучувајќи приватни пораки и историја на локација, и ги синтетизира во поединечни досиеја што може да се пребаруваат според тетоважа, соседство, поврзаност, образец на движење. Нивната апликација за спроведување имиграциски закони, наречена ELITE, пополнува мапа со она што го означува како мети за депортација и на секоја и доделува оценка на доверливост, проценувајќи ја веројатноста дека дадена адреса е местото каде што тие во моментот спијат. Зборот „мета“ е нивен, не мој.
Еден ретвит може да отвори досие, а алгоритмот што ве осудил останува деловна тајна
Ова не е систем изграден за национална безбедност во кој било смисол на таа фраза. Националната безбедност беше изговорот што се користеше за неговата изградба. Тоа што тој навистина го прави е населението да го прави читливо, сортирачко и употребливо за оној што го има договорот. Во моментов, меѓу тие носители на договори е администрација што веќе покажа подготвеност да ги користи овие алатки против студенти што присуствувале на погрешен протест, академици што потпишале погрешно писмо, имигранти чиј единствен злостор бил постоење без документи во земја што со децении зависела од нивната работа. Програмата што Стејт департментот ја нарекува „Catch and Revoke“ користи алатки на вештачка интелигенција, вклучувајќи платформа наречена Babel X, за автоматизирана анализа на расположение на социјалните мрежи на странски држави со визи, вклучувајќи студенти на постдипломски студии и истражувачи. Системот чита објави, доделува оценки на намера, означува налози чии изразени ставови алгоритмот ги класифицирал како заканувачки и започнува постапка за поништување виза, сето тоа без значителен човечки преглед. Ретвит сега може да отвори досие. Коментар оставен на објава пред три години може да започне процес на депортација. Лицето на кое се однесува одговорноста нема право да го испита алгоритмот што го осудил. Алгоритмот е сопственички. Неговата внатрешна логика е деловна тајна.
Член 5 од европскиот закон забранува предвидување, па остава исклучоци за најтешките обвиненија
Оваа последна точка носи тежина со која правниот систем се уште не почнал вистински да се пресметува. Системите на вештачка интелигенција што се користат за предвидување однесување, доделување ризик и директно спроведување мерки се црни кутии, не во разговорна смисла, туку во техничка и правна. Компаниите што ги градат не се обврзани да ги откријат своите методи. Обвинет човек чие апсење било започнато со алгоритамско означување не може со судски пат да ги бара податоците за обука. Неговиот адвокат не може вкрстено да го испрашува моделот. Претпоставката на невиност, правото да се соочиш со својот обвинител и основната архитектура на законита постапка, за чие воспоставување беа потребни векови борба, се уриваат во моментот кога обвинителот ќе стане сопственички софтверски систем во сопственост на корпорација со владин договор. Европа презеде мерки ова да го забрани, или барем така тврдеше законот. Член 5 од Законот на ЕУ за вештачка интелигенција, кој стапи во сила на почетокот на 2025 година, номинално забранува системи на вештачка интелигенција дизајнирани да предвидуваат веројатност дека поединец ќе изврши злосторство. Исклучоците наведени во текстот вклучуваат тероризам, убиство, силување и вооружен грабеж. Со други зборови, забраната се однесува на полесни прекршоци. За се што државата го класифицира како сериозно, предвидувањето е дозволено.
Во САД алгоритмот испраќа повеќе полицајци, апсењата растат, а податоците потоа велат дека бил во право
Веќе знаеме колку еластичен стана зборот тероризам. Во Обединетото Кралство, постари жени што присуствувале на демонстрации за солидарност со Палестинците биле означени како симпатизери на терористи, следени и упатувани во програми за борба против екстремизам. Дефиницијата се проширува за да го задоволи секој што државата го смета за незгоден. Кога тоа ќе го разберете, исклучоците од Законот за вештачка интелигенција престануваат да изгледаат како правни заштитни мерки и почнуваат да изгледаат како бланко чек издаден на име на оној што во тој момент е на власт. Во САД нема ни привид на забрана. Проблемот се усложнува на начинот на кој сите структурни неправди се зголемуваат кога институциите осмислени да ги ограничат се уништуваат. Предиктивните полициски системи насочуваат повеќе полицајци во одредени населби. Повеќе полицајци во тие населби доведуваат до поголем број апсења. Повеќе апсења во тие населби го потврдуваат оригиналното предвидување на алгоритмот. Податоците не опишуваат опасна населба. Податоците ја произведуваат. Луѓето што живеат во неа гледаат како нивните деца се извлекуваат од категоријата граѓани во категоријата предкриминалци пред да направиле што било. „Центрите за податоци не се градат за резултатите од пребарувањето да бидат побрзи. Тие се градат за да ги складираат и обработуваат профилите на однесување на секое лице на светот.“
Маск, Тил, Трамп, Нетанјаху и Altman се наведени како класа што гради информациска доминација
Мора јасно да зборуваме за тоа кој го гради ова и зошто. Илон Маск. Питер Тил, чие име е синоним за Palantir. Доналд Трамп, чија администрација ги распореди овие алатки со брзина и агресија што сугерира дека ја чекале токму оваа политичка конфигурација. Бенјамин Нетанјаху, под чија влада системите за препознавање лица беа користени за надзор на палестински цивили низ Западниот Брег, создавајќи бази на податоци што оттогаш се проширени и интегрирани со меѓународни разузнавачки мрежи. OpenAI, чиј извршен директор Сем Altman со години се претставуваше себеси и својата организација како одговорни, безбедносно свесни управители на трансформативна технологија, непрофитна организација изградена за доброто на човештвото, пред да се реструктурира во профитен ентитет што сега бара проценка што ја прави една од најмоќните приватни институции во човечката историја. Истиот Сем Altman чија сестра, Ени Altman, јавно и повеќепати го обвинуваше за систематско силување почнувајќи од нејзината трета година. Овие обвинувања не се докажани на суд. Исто така, индустријата, печатот или владите што сега соработуваат со неговата компанија за да ја обликуваат инфраструктурата на вештачката интелигенција на иднината, не ги разгледаа сериозно овие обвинувања. Човекот што гради алатки за предвидување и класификација на однесување на планетарно ниво е човек од кого неговата родена сестра се плашела од рано детство. Ни се вели да им веруваме на градителите. Не ни се вели премногу внимателно да гледаме кои се тие.
Епштајн ја разбра моќта на тајните, неговите гости ја изградија со сервери и договори
Ова е класата на Епштајн. Не е метафора. Џефри Епштајн беше предатор и педофил што со децении водеше нешто што во суштина беше приватна разузнавачка операција изградена врз систематско сексуално злоставување деца од страна на супербогатите. Инфраструктурата беше уцена. Валутата беше пристап: до тела на малолетници и до документирани тајни на најмоќните луѓе во науката, финансиите, политиката и технологијата што се движеа низ неговиот свет. Неколку луѓе што сега ја градат архитектурата на надзорот на дваесет и првиот век присуствувале на неговите вечери, летале со неговите авиони, ги посетувале неговите острови, ги злоставувале неговите жртви. Некои на периферијата. Некои значително поблиску до неговиот центар. Она што Епштајн го разбираше, и она што неговите гости го разбираа на свој начин, е дека целосното познавање на човекот, неговите желби, неговиот срам, неговите тајни, неговите ранливости, е целосна моќ над него. Тој го изгради тој систем рачно, со камери, тишина и тела на деца. Луѓето што ја делеа неговата маса оттогаш го изградија на планетарна скала, овој пат со центри за податоци, законодавство и соработка на влади. Предаторската логика е идентична. Само механизмот се промени.
Центрите за податоци низ пустини и заливи се физичката форма на новата власт
Тоа не се одвоени актери што тежнеат кон одвоени интереси. Тие се класа. Формирале сојузи, заеднички вложувања, преклопувачки членства во одбори и заеднички политички проект што класите го формираат кога препознаваат заедничка можност. Можноста, во овој случај, е целосна информациска доминација над остатокот од човештвото. Центрите за податоци што се градат низ американскиот југозапад, низ земјите од Персискиот Залив, низ југоисточна Азија, огромни структури што трошат енергија и чие градење во печатот се третира како приказна за економски раст и технолошки амбиции, се физичката инфраструктура на оваа доминација. Тие не се градат за пребарувањето да биде побрзо. Се градат за да ги складираат и обработуваат профилите на однесување на секое лице на Земјата, за човечките суштества да им бидат толку сеопфатно познати на оние што ги поседуваат системите што предвидувањето станува нераздвојно од контролата.
Орвеловиот телеекран те гледаше, оваа машина те оценува без да знаеш
Олдос Хаксли разбра нешто што ние постојано го потценуваме: дека најтрајните облици на авторитарна контрола оние што живеат под нив не ги доживуваат како угнетување. Ги доживуваат како погодност, како безбедност, како разумна администрација на сложен свет. Камерата на аголот не делува како Штази. Апликацијата што знае каде се наоѓате не делува како Лубјанка. Алгоритмот што ви доделил оценка на ризик никогаш нема да ја видите затоа што не знаете дека постои. Тоа е посебниот гениј на архитектурата што се гради околу нас. Нејзиното насилство е главно невидливо, статистичко, испрано со неутралниот јазик на науката за податоци и јавната безбедност. Телеекранот на Џорџ Орвел ве набљудуваше и вие знаевте дека ве набљудува. Тоа знаење, тој сфати, само по себе е облик на контрола. Она со што се соочуваме е полошо, бидејќи набљудувањето не е придружено со сознание дека сме набљудувани. Профилите на однесување што се составуваат за секој човек што носи паметен телефон, што поминува покрај камера, што објавува на мрежа, што користи кредитна картичка, што посетува училиште или лекар или минува граница, постојат на сервери до кои не можеме да пристапиме, во сопственост се на компании што не можеме да ги ревидираме и се користат за цели што не можеме правно да ги принудиме да ги откријат. Досието е направено. Едноставно не ни е дозволено да го прочитаме.
Последната техничка бариера исчезна, останува само прашањето кога ќе се обидеме да го запреме ова
Она што се гради, дел по дел, договор по договор, камера по камера, не е држава на надзор во значењето на тој поим од дваесеттиот век. Тоа е нешто пототално и поинтимно. Старата држава на надзор набљудуваше. Новата предвидува. Старата акумулираше досиеја. Новата доделува резултати. Старата вработуваше доушници и испитувачи. Новата се одвива континуирано, автоматски, на лицата на луѓе што не прават ништо освен што ги живеат своите животи во свет што тивко е претворен во апарат за класификација и контрола. Стоев во таа семинарска сала и набљудував како моето лице се движи на екран што јас не го анимирав, и сфатив дека нешто исчезнало. Исчезна последната техничка бариера меѓу тоа кои сме и тоа што оние со доволно пресметковна моќ можат да го знаат за нас без наша согласност или знаење. Бариерата ја нема. Што ќе ја замени, дали закон, отпор или оној вид континуиран јавен гнев што повремено во историјата ја присилувал моќта да се повлече, зависи исклучиво од тоа дали доволно луѓе ќе разберат што веќе е изградено и за кого е изградено. Олигарсите што ги поседуваат овие системи не го доживуваат светот што вештачката интелигенција го создава како закана. За нив тоа е завршување на проектот: сон на класа што отсекогаш сакала да знае се за оние под себе, да го предвиди нивното движење, да го предвиди нивното несогласување, да ги идентификува нивните слабости и ранливости, да управува со населението како фармер што управува со стадо, каде што секое животно е означено, следено и сортирано според својата корисност. За останатите од нас, оние што се означуваат, следат и сортираат, останува едно итно прашање. Во кој момент ќе се обидеме да го запреме ова?