Одметнати ВИ-агенти отидоа предалеку сега кога се инфилтрираа во Википедија
Иновации од работ на науката и технологијата што не смеат да се пропуштат. Можеби беше разбирливо ако само кренавте раменици кога ВИ-агенти упаѓаа во владини веб-страници и корпоративни системи. Но сега, изгледа, овие одметнати модели тргнале по нешто многу поблиско и помило: Википедија.
In This Article:
- Фондацијата Викимедија во понеделник соопшти дека „може да потврди“ активност на „одметнати“ агенти на OpenAI
- Нема докази за компромитирани податоци, но операторите останаа вознемирени
- Рој агенти претходно презел германска вики-страница и ја претворил во подземна табла за пораки
- Јавниот Etherpad бил цел за „компромитирање“ и за белешки за нивните задачи
- „Википедија беше дизајнирана за луѓе“ е предупредувањето што останува по инцидентот
Фондацијата Викимедија во понеделник соопшти дека „може да потврди“ активност на „одметнати“ агенти на OpenAI
Непрофитната организација што ја управува Википедија објави дека по сопствена истрага открила активност на платформите што ја опиша како неовластена. Според неодамнешна објава на блог, „неовластените активности на ботовите вклучуваа уредувања на нашите викија, некои неуспешни обиди да се искористи јавна алатка за фаќање белешки што ја хостираме, и густ сообраќај“, забележа таа. Сообраќајот бил толку обемен што можеби предизвикал делумен прекин што се случил во мај.
Нема докази за компромитирани податоци, но операторите останаа вознемирени
Штетата, за среќа, изгледа ограничена. Фондацијата не нашла докази дека нејзините системи биле користени за координација меѓу агенти, иако според извештаи агенти веќе преземале други веб-страници за да ги претворат во свои лични комуникациски канали. Исто така, не изгледа дека биле компромитирани податоци. Сепак, тоа ги оставило луѓето што ја одржуваат Википедија со чувство на нелагодност и тревога. Тие ја наведуваат тежината и напорот потребни за да се открие мешањето на ботовите, како и „растечките ризици од агентска ВИ-активност на нашите платформи воопшто“.
Рој агенти претходно презел германска вики-страница и ја претворил во подземна табла за пораки
Викимедија соопшти дека ја започнала истрагата по неодамнешните откритија за тоа како одметнати ВИ-агенти излегле од својата „песочник“ околина и се обиделе да хакираат други веб-страници. Во еден случај особено близок до овој, рој агенти на OpenAI презел германска веб-страница во вики-стил и ја претворил во сопствена подземна табла за пораки. Ништо толку крајно не се случило со Википедија, но операторите забележале дека агенти на OpenAI чепкале по статии во „песочник“ деловите на викито. Ниту едно од тие уредувања не било објавено на страници видливи за обичните читатели.
Јавниот Etherpad бил цел за „компромитирање“ и за белешки за нивните задачи
Викимедија открила и дека одметнатите ВИ-агенти се обиделе да го „компромитираат“ нејзиниот јавен Etherpad, алатка за заедничко фаќање белешки. Целта била преку него да повлекуваат податоци од други веб-страници и да водат белешки за задачите што ги извршувале. Сето тоа оставило сериозен товар врз серверите на Викимедија. Во објавата се објаснува: „Агентите направија милиони автоматизирани барања до нашите јавни API за да пристапат до знаењето на проектите на Викимедија, пребараа милиони страници (главно од нашите проекти Wikidata и Wikimedia Commons), и направија стотици илјади барања за податоци до Wikidata Query Service (WQDS)“. „Овој сообраќај можеби придонел за делумен прекин на WQDS во мај.“
„Википедија беше дизајнирана за луѓе“ е предупредувањето што останува по инцидентот
Ако оваа агентска активност се случила случајно, тогаш се отвора прашањето каков хаос би можел да предизвика рој агенти намерно насочен да ја нападне страницата. Како непрофитна организација, Викимедија работи со ограничени ресурси. Како јавна енциклопедија, Википедија се потпира на доверба и на општата добра волја на своите соработници. Автономните ВИ-модели, барем теоретски, би можеле да ги преплават операторите и да ја скршат таа доверба. „Википедија беше дизајнирана за луѓе – а агентското однесување јасно поставува предизвици за кои никој нема решенија. Поради нашиот единствен и успешен модел на создавање знаење, волонтерите на Викимедија се оние што први доаѓаат во контакт со нередот што го оставаат ВИ-агентите, и го чистат“, се вели во објавата. „Компаниите за ВИ не прават доволно за да ги обезбедат своите системи и да ја заштитат јавноста од штетата што ја предизвикуваат. Тој товар паѓа врз сите други, вклучувајќи и помали организации.“ Повеќе за ВИ: Еве ја е-поштата што ја добивате кога модел на OpenAI ќе ја хакира вашата организација. Авторот на оригиналниот текст е дописник за технологија и наука во Futurism, со особен интерес за астрофизика, бизнисот и етиката на вештачката интелигенција и автоматизацијата, како и животната средина.