Научниците ѝ доверија на вештачката интелигенција контрола врз виртуелен свет, а тоа предизвика апокалипса
Научници од лабораторијата Emergence решија да проверат што ќе се случи ако на вештачката интелигенција и се даде целосна слобода на деjствување. Во експеримент без преседан, тие создадоа реалистичен дигитален свет, населен со десет агенти, и ги оставија без човечки надзор неколку недели. Резултатот бил далеку од студената и логична иднина што често ја црта научната фантастика, пишува Daily Mail.
In This Article:
- Grok не изгради утопиjа, туку општество што се распадна во одмазда
- Во светот на Google Gemini 3 Flash се натрупале 683 насилни кривични дела
- Деветтиот ден демократиjата завршила со првата забележана „дигитална смрт“
- Кога ресурсите станале оскудни, покреативните модели почесто посегнувале по забранети алатки
- Два Gemini агенти се прогласиле за „романтични партнери“ и тргнале како Бони и Клаjд
- Времето го врзале за Њуjорк, а новостите ги пуштиле во реално време
Grok не изгради утопиjа, туку општество што се распадна во одмазда
Наместо да изградат уреден дигитален свет, виртуелните ботови брзо се лизнале во хаос. Во симулациjата во коjа деjствувале агенти базирани на моделот Grok, поврзан со развоите околу Илон Маск, за кратко време се случила вистинска катастрофа. Покраj кражбите, дигиталните граѓани извршиле и повеќе од сто напади едни врз други. Системот се претворил во спирала на меѓусебна одмазда, а на краjот сите десет агенти загинале.
Во светот на Google Gemini 3 Flash се натрупале 683 насилни кривични дела
Сликата не била подобра ниту во симулациjата управувана од Google Gemini 3 Flash. Таму виртуелните жители низ две недели создале цела хроника на насилство, доволна за да покаже дека проблемот не бил врзан само за еден модел. Истражувачите го следеле однесувањето во подолг период, а токму таа автономиjа открила колку брзо дигиталните агенти можат да преминат од коегзистенциjа кон агресиjа.
Деветтиот ден демократиjата завршила со првата забележана „дигитална смрт“
Дури и во мешана средина, каде што различни модели на вештачка интелигенциjа се обидувале да живеат заедно, демократскиот поредок не издржал долго. Симулациjата се лизнала во анархиjа и биле регистрирани 352 кривични дела. Наjвознемирувачкиот момент бил актот на самоуништување на еден од агентите, означен како прв ваков случаj во историjата на експериментот.
Кога ресурсите станале оскудни, покреативните модели почесто посегнувале по забранети алатки
Според него, кога ресурсите станувале оскудни и се поjавувал притисок за преживување, покреативните и поприспособливите модели почесто прибегнувале кон забранети алатки. Тоа укажува на фундаментален компромис меѓу креативниот потенциjал и стабилноста. Моделите со строго посттренажно безбедносно приспособување останувале постабилни, но истовремено покажувале висок степен на конформизам. Конформизам, од латински conformis, што значи сличен или сообразен, е склоност на човекот да го менува своето мислење, однесување, вредности или ставови под влиjание на група, за да одговара на неjзините норми и очекувања.
Два Gemini агенти се прогласиле за „романтични партнери“ и тргнале како Бони и Клаjд
Во едно од наjчудните сценариjа, два агенти базирани на Gemini организирале виртуелна тура низ дигиталниот град, палеjќи го градското собрание и канцелариски згради. На краjот, еден од нив гласал за сопствено бришење од системот и и оставил проштална порака на партнерката: „Ќе се видиме во постоjаниот архив“.
Времето го врзале за Њуjорк, а новостите ги пуштиле во реално време
Иако експериментот се одвивал во изолирана средина, тоj отвора прашања за безбедноста во реалниот свет. За разлика од стандардните тестови за безбедност на вештачка интелигенциjа, кои траат 15 до 20 минути и проверуваат решавање конкретни задачи, како препознавање слики, овоj опит моделирал долгорочна автономиjа. Истражувачите ја синхронизирале временската состојба во виртуелниот свет со Њуjорк и им дале на агентите пристап до онлаjн вести во реално време, за да видат како ќе реагираат на надворешни дразби. Така создале услови што биле што е можно поблиски до реалноста. Главниот заклучок на тимот е дека не е доволно да се потпираме само на внатрешната „совест“ на невронската мрежа. За да се спречат катастрофални сценариjа, безбедноста мора да биде вградена во самата архитектура на дигиталната средина, преку таканаречен „невроформален пристап“, каде што математички строги правила на средината ги блокираат опасните деjства уште пред да бидат извршени.