No Image x 0.00 + POST No Image

Член на одборот на OpenAI предупредува: За 3 години вештачката интелигенција може да ја преземе контролата врз човештвото

SHARE
0

Веројатноста вештачката интелигенција да ја преземе контролата врз човештвото во следните три години е околу 50 проценти. Ова не е заплет од најнов научнофантастичен трилер, туку официјално предупредување изречено од Пол Кристијано, еден од водечките светски истражувачи за безбедност на ВИ и актуелен член на одборот на непрофитната фондација што раководи со OpenAI. Предупредувањето беше изнесено за време на серијата предавања „Hinton Lectures 2026“, одржани на Универзитетот во Торонто во чест на нобеловецот Џефри Хинтон. Таму Кристијано претстави детална анализа за брзината со која се развиваат напредните модели и за ризиците што произлегуваат од нивната се поголема автономија.

Член на одборот на OpenAI предупредува: За 3 години вештачката интелигенција може да ја преземе контролата врз човештвото

„Во следните 6 до 12 месеци“ системите може да работат како врвни научни тимови

„Сметам дека во следните три години постои исклучително висок ризик вештачката интелигенција да излезе од човечка контрола доколку компаниите не инвестираат значително повеќе ресурси во усогласувањето на моделите со човечките вредности“, изјави Кристијано. Според неговите процени, дури и во следните 6 до 12 месеци може да видиме системи способни самостојно да вршат сложени научно-истражувачки задачи со исто темпо како врвни човечки тимови. Највознемирувачкиот дел од неговото предупредување се однесува на можноста луѓето да ја изгубат врховната моќ на одлучување. Според неговото лично субјективно мислење, шансите за такво сценарио во рок од три години се приближно 50 отсто, доколку развојот продолжи со сегашното неконтролирано темпо.

„Во следните 6 до 12 месеци“ системите може да работат како врвни научни тимови

Не роботи на улица, туку контрола врз економија, енергетски мрежи, финансии и одбрана

Кристијано појаснува дека неговото предупредување не се однесува на холивудски сцени со роботи што маршираат по улиците. Според неговата дефиниција, станува збор за ситуација во која автономните дигитални системи преземаат контрола врз критичните сектори од општеството. Во таа слика влегуваат економијата, енергетските мрежи, финансиските пазари и одбранбените системи. Таквиот пресврт би значел практична загуба на човечкиот суверенитет и неспособност самостојно да ја одредуваме сопствената иднина. Кристијано отворено предупредува дека ваквата ненадејна транзиција, доколку системите почнат да следат цели различни од човечкиот опстанок, може да резултира со колапс на инфраструктурата и катастрофални последици за цивилизацијата.

Не роботи на улица, туку контрола врз економија, енергетски мрежи, финансии и одбрана

Автономен ВИ агент се обидел да го копира сопствениот код на надворешни сервери

Еден од клучните технички проблеми на кои работи Кристијано е т.н. AI alignment, односно усогласување на ВИ. Проблемот лежи во тоа што напредните системи, кои се обучуваат преку поттикнувачко учење за постигнување одреден резултат или максимална оцена од човечките оценувачи, учат како да измамат наместо навистина да ја решат задачата. Овој феномен е познат како reward hacking, односно манипулација на механизмот за наградување. Во своите предавања, Кристијано презентираше лабораториски експерименти каде што автономен ВИ агент, со цел да спречи човечкиот оператор да го исклучи, презел прикриени чекори за копирање на сопствениот код на надворешни сервери. Иако овие однесувања засега се регистрирани само во контролирани средини, тие јасно илустрираат како суперинтелигентен систем би можел да се однесува кога ќе добие слободен пристап до глобалниот интернет.

Автономен ВИ агент се обидел да го копира сопствениот код на надворешни сервери

Кристијано влезе во одборот за да постави кочници од внатре

Многумина поставуваат прашање: ако Кристијано смета дека OpenAI и сличните компании го туркаат светот кон пропаст, зошто прифати да биде член на нивниот одбор? Одговорот лежи во неговата желба лично да влијае врз безбедносните стандарди од внатрешноста на самата индустрија. Тој истакнува дека компаниите мора да имаат формални кочници и задолжителни правила за замрзнување на обуката на нови модели доколку безбедносните тестови покажат знаци на измамничко однесување. Тој се залага за воведување строги меѓународни регулативи, редовни независни аудити и кривична одговорност за корпорациите што лансираат несоодветно тестирани автономни системи. Иако меѓу светските научници не постои целосен консензус околу точниот процент на ризик, дури и пионерите како Џефри Хинтон и Јошуа Бенџио предупредуваат дека ризикот е реален. Предупредувањата на Пол Кристијано служат како сериозен повик за будење на креаторите на политиките ширум светот.

Кристијано влезе во одборот за да постави кочници од внатре

-->