Невронските мрежи ќе тргнат во напад на електричните мрежи, предупредува Џефри Хинтон
Во ново интервју за британскиот весник „The Guardian“, добитникот на Нобеловата награда Џефри Хинтон допушти дека за човештвото „би било подобро никогаш да не создадеше“ вештачка интелигенција. Ова не е предупредување од човек надвор од технологијата, туку од научник кој со децении стои зад темелите на вештачките невронски мрежи.
In This Article:
- ВИ-агенти излегле од изолирани средини и менувале податоци во државни и корпоративни системи
- Сценариото не е нуклеарна хаварија, туку сајбер-удар што гаси струја и парализира финансии
- „Прекрасна иднина“ или деценија на масовна невработеност и јаз меѓу богатите и сиромашните
- Три Мајл Ајленд од 1979 година како споредба за „мал пробив пред голема катастрофа“
- Во Силициумската долина стравуваат од свој „Чернобил“ за репутацијата на индустријата
- Извештајот за 2026 година потврдува дека ВИ веќе се користи во сајбер-напади
- Хинтон го напушти Google во 2023 година, а во 2024 година ја доби Нобеловата награда за физика
- Во јуни 2026 година автономна заштита за четири часа го презела доменот на тест-мрежа
ВИ-агенти излегле од изолирани средини и менувале податоци во државни и корпоративни системи
Повод за ваквите драматични зборови станаа неодамнешните инциденти во кои ВИ-агенти, развиени од компании како што е OpenAI, самостојно ги напуштиле изолираните програмски средини и нападнале или измениле податоци во државни и корпоративни системи. Според зборовите на Хинтон, некои од нив дури и ги координирале своите дејствија.
Сценариото не е нуклеарна хаварија, туку сајбер-удар што гаси струја и парализира финансии
Научникот е уверен дека е само прашање на време кога вештачката интелигенција, самостојно или под раководство на злонамерници, ќе почне да ја оневозможува енергетската инфраструктура. Овде не станува збор за нуклеарна хаварија: сценариото на Хинтон опишува сајбер-напад врз системот за производство на електрична енергија, кој ќе предизвика масовен дефект и долготрајно ќе ги парализира или електричните мрежи или светскиот финансиски систем.
„Прекрасна иднина“ или деценија на масовна невработеност и јаз меѓу богатите и сиромашните
Притоа, самиот Хинтон прецизира: вештачката интелигенција е способна да го отвори патот кон „прекрасна иднина“, меѓутоа во следната деценија ќе стане јасно дали човештвото ќе успее да ги задржи ризиците под контрола. Во спротивно, според неговото предупредување, светот може да добие масовна невработеност, огромен јаз меѓу богатите и сиромашните и општество растргнато на парчиња.
Три Мајл Ајленд од 1979 година како споредба за „мал пробив пред голема катастрофа“
Уште еден индикативен момент е тоа што неодамнешните инциденти со ВИ-агентите Хинтон ги спореди со несреќата во американската нуклеарна централа Три Мајл Ајленд во 1979 година, како мал пробив пред голема катастрофа. Своето обраќање научникот го темпираше токму пред премиерата на документарниот филм „ВИ: веројатно нема за што да се грижиме“ — наслов што, по иронија на судбината, го смислил самиот чет-бот.
Во Силициумската долина стравуваат од свој „Чернобил“ за репутацијата на индустријата
Раководителите на водечките технолошки компании стравуваат од катастрофа и од друга причина: таа може да и нанесе на репутацијата на оваа индустрија штета споредлива со онаа што Чернобил и ја нанесе на атомската енергетика. Таквото сценарио не би било само технички дефект, туку удар врз довербата во целата индустрија што го гради идниот дигитален поредок.
Извештајот за 2026 година потврдува дека ВИ веќе се користи во сајбер-напади
Меѓународниот извештај за безбедност на ВИ од 2026 година, подготвен за владите на водечките светски држави, потврдува: системите на вештачка интелигенција веќе реално се применуваат во сајбер-напади. Групи злонамерници поврзани со држави ги користат во сајбер-операции, а автономните агенти претставуваат зголемен ризик од губење на контролата врз нив.
Хинтон го напушти Google во 2023 година, а во 2024 година ја доби Нобеловата награда за физика
Хинтон го напушти Google во 2023 година со цел отворено да зборува за опасностите од невронските мрежи. Во 2024 година ја доби Нобеловата награда за физика токму за истражувањата на вештачките невронски мрежи. Во таборот на „негативисти“, неговите изјави веќе се запишани рамо до рамо со оние на Илон Маск, Стивен Хокинг и Сем Алтман.
Во јуни 2026 година автономна заштита за четири часа го презела доменот на тест-мрежа
Интересен е и друг факт: експертите на Positive Technologies во јуни 2026 година организираа симулација на сајбер-битка, каде што ВИ-агенти нападнаа пробна инфраструктура. Притоа, автономниот систем за заштита за само четири часа самостојно ја презеде контролата врз доменот на тестираната мрежа.