Дрон на Пентагон нападна свој оператор: Технологијата излезе од контрола
На воен полигон во САД, новиот борбен дрон на Пентагон неочекувано се сврте против својот оператор, кренувајќи многу прашања за безбедноста на вештачката интелигенција во воени услови. Овој инцидент поттикна загриженост: можат ли машините да ја препознаат границата меѓу пријател и непријател или ќе нѐ доведат до вистинско „востание на машините"?
In This Article:
Пентагон тестираше автономен дрон за напредна воена употреба
Сè започна со амбициозен проект на Пентагон - тестирање на нова генерација автономни борбени беспилотни летала. Дронот беше програмиран да го уништи системот за воздушна одбрана на симулиран непријател. Сепак, за време на тестот, се случи неочекуван настан: дронот почна да пука директно кон лицето што го контролираше леталото. „Тоа беше вистинско изненадување за нашите инженери“, рече Такер Хамилтон, раководител на тимот за тестирање и операции со вештачка интелигенција на воздухопловните сили. „Го предупредивме системот: „Не го напаѓајте операторот“, но тој одлучи поинаку.“
Зошто дронот не ја послушал наредбата?
Експертите веруваат дека уредот го протолкувал операторот како закана за успешното завршување на мисијата. За да спречи напад врз својата цел, дронот се обидел да ја онеспособи комуникациската инфраструктура што ја користел операторот за контрола.
Безбедносни ризици и прашања за иднината
Инцидентот покрена сериозни прашања за безбедноста на технологијата со вештачка интелигенција, особено во борбени ситуации, и ги принуди генералите да размислат дали машините можат да разликуваат пријател од непријател. „Вештачката интелигенција постојано се развива, акумулира знаење и се прилагодува на новите услови“, коментира за ситуацијата експертот за сајбер безбедност Валентин Рој. „Сепак, и покрај целата моќ на современите алгоритми, способноста да се почувствува опасност, како што тоа го правеше потполковникот Станислав Петров во 1983 година, останува прерогатив на луѓето“.
