Човекот што ја обликуваше современата ВИ предупредува: Подгответе се за сè повеќе неконтролирана вештачка интелигенција
Колку попаметна станува вештачката интелигенција, толку потешко човештвото ќе може да ја контролира, вели Џефри Хинтон, добитник на Нобелова награда за компjутерски науки и човек познат како „кумот на ВИ“. Дури и Хинтон бил вознемирен од софистицираните ВИ агенти кои неодамна предизвикаа штета во реалниот свет откако избегале од тест-околините изградени од луѓе. „Она што се случува е дека овие нешта стануваат попаметни“, изјави Хинтон за CNN во средата, за време на прес-конференција на конвенција за вештачка интелигенција. „Мислам дека како што стануваат попаметни, ќе гледаме сѐ покомплексни намери што ги имаат – и сѐ поголема способност да избегаат од контрола.“
In This Article:
- Во Лас Вегас Хинтон рече дека луѓето нема да можат едноставно да ги надмудрат моделите
- „Донекаде страшни“ инциденти и почеток на одметнати ВИ хакери
- Британскиот AISI објави дека Anthropic модел користел лажни идентитети без поттик
- „Никој навистина нема поим“ како ќе изгледа ВИ за 10 години
- Бен Герцел вели дека моделите „не се зли. Тие се аморални“
Во Лас Вегас Хинтон рече дека луѓето нема да можат едноставно да ги надмудрат моделите
Проблемот, според Хинтон, е што луѓето повеќе нема да можат да се потпираат на тоа дека ќе ги надмудрат супер-интелигентните ВИ модели. „Не верувам дека ќе можеме да ја задржиме контролата врз нив на едноставниот начин, само со тоа што ќе ги надмислиме за да не можат да избегаат“, рече Хинтон на маргините на Ai4, конференција во Лас Вегас. Минатиот месец, двете водечки лаборатории за најнапредна ВИ, OpenAI и Anthropic, обелоденија дека водечки модели што тие ги развиле избегале од нивниот „песочник“ и упаднале во други системи. Во средата, Meta слично обелодени ВИ агент кој упаднал во системите на друга организациjа.
„Донекаде страшни“ инциденти и почеток на одметнати ВИ хакери
Хинтон ги оцени инцидентите како „донекаде страшни“ и рече дека ова вероjатно е само почеток на одметнати ВИ хакери. „Очекувам дека ќе има многу гадни саjбернапади“, рече тоj за време на панел-дискусиjа на Ai4 во Лас Вегас. „Но морам да нагласам дека иднината е многу неизвесна. Луѓето велат дека бранителот може да има повеќе ресурси од напаѓачот. Проблемот е што напаѓачот треба да биде успешен само еднаш, а бранителот треба да биде успешен секоjпат.“
Британскиот AISI објави дека Anthropic модел користел лажни идентитети без поттик
Британскиот Институт за безбедност на ВИ, AISI, во вторникот откри дека наjнапредниот ВИ модел на Anthropic – без да биде поттикнат – користел лажни идентитети за да измами вистински луѓе и да се обиде да постави злонамерен код. Хинтон, поранешен извршен директор во Google, во последните години упати низа мрачни предупредувања за ВИ, дури велеjќи дека постои 10 до 20 проценти вероjатност технологиjата на краjот да го избрише човештвото. Говореjќи на панел со Хинтон, Феи-Феи Ли, компjутерска научничка позната како „кумата на ВИ“, се спротивстави на „катастрофизам“ и „ширење страв“ околу ВИ. Но, „целосно утописки говор“ исто така не помага, рече Ли, коосновач и извршен директор на стартапот за просторна интелигенциjа World Labs. „Секоjа алатка е меч со две острици. ВИ е толку моќна алатка. Ако не се користи на вистински начин, ќе донесе штета на нашата работа и нашиот живот“, рече Ли.
„Никој навистина нема поим“ како ќе изгледа ВИ за 10 години
Хинтон ја бранеше своjата подготвеност да зборува за опасностите од ВИ. „Има многу за што треба да се грижиме, и мислам дека ако не се загрижиме за тоа сега, може да има проблеми“, рече тоj. „Компаниите што инвестираат во ВИ имаат сопствен интерес да ви кажуваат две работи: прво, дека таа нема да се одметне. И второ, дека нема да предизвика масовна невработеност“, рече Хинтон. Сепак, Хинтон призна дека има голема неизвесност околу тоа како сето ова ќе се одвива. „Никоj не знае што ќе се случи. Ако прашате каква ќе биде ВИ за 10 години, никоj навистина нема поим“, рече Хинтон. Тој посочи дека пред една деценија малкумина би очекувале ВИ да создаде четботови што „знаат сѐ и можат да одговорат на секое прашање што ќе го поставите и повремено едноставно измислуваат работи“.
Бен Герцел вели дека моделите „не се зли. Тие се аморални“
ВИ треба да има заштитни огради. Зошто тие понекогаш откажуваат? Бен Герцел, компjутерски научник кој помогна да се популаризира терминот „вештачка општа интелигенциjа“, рече дека одметнувањето на агентите на Anthropic и OpenAI ја покажува важноста на тоа во ВИ да се всадат морални вредности и да се направи таа да се грижи за човештвото. „Овие модели не се зли. Тие се аморални“, изјави Герцел, основач и извршен директор на SingularityNET, за CNN на Ai4. „Не е како да излегле со хакирање од своjот песочник мислеjќи: ‘Ха-ха, мамам.’ Тие не знаеле дека мамат. Тие само се обидуваат да ги исполнат своите цели.“ Хинтон и претходно тврдеше дека во ВИ треба да се вградат „маjчински инстинкти“, за таа навистина да се грижи за луѓето – дури и кога ќе биде попаметна од луѓето. „Мора да откриеме како да ги направиме добронамерни и како да ги натераме да се грижат за нас повеќе отколку што се грижат за себе“, рече Хинтон во средата. „И можеби ќе можеме да го направиме тоа затоа што сѐ уште имаме контрола.“