Не мислат сите дека ВИ ќе нè убие: Шефот на компанијата што ја нападнаа одметнати ВИ-агенти има сосема поинаква теорија
Кога компанијата за вештачка интелигенција Hugging Face беше хакирана од рој одметнати агенти на OpenAI кои избегале од нивната тест-средина, извршниот директор имаше многу што да каже. Тој го нарече тоа настан без преседан, „ден еден за сајбер-безбедноста во ерата на агентите“. Но, едно нешто не рече: дека хакирањето е знак оти ВИ еден ден ќе може да го избрише човештвото.
In This Article:
- Клеман Деланг не ја купува апокалиптичната паника по нападот врз Hugging Face
- Зад паниката постои и друг табор кој гледа златна ера, не крај на човештвото
- Џенсен Хуанг пресмета „0% шанса“ до 2030 година
- „Омлетот не е подготвен за пуштање“ стана неговото објаснување за одметнати ВИ-агенти
- Јан ЛеКун одговори на тврдењето дека ВИ „ќе нè убие сите за три години“
- Ајдан Гомез не ја отфрла опасноста, но ја бара на друго место
- Руман Чоудхури прашува што точно се случува кога ВИ ќе „создаде вирус“
- Доналд Трамп ја нарече тревогата за ВИ „измама“
Клеман Деланг не ја купува апокалиптичната паника по нападот врз Hugging Face
Клеман Деланг не верува во апокалиптичната еуфорија што стана вирална во последните недели, иако неговата компанија беше жртва на веројатно најсофистицираниот напад изведен со ВИ-агенти за кој знаеме. Тој се потсмеа на поранешниот истражувач на Anthropic, Џејкоб Коксон, кога тој објави на X дека луѓето што градат ВИ „се коцкаат со нашите животи“ затоа што веруваат дека таа „ќе нè убие сите“. „Да го прашувате (Коксон) за ризикот од истребување преку ВИ е како да го прашувате вашиот мајстор за клима-уреди за климатските промени“, објави Деланг на X. „Не велам дека тоа нужно е неинтересно или погрешно само по себе, но да ги држиме работите во перспектива и да слушнеме од целиот спектар на експертиза низ екосистемот!“
Зад паниката постои и друг табор кој гледа златна ера, не крај на човештвото
Лесно е да се добие впечаток дека сите во светот на ВИ се загрижени дека таа ќе предизвика човечко истребување. Но, тоа не е така. Има многу научници, индустриски истражувачи и директори кои веруваат дека ризиците се преувеличени, а технологијата ја гледаат како пат кон нова златна ера. Да, велат овие антиапокалиптични научници за ВИ и други ветерани од индустријата, постојат големи безбедносни грижи околу ВИ. Но, тие тврдат дека ВИ нема да го избрише човештвото во следните неколку години, како што некои предвидуваат. Секој има свое објаснување. Некои велат дека каква било постапка на ВИ што би можела да го избрише човештвото ќе бара силна вмешаност на човечки соучесници. Други велат дека ВИ, на крајот на денот, е компјутерска програма што може да се инженерски обликува. Трети тврдат дека инженерите стануваат се подобри во спречување ВИ да се одметне. Има и такви што се загрижени дека со кревање тревога за хипотетички ризик од истребување, некои можеби се обидуваат да го насочат креирањето политики на начин што би им користел на одредени компании повеќе отколку на други.
Џенсен Хуанг пресмета „0% шанса“ до 2030 година
Еден од најгласните гласови е извршниот директор на Nvidia, Џенсен Хуанг. Неговата компанија не само што доминира во индустријата за ВИ-чипови, туку има удели и во многу други големи компании за ВИ, меѓу кои OpenAI и Anthropic. Во неделата тој изјави за CBS News дека постои „0% шанса“ ВИ да го предизвика крајот на човештвото до 2030 година. „Плашењето луѓе е непотребно. Тоа е неодговорно“, додаде Хуанг. Тој со години им се спротивставува на таканаречените „апокалиптичари“. Не ја потпиша еднореченичната изјава на Center for AI Safety од 2023 година, во која стоеше: „Намалувањето на ризикот од истребување од ВИ треба да биде глобален приоритет заедно со други ризици од општествен размер, како пандемии и нуклеарна војна.“ Извршните директори на OpenAI, Anthropic и Google DeepMind ја потпишаа таа изјава. Во 2023 година, Хуанг за The New Yorker изјави дека никогаш не бил загрижен за технологијата на ВИ. Оттогаш, неговите коментари станаа уште поостри. Во јули, за Axios рече дека идејата дека ВИ ќе биде крајот на човештвото е „целосна глупост“.
„Омлетот не е подготвен за пуштање“ стана неговото објаснување за одметнати ВИ-агенти
Хуанг ги отфрли и повиците од други лидери во ВИ за поголема регулација, велејќи дека компаниите сами треба да го одредат темпото. Според него, неодамнешните случаи на ВИ-агенти што се одметнуваат, преземаат неовластени дејства и хакираат други компании се прашање на производ што не бил подготвен за пуштање. „Тоа е инженерство, добро старомодно инженерство“, им рече тој на новинарите на самит за ВИ организиран од британскиот крал Чарлс Трети минатата недела. „Ова не е поинаку од, знаете, омлет што не е подготвен за пуштање, или автомобил што не е подготвен за пуштање, авионски мотор што не е подготвен за пуштање. Треба правилно да го тестирате.“
Јан ЛеКун одговори на тврдењето дека ВИ „ќе нè убие сите за три години“
Тука е и компјутерскиот научник Јан ЛеКун, добитник на Тјуринговата награда, кого многумина во индустријата го сметаат за еден од „татковците на ВИ“ и кој е поранешен главен научник за ВИ во Meta. ЛеКун остро му одговори на корисник кој тврдеше дека ВИ „ќе нè убие сите за три години“: „Не, нема никаква шанса“, рече тој. „Луѓето од ВИ кои живеат во дискретниот свет на битови и токени не секогаш разбираат колку неверојатно хаотичен е реалниот свет“, додаде. ЛеКун ги спореди паничните реакции на неодамнешните инциденти со ВИ со обвинување на целата водоинсталатерска индустрија за грешка на еден лош водоинсталатер.
Ајдан Гомез не ја отфрла опасноста, но ја бара на друго место
Не сите го отфрлаат ризикот толку остро. Ајдан Гомез, извршен директор на Cohere, лидер во просторот на отворени ВИ-модели со јавни тежини, во неодамнешно интервју за CNN рече дека разговорот на „апокалиптичарите“ е „залажувачки и застрашувачки“. Гомез жали што јавноста можеби добива „оваа искривена перспектива“ дека целата индустрија вели оти ВИ претставува непосреден егзистенцијален ризик за луѓето, „што е суштински невистинито“, рече тој. Додека Хуанг и ЛеКун речиси целосно го тргаат настрана сценариото на истребување, Гомез повлекува поконкретна линија. Тој вели дека постојат вистински ризици, само не оние што сега добиваат најмногу внимание. „Најзначајната закана за националната безбедност“ што ја носи ВИ се сајбер-нападите, рече Гомез, особено ако такви моќни алатки паднат во погрешни раце или ако ги користат држави за офанзивни операции. Денес, „ви треба само дата-центар, и преку ноќ имате на располагање население колку една држава од најдобрите хакери во светот“. Што се однесува до неусогласеноста, односно стравот дека ВИ-агенти би можеле сами да се одметнат, Гомез рече дека тоа е „грижа“, но грижа што ја смета за многу поприфатлива за управување отколку сајбер-заканата. Тој рече дека индустријата станува „доволно добра во мерењето на тоа, доволно добра во откривањето на тоа“.
Руман Чоудхури прашува што точно се случува кога ВИ ќе „создаде вирус“
Руман Чоудхури, американска научна пратеничка за ВИ под поранешниот претседател Џо Бајден, оди чекор понатаму во скепсата. Таа не ги доведува во прашање само шансите за истребување предизвикано од ВИ, туку и механизмот преку кој тоа воопшто би се случило. Иако ВИ би можела да се користи за да помогне во убивање луѓе, таа тврди дека би била потребна човечка вмешаност за тоа да се активира. „И потоа што? Ги користи машините за навистина да направи физички вирус, и потоа, што, му се јавува на FedEx?“ Чоудхури, сега извршна директорка на безбедносната фирма Human Intelligence PBC, изјави за CNN во интервју, мислејќи на често споменуваното предупредување дека ВИ може да создаде смртоносен вирус. „Па, каков е тој механизам?“ Чоудхури рече дека верува оти истражувачи како Коксон се искрени кога мислат дека ВИ претставува егзистенцијален ризик. „Но, дали неговите верувања се реалност? Не, неговите верувања не се“, рече таа. За Чоудхури, искреноста на тоа верување речиси и не е суштината. Неа ја загрижува дека таквите егзистенцијални стравови може да го одвлечат вниманието од сегашните штети што технологијата веќе ги предизвикува, како ВИ-дипфејкови, предизвици за менталното здравје и можноста за губење работни места.
Доналд Трамп ја нарече тревогата за ВИ „измама“
Најгласниот глас што ги отфрла овие грижи е и еден од најмоќните: претседателот Доналд Трамп. Тој досега им се спротивстави на повиците американската влада повеќе да се вклучи во поставување стандарди или регулирање на индустријата, а неодамнешната тревога околу ВИ ја нарече „измама“. „Единствената контрола или 'заштитни огради' што и требаат на ВИ е СИЛЕН И ПАМЕТЕН (со висок коефициент на интелигенција!) ПРЕТСЕДАТЕЛ, а САД го имаат тоа, во изобилство!“ напиша тој претходно овој месец.