Тинејџерски ВИ „месен посредник“ остана заглавен на планината „Widowmaker“ откако следел инструкции од ВИ
Иновации што не се пропуштаат од најостриот раб на науката и технологијата. Планинари и натаму остануваат заглавени откако се советуваат со ВИ чет-ботови за совети што можат да бидат животоспасувачки — или животозагрозувачки.
In This Article:
- Google им советувал да понесат „многу помалку храна и вода“ за осумчасовно искачување
- Шеснаесетгодишник се качил со гондола над 1.200 метри, а Claude го одвел надвор од патеката
- Хеликоптерот не можел поблиску до вертикалниот карпест ѕид на „Widowmaker“
- Paul Markey ја повтори пораката до јавноста да не му верува на Claude за вакви насоки
Google им советувал да понесат „многу помалку храна и вода“ за осумчасовно искачување
Само минатиот месец, тројца љубители на природа морале да бидат спасени од ренџери на Шумарската служба во калифорнискиот Каскаден венец. Причината била тоа што ВИ на Google им советувала да „понесат многу помалку храна и вода отколку што и било потребно на групата“, претворајќи го нивното планирано осумчасовно искачување во „повеќедневно искушение“. И покрај тоа што службените лица ја молат јавноста да не ги следи советите на халуцинирачки големи јазични модели, предупредувањата и натаму како да паѓаат на глуви уши.
Шеснаесетгодишник се качил со гондола над 1.200 метри, а Claude го одвел надвор од патеката
Најновиот случај се случил во Британска Колумбија, на Crown Mountain, кај масивна и стрмна карпеста формација со иронично име „Widowmaker“. Како што јавува CTV News, тинејџерот се качил со гондола до врвот на Grouse Mountain, на височина од над 1.200 метри. Но, на враќање надолу, чет-ботот Claude на Anthropic го насочил надвор од патеката. Момчето било во сериозна опасност. За среќа, во текот на својата авантура имало барем една добра идеја: да повика помош откако заглавило.
Хеликоптерот не можел поблиску до вертикалниот карпест ѕид на „Widowmaker“
„Падот ќе резултираше со значителна повреда или потенцијално смрт“, изјави за CTV News Paul Markey, раководител на потрагата во North Shore Rescue. Двајца спасувачи морале да се спуштат со јаже, бидејќи хеликоптерот не можел да се приближи повеќе до стрмниот вертикален ѕид. Во извештајот за задачата на North Shore Rescue стои: „Кога беа на земја, екипата постави сидриште, а еден член беше спуштен со осигурување до лицето. Таму, членот постави дополнителна заштита и успеа да го премести лицето до соодветна точка за извлекување.“
Paul Markey ја повтори пораката до јавноста да не му верува на Claude за вакви насоки
Markey ја искористи можноста уште еднаш да ја замоли јавноста да не им верува на ВИ чет-ботови како Claude кога даваат ваков тип информации. „Claude никогаш не бил во таа конкретна област, никогаш не бил на таа рута и никогаш не бил во природа — направете сопствено истражување и стекнете сопствено знаење за областа, а дополнете го со обука и навигација“, изјави тој за CTV News. Повеќе за ВИ: Планинари спасени откако користеле ВИ на Google за да испланираат катастрофално патување. Додајте го Futurism како претпочитан извор на Google за да гледате повеќе од нивните известувања. „Јас сум постар уредник во Futurism, каде што уредувам и пишувам за NASA и приватниот вселенски сектор, како и за теми што се движат од SETI и вештачка интелигенција до технолошка и медицинска политика.“