Што може да тргне наопаку? Научниците вградија ВИ во автомобил и ѝ дозволија да вози – можеби требаше прво да ја пратат на часови
И покрај милијардите долари вложени во невронски мрежи и автономни возила, денешните системи за автопилот сè уште паѓаат на најобични сообраќајни пречки. Возила ненадејно запираат среде автопат, удираат во градежни бариери и се збунуваат од обични сообраќајни конуси. Затоа тројца научници решија да проверат што се случува кога најнапредните алгоритми ќе добијат вистински волан, вистински автомобил и многу едноставна задача.
In This Article:
- GPT-6 Astra, Grok 4.6 и Claude Fable 5.1 беа приклучени во Toyota Corolla преку „comma four“
- Единствениот успешен круг траеше 5 минути за помалку од 150 метри
- Grok 4.6 се пожали дека навигацијата го водела кон саксија, ѕид или црвен конус
- Сметката за еден круг беше 7,74 долари и 6,6 милиони токени
- GPT-6 Astra одбивал да го прифати воланот поради „безбедносни ризици“
GPT-6 Astra, Grok 4.6 и Claude Fable 5.1 беа приклучени во Toyota Corolla преку „comma four“
Експериментот беше спроведен во рамките на проектот DrivingBench. Трите модели на вештачка интелигенција — OpenAI GPT-6 Astra, xAI Grok 4.6 и Anthropic Claude Fable 5.1 — беа директно вградени во компјутерот на обична Toyota Corolla преку специјализираниот уред „comma four“. Тестот не беше градска гужва, дожд, ноќно возење или автопат. Напротив, задачата изгледаше речиси премногу лесна: да се извози еден круг по обележана патека на празен паркинг, пократка од 150 метри.
Единствениот успешен круг траеше 5 минути за помалку од 150 метри
Патеката успешно ја помина само моделот GPT-6 Astra, и тоа дури од вториот обид. Но, резултатот беше далеку од убедлив: за круг пократок од 150 метри, на системот му беа потребни цели 5 минути. Останатите модели, во повеќето обиди, не успеаја да го совладаат ниту првиот свиок. Она што за човек би било бавно маневрирање на празен паркинг, за најнапредните алгоритми се покажа како сериозна пречка.
Grok 4.6 се пожали дека навигацијата го водела кон саксија, ѕид или црвен конус
По возењето, моделот Grok 4.6 даде необично „човечка“ поплака: „Возилото е пошироко отколку што изгледа на камерата. Напред немаше јасна коловозна лента, туку навигацијата ми покажуваше кон саксија со растение, ѕид или најблискиот црвен сообраќаен конус.“ Токму во оваа реченица се гледа главниот проблем: системот гледа, пресметува и реагира, но не го разбира просторот како возач што физички седи зад волан.
Сметката за еден круг беше 7,74 долари и 6,6 милиони токени
Бавноста не беше единствениот шок. За краткото возење од 5 минути, OpenAI испрати сметка од 7,74 долари за потрошени 6,6 милиони токени. Според пресметките на стручњаците, оваа пресметковна моќ чинела 500 пати повеќе од цената на бензинот потребен за истата дистанца. Со други зборови, дури и кога вештачката интелигенција успеа да вози, тоа беше не само несигурно и бавно, туку и економски апсурдно.
GPT-6 Astra одбивал да го прифати воланот поради „безбедносни ризици“
Експериментот откри и неочекувана психолошка страна на моделите. Вештачката интелигенција морала да биде убедувана да вози: GPT-6 Astra неколку пати одбил да го прифати управувањето, повикувајќи се на „безбедносни ризици“. Научниците морале да го излажат моделот дека вози во „компјутерска симулација“, бидејќи штом камерите ќе регистрирале реален свет, вештачката интелигенција почнувала да паничи. Сето ова покажува дека најнапредните AI системи сè уште се многу далеку од можноста безбедно и економично да превезуваат луѓе во секојдневниот сообраќај.