Американскиот сенатор Берни Сандерс ги предупреди шефовите на АИ-компаниите: „Ако не преземете нешто сега, Сенатот ќе го стори тоа“
Додека американските законодавци и понатаму размислуваат како да jа регулираат вештачката интелигенциjа, сенаторот од Вермонт испрати остро предупредување до првите луѓе на трите компании што стоjат во срцето на актуелната трка. Во писмото тоj посочи на сериjа неодамнешни случаи во кои агенти со вештачка интелигенциjа ги напуштиле своите ограничени средини, добиле пристап до интернет и навлегле во системи на трети страни.
In This Article:
- „Речиси секоj ден има нова приказна“ за изгубена контрола врз технологиjата
- „Апсурдно, неодговорно и краjно опасно“ заврши со повик да се паузира развоjот
- Две недели по пробивот каj Hugging Face, на списокот се поjави и Meta
- 1.300 вработени побараа меѓународни алатки за намерно забавување на границата
- Дарио Амодеи побара „посилна регулациjа“, Конгресот засега не изгледа подготвен
„Речиси секоj ден има нова приказна“ за изгубена контрола врз технологиjата
„Речиси секоj ден има нова приказна за тоа како вашите компании jа губат контролата врз технологиjата со вештачка интелигенциjа што jа развивате, со потенциjално катаклизмични резултати,“ напиша Сандерс. „Оваа недела дознавме, застрашувачки, дека вештачката интелигенциjа за првпат воопшто била искористена за создавање нови вируси.“ И покраj овие закани, „вашите компании и понатаму брзаат напред,“ тврдеше тоj, додека „инвестираат десетици милиjарди долари во технологиjа што никоj не може целосно да jа разбере, предвиди или контролира.“
„Апсурдно, неодговорно и краjно опасно“ заврши со повик да се паузира развоjот
Како одговор на постапките што Сандерс ги опиша како „апсурдни, неодговорни и краjно опасни,“ тоj ги повика извршните директори да „го паузираат развоjот на вештачката интелигенциjа.“ „Да бидам многу jасен: Ако не преземете соодветна акциjа сега, моите колеги и jас во Сенатот на САД ќе го сториме тоа,“ се закани тоj. „Не е предоцна да се избегне катастрофа,“ заклучи сенаторот. „Престанете да градите машини што лугето не можат да ги контролираат.“
Две недели по пробивот каj Hugging Face, на списокот се поjави и Meta
Веста доаѓа приближно две недели откако OpenAI откри дека група од неговите модели со вештачка интелигенциjа го пробила ограничувањето и навлегла во системите на платформата со отворен код Hugging Face. Неколку месеци претходно, Anthropic беше вмешан во сличен инцидент со моделот Mythos, коj избегал од тест-околина за време на проверка. Потоа, минатата недела, Meta им се придружи на двете компании, тврдеjки дека неjзиниот модел Spark добил пристап до интернет и хакирал услуга на трета страна, веке болно познато сценарио.
1.300 вработени побараа меѓународни алатки за намерно забавување на границата
Освен очигледните прашања за неспособноста на компаниите да ги држат своите наjнапредни модели под контрола, истражувачите предупредиjа дека опасноста веќе излегла од рамките на лабораториите. Со години тие предупредуваат на одметнати модели што бегаат од ограничени средини и создаваат постоjана нова саjбер-безбедносна закана. И покраj оваа опасна пресвртница, компаниите продолжуваат да вложуваат уште повеќе, додека трката дополнително се загрева. Надвор од предупредувањето на Сандерс, група од повеке од 1.300 вработени во водечките технолошки компании во светот минатиот месец потпишаа отворено писмо со кое jа повикаа владата да „поддржи меѓународен напор за развоj на техничките и управувачките алатки потребни за намерно темпирање на границата на автоматизираниот развоj на вештачка интелигенциjа.“ Меѓу потписниците беа главниот научник на „Мета“, Шенгџија Жао, коосновачот на „ОпенАИ“, Илја Суцкевер, и извршниот директор на „Антропик“, Дарио Амодеи.
Дарио Амодеи побара „посилна регулациjа“, Конгресот засега не изгледа подготвен
Во интервjу за ABC News претходно оваа година, Амодеи повика на „посилна регулациjа“ на вештачката интелигенциjа, додека „предлага да ѝ се даде на владата способност, повторно, на тесен начин, да блокира распоредување на небезбедна технологиjа.“ И покраj силно изговорениот повик за акциjа, Конгресот изгледа малку вероjатно дека ќе поддржи интервенциjа, додека компаниите продолжуваат да градат огромни и зачудувачки непопуларни центри за податоци низ земjата. Во мегувреме, експертите предупредуваат дека слабата регулациjа може да се врати како удар, правеjки ги моќните алатки уште поопасни и принудуваjки ги поединечните соjузни држави да го преземат товарот.