Вештачката интелигенција е на прагот на еволуција – дали човештвото ќе стане жртва на сопственото создавање?
Вештачката интелигенција во последните години направи вистински технолошки скок. Денес многумина се прашуваат кој би можел да биде следниот чекор во развојот на оваа технологија. Се почесто меѓу футуролозите и стручњаците за ВИ се поставува прашањето околу можноста за појава на системи способни за самостојна еволуција – нешто што досега беше можност само за биолошките организми.
In This Article:
- Истражувачите предупредуваат: Еволуирачкиот ВИ може да развие сопствени интереси на штета на човештвото
- Експертите сметаат дека опасноста од самостојно еволуирачки ВИ е поголема и поблиску отколку појавата на општа ВИ со човечка интелигенција
- Еволуција во природата и технологијата: Прирачник за потенцијалот и ризиците на самостојни системи на ВИ
Истражувачите предупредуваат: Еволуирачкиот ВИ може да развие сопствени интереси на штета на човештвото
Во неодамна објавената аналитичка статија, група истражувачи детално разгледуваат како би можела да започне еволуцијата на вештачката интелигенција, во какви форми тоа би се појавило и до какви последици може да доведе. Авторите истакнуваат дека еволуцијата по правило создава „егоистични“ ентитети кои се стремат кон сопствен опстанок и развој. Во случајот на ВИ тоа значи дека системот може да почне да дејствува во сопствена корист, а не во интерес на своите креатори. Ваквата интелигенција би можела да бара начини да манипулира со луѓето или да го проширува својот контролен опсег над околината.
Експертите сметаат дека опасноста од самостојно еволуирачки ВИ е поголема и поблиску отколку појавата на општа ВИ со човечка интелигенција
Според експертите, еволуирачкиот ВИ може да стане сериозна закана уште пред да се појави т.н. општ вештачки интелект со способности споредливи со човечкиот мозок. За да се минимизира ризикот, истражувачите предлагаат да се воведат строги мерки на претпазливост. Меѓу нив е и задржување на целосна човечка контрола над процесите на репродукција и развој на ваквите системи. "Самовоспроизводливата и самосовршувачка вештачка интелигенција, според мислењето на авторите, претставува исклучително опасна перспектива."
Еволуција во природата и технологијата: Прирачник за потенцијалот и ризиците на самостојни системи на ВИ
Во природата, еволуцијата е процес на постепено менување на живите организми под влијание на природната селекција. Во светот на технологијата, сличен принцип веќе се применува: на пример, со т.н. генетски алгоритми, каде компјутерските програми „се натпреваруваат“ меѓу себе, а најдобрите решенија „преживуваат” и се усовршуваат. Но засега овие системи остануваат под контрола на човекот и немаат самостојност. Прашањето што беше отворено — што ќе се случи ако вештачката интелигенција добие можност да еволуира без ограничувања — предизвикува жестоки дебати меѓу научниците.
