Кина тргнува во војна против злоупотребите на вештачката интелигенција: Почнува лов на дигиталните демони
Централната администрација за сајберпростор на Кина започна тримесечна национална кампања наречена „Чист интернет: Исправка на злоупотребата на вештачката интелигенција", со цел да ги регулира AI услугите и апликациите, да го поттикне здравиот и уреден развој на индустријата и да ги заштити легитимните права и интереси на граѓаните. Како што истакнува еден официјален претставник, планот ќе биде реализиран во две фази и треба системски да ги исчисти сите штетни AI практики што го загрозуваат кинеското општество.
In This Article:
Прва фаза: Уништување на незаконските AI апликации и слабости во контролата
Во првата фаза се зафаќаат шест клучни проблеми: Прво, незаконски AI производи – тоа вклучува јавно нудење на генеративни AI услуги без комплетирана регистрација, функции како „едно-кликнување соблекување“ што ги прекршуваат законите и етиката, како и клонирање или уредување на глас и лице без дозвола. Второ, ширење и продажба на илегални туторијали и алатки за AI – учење фалсификување видеа или аудио, продажба на незаконски „говорни синтетизатори“ и „face-swapping“ алатки. Трето, лабава контрола врз податоци за тренирање – користење информации што ги повредуваат правата на интелектуална сопственост и приватност, копирање податоци од непроверени и нелегални извори. Четврто, слаби безбедносни мерки – немање механизми за ревизија на содржина и препознавање намери, нерегуларни безбедносни самопроценки, а платформите не следат автоматизирани AI одговори преку API. Петто, не се исполнуваат барањата за етикетирање – не се додаваат експлицитни или имплицитни ознаки на длабоко синтетизирана содржина, што носи до заблуди. Шесто, безбедносни ризици во чувствителни области – не се прават индустриски специфични ревизии за здравство, финансии и малолетници, со што се појавуваат феномени како „AI дијагностицирање“, „финансиски мамки“ и мешање во образовниот и здравствениот систем.
Втора фаза: Напад врз лажните вести, порнографијата и злонамерното користење на вештачка интелигенција
Втората фаза се фокусира на седум проблеми. Прв е создавањето и ширење гласини преку AI – фабрикување вести за општествени или политички настани, лажни итни ситуации, имитирање службени соопштенија. Второ, ширење лажна информација – комбинирање нерелевантни слики, текстови и видео за производство измислени факти, манипулација со временски или лични податоци, како и ширење на псевдонаучни или суеверни содржини. Трето, производство на порнографија и вулгарна содржина преку AI – генерирање експлицитни слики, видеа или приказни со сексуална конотација или деградирачка природа. Четврто, имитирање на личности и измами преку „deepfake“ – злоупотреба на ликовите на јавни личности, измама на корисници преку лажни роднини. Петто, користење AI за интернет тролање – автоматско создавање и управување со профили, масовно ширење нискоквалитетна содржина, манипулација на трендови преку лажни лајкови и коментари. Шесто, незаконски AI апликации и сервиси – синтетизирање лажни вебсајтови, апликации што нудат нелегални услуги или содржини. Седмо, загрозување на правата на малолетници – AI апликации што предизвикуваат зависност или им штетат психофизички.
Властите ќе газат цврсто: Институциите убедени во нужноста од радикална акција за здрава иднина
„Локалните управи за сајберпростор мора целосно да ја препознаат важноста на оваа специјална кампања за спречување на ризиците од злоупотреба на AI технологијата и заштита на легитимните права на интернет корисниците. Тие треба да ги исполнат своите обврски во локалното управување, да следат дали платформите ги спроведуваат барањата од оваа акција, да ги подобрат механизмите за проверка на содржините генерирани со AI и да ги зајакнат техничките можности за откривање. Потребно е и поголемо ширење на информации и популаризација на AI политиките и дигиталната писменост, со цел сите фактори да ја сфатат и користат AI технологијата правилно, а консензусот за управување да се засилува непрекинато", истакна претставник од кинеската администрација за сајберпростор.
