OpenAI невидливо ќе ги означува текстовите генерирани со вештачка интелигенција
Компанијата OpenAI започнува со практична примена на нова технологија за невидливо означување, односно воден жиг, на текстовите што ги создаваат моделите на вештачка интелигенција. Потегот доаѓа во согласност со современите регулаторни барања, во време кога се бара појасна трага за тоа кои содржини се создадени од машине, а кои од човек.
In This Article:
Кај 400 токени точноста достигнува 95 проценти, но математиката го слабее системот
Внатрешните тестирања покажаа дека специјалниот детектор го препознава водениот жиг во приближно 80 проценти од текстовите со должина од 200 токени. Во одредени текстуални области резултатите се уште повисоки, но точноста е значително пониска во математички содржини, каде што изборот на зборови е строго ограничен.
Само 10 проценти заменети зборови ја симнуваат детекцијата од 92 на 66 проценти
Голем предизвик е дополнителното уредување на текстот по неговото генерирање. Замената на зборови со соодветни синоними брзо ја намалува видливоста на водениот жиг за детекторот. Кога се заменува четвртина од зборовите, точноста паѓа на едвај 17 проценти.
Водениот жиг нема да покажува кој корисник го создал текстот
OpenAI нагласува дека водениот жиг нема за цел да го мери човечкиот придонес во текстот, ниту пак утврдува авторски права или сопственост. Технологијата не го поврзува генерираниот текст со конкретен кориснички профил. Компанијата планира да го објави изворниот код за textGrain, за да им овозможи на истражувачите дополнително усовршување на системот.