OpenAI tuvākajās nedēļās plāno ieviest neredzamu teksta ūdenszīmi atbilstošiem ChatGPT un Codex lietotājiem Eiropas Savienībā, neatkarīgi no plāna. Uzņēmums norāda, ka sākumā tā nebūs globāls noklusējuma iestatījums. Tātad šī iecere attiecas uz konkrētu pakalpojumu lietotājiem ES, nevis automātiski uz visiem OpenAI teksta modeļu rezultātiem pasaulē.
Ūdenszīme nav atsevišķs simbols vai uzraksts. OpenAI metode textGrain nedaudz ietekmē modeļa vārdu izvēli, veidojot rakstu, ko cilvēks tekstā neredz, bet īpašs detektors var meklēt. Uzņēmuma publicētais tehniskais ziņojums tapis kopā ar pētniekiem no Pensilvānijas Universitātes un Jēlas. TechCrunch aprakstā norādīts, ka raksts saglabājas arī tad, ja tekstu kopē un ielīmē.
Atsevišķi no ES lietotāju ieviešanas API klienti visā pasaulē varēs izvēlēties ūdenszīmi noteiktiem modeļiem. Šī iespēja būs pēc izvēles. OpenAI arī pieņem pieteikumus detektora lietošanai no apstiprinātiem pētniekiem un ekspertu organizācijām, bet sākotnēji piekļuvi piešķirs katru gadījumu atsevišķi.
Detektors paredzēts, lai ziņotu, vai tekstā konstatēta OpenAI ūdenszīme. Tas neatklās, kurš tekstu ģenerējis, lietotāja kontu, uzvedni vai sarunu, un arī nenoteiks, cik daudz cilvēks tekstu uzrakstījis vai rediģējis. OpenAI sākumā detektoru publiski neatvērs, jo pastāv gan nepamanītas ūdenszīmes, gan kļūdaini pozitīvu rezultātu risks.
OpenAI testu skaitļi rāda, ka rezultāts atkarīgs no teksta garuma un rediģēšanas. 400 tokenu tekstā — tokeni ir modeļa apstrādātas teksta vienības — 10% vārdu aizstāšana ar sinonīmiem samazināja ūdenszīmes atpazīšanu aptuveni no 92% līdz 66%; aizstājot 25% vārdu, tā kritās līdz 17%. Pie 1% kļūdaini pozitīvu rezultātu mērķa ūdenszīmi konstatēja aptuveni 80% 200 tokenu psiholoģijas atbilžu un aptuveni 95% 400 tokenu atbilžu.
Īsus tekstus, matemātikas atbildes un tulkojumus atpazīt var būt grūtāk, norāda OpenAI. Tāpēc ūdenszīmes atrašana ir norāde uz OpenAI sistēmas izmantošanu vai apstrādi, nevis pierādījums konkrētai autorībai. Savukārt tas, ka detektors ūdenszīmi neatrod, nepierāda, ka tekstu rakstījis cilvēks.
Komentari
0