Vodeni žig će otkrivati da li je sadržaj kreiran vještačkom inteligencijom
Kompanija "OpenAI" razmišlja o uvođenju alata čiji je zadatak da otkrije eseje koje je napisao "ChatGPT" i to s velikim procentom preciznosti.
Riječ je o vodenom žigu, koji bi označavao sadržaj kreiran vještačkom inteligencijom.
Ovakvog alata i metoda još nema, jer se navodno vode debate o tome da li on treba da “ugleda svjetlo dana” iako je već spreman.
– Naši timovi su razvili metod označavanja teksta vodenim žigom, a mi nastavljamo da razmatramo ovu mogućnost dok istražujemo alternative – saopšteno je iz kompanije OpenAI.
Međutim, vodeni žig je samo jedno od nekoliko mogućih rješenja, među kojima su klasifikatori i metapodaci koji su razmatrani u sklopu opsežnog istraživanja o porijeklu teksta.
Ovaj metod je veoma precizan u određenim situacijama, no nije baš efikasan u slučaju određenih oblika neovlašćenih manipulacija poput korišćenja sistema prevođenja, preformulacija s drugim generativnim modelom ili traženja od modela da ubaci poseban znak između svake riječi i potom brisanje tog znaka.
Takođe, označavanje teksta vodenim žigom bi moglo “neproporcionalno uticati na neke grupe”.
To bi moglo da stigmatizuje korišćenje AI tehnologije kao korisnog alata za pisanje za one kojima engleski jezik nije maternji”, navode iz kompanije. Stoga “OpenAI” procjenjuje ove rizike.
Kompanija daje prioritet alatu za autentifikaciju audiovizuelnih sadržaja. Poseban naglasak je na porijeklu teksta zbog “složenosti i njegovog vjerovatnog uticaja na širi ekosistem izvan kompanije OpenAI”.
Pratite nas na našoj Facebook i Instagram stranici i Twitter nalogu.
