Ovaj alat je OpenAI-jev odgovor na sve veću pojavu tekstova, naročito u obrazovnom sistemu, kreiranih u ChatGPT-u. Međutim, to je još uvijek u procesu usavršavanja. OpenAI kaže da njegov detektor AI tekst ispravno identificira 26 posto teksta napisanog umjetnom inteligencijom kao "vjerovatno napisano AI-om".

Iako je očigledno da OpenAI ima mnogo više posla da usavrši svoj alat, postoji ograničenje koliko dobar on može da bude. Malo je vjerovatno da ćemo ikada dobiti alat koji može uočiti tekst generiran umjetnom inteligencijom sa 100 psototnom sigurnošću.

- Zaista je teško otkriti tekst generiran od umjetne inteligencije jer je cijela svrha jezičkih modela AI-a da generiraju tečan tekst koji izgleda kao čovjekov, a model oponaša tekst koji su kreirali ljudi - kaže Muhammad Abdul-Mageed, profesor koji nadgleda istraživanja prirodnih nauka-obrada jezika i mašinsko učenje na Univerzitetu Britanske Kolumbije.

U utrci smo u naoružavanju da izgradimo metode detekcije koje mogu odgovarati najnovijim, najmoćnijim modelima, dodaje Abdul-Mageed. Novi modeli AI jezika su moćniji i bolji u generiranju još tečnijeg jezika, što brzo čini naš postojeći komplet alata za otkrivanje zastarjelim.

OpenAI je izgradio svoj detektor kreiranjem potpuno novog modela AI jezika srodnog ChatGPT-u koji je posebno obučen da detektuje izlaze iz modela poput njega. Iako su detalji oskudni, kompanija je očito obučila model s primjerima teksta generiranog umjetnom inteligencijom i primjerima teksta koji je generirao čovjek, a zatim je zamolila da uoči tekst koji je generirala umjetna inteligencija.

Još jedna metoda za otkrivanje teksta generiranog AI je vodenim žigovima. Istraživači sa Univerziteta Maryland razvili su uredan način primjene vodenih žigova na tekst koji generiraju AI jezički modeli i učinili su ga besplatno dostupnim. Ovi vodeni žigovi bi nam omogućili da sa gotovo potpunom sigurnošću kažemo da je korišten tekst generiran umjetnom inteligencijom.

Problem je u tome što ova metoda zahtijeva od AI kompanija da ugrade vodeni žig u svoje chat botove od samog početka. OpenAI razvija ove sisteme, ali ih tek treba uvesti u bilo koji od svojih proizvoda. Ali stavljanje vodenog žiga na sav tekst koji je generirala umjetna inteligencija moglo bi dovesti do pogrešnih optužbi.

AI detektor teksta koji je OpenAI predstavio samo je jedan alat među mnogima, a u budućnosti ćemo vjerovatno morati koristiti njihovu kombinaciju za identifikaciju teksta generiranog umjetnom inteligencijom. Još jedan novi alat, nazvan GPTZero, mjeri koliko su nasumični odlomci teksta kreirani uz pomoć umjetne inteligencije.

- Tekst generiran umjetnom inteligencijom koristi više istih riječi, dok ljudi pišu s više varijacija. Kao i kod doktorskih dijagnoza, kada se koriste alati za otkrivanje umjetne inteligencije, dobra je ideja dobiti drugo ili čak treće mišljenje - kaže Abdul-Mageed. 

- Jedna od najvećih promjena koje je uveo ChatGPT mogla bi biti promjena u načinu na koji procjenjujemo pisani tekst. U budućnosti, možda studenti više neće pisati sve od nule, a fokus će biti na osmišljavanju originalnih misli - kaže Sebastian Raschka, AI istraživač koji radi u AI startupu Lightning.AI.

Eseji i tekstovi koje generiše ChatGPT će na kraju početi da liče jedni na druge kada sistemu vještačke inteligencije ponestane ideja, jer je ograničen svojim programiranjem i podacima u svom skupu za obuku.

- Biće lakše pisati ispravno, ali neće biti lakše pisati originalno - kaže Raška.