EU još nema propise o ChatGPT-u ili sličnim AI sistemima, ali je prije dvije godine Evropska komisija pripremila prvi zakonski prijedlog za okvir novih pravila o AI i dostavila ga državama članicama i Evropskom parlamentu.

Ovaj prijedlog bi uveo neka ograničenja i pravila transparentnosti u korištenju sistema vještačke inteligencije. Ako prijedlog postane zakon, AI sistemi kao što je ChatGPT također će se morati koristiti u skladu s ovim pravilima.

U prijedlogu komisije, AI sistemi su klasifikovani u četiri glavne grupe: neprihvatljiv rizik, visok rizik, ograničeni rizik i minimalni rizik.

Sistemi veštačke inteligencije za koje se smatra da predstavljaju jasnu prijetnju po životnu sigurnost, sredstva i prava ljudi su u grupi neprihvatljivog rizika.

Također su zabranjeni AI sistemi ili aplikacije koje se protive slobodnoj volji pojedinaca, manipulišu ljudskim ponašanjem ili vrše društveno bodovanje.

Zatim, u grupu visokog rizika spadaju oblasti kao što su kritična infrastruktura, obrazovanje, hirurgija, evaluacija životopisa za zapošljavanje, kreditni rejting, dokazi, imigracija, azil i upravljanje granicom, verifikacija putnih isprava, biometrijski sistemi identifikacije i sudski i demokratski procesi.

Ovi sistemi moraju biti nediskriminatorni, a rezultati moraju biti vidljivi i podložni adekvatnom ljudskom nadzoru.

Prema pravilima, sigurnosne jedinice će moći da koriste sisteme biometrijske identifikacije na javnim područjima u posebnim slučajevima kao što su terorizam i teška krivična djela. Međutim, takva upotreba AI sistema će biti ograničena i podložna odobrenju pravosudnih organa.

Sistemi u grupi ograničenog rizika će takođe morati da ispoštuju određene obaveze transparentnosti.

U prijedlogu, chatbotovi su također u grupi ograničenog rizika. Cilj je da se korisnici koji razgovaraju s chatbotovima postanu svjesni da su u interakciji s računarom.

Aplikacije kao što su video igrice koje podržavaju umjetnu inteligenciju ili filteri za neželjenu poštu su u grupi minimalnog rizika.

U međuvremenu nastavlja se rad na zakonu o vještačkoj inteligenciji, koji zahtijeva odobrenje EP-a i država članica kako bi stupio na snagu.