Usvojen predlog EU uredbe o veštačkoj inteligenciji

Kasno noću u petak, 8. decembra, završeni su dugotrajni pregovori o konačnoj verziji predloga zakona o veštačkoj inteligenciji (AI Act), dok se ove nedelje očekuje prvi od desetak tehničkih sastanaka na kojima će se precizirati detalji o primeni zakona.

Sudeći po prvim reakcijama, usvojena rešenja nisu do kraja ispunila očekivanja organizacija i aktivista za ljudska prava, ali ni lobista industrije i politika fokusiranih na bezbednost.

Između ostalog, navodi se da će “prediktivni” sistemi samo delimično biti zabranjeni, odnosno da nisu sve primene sistema veštačke inteligencije u radu policije i “predikciji” kriminala svrstane u grupu nedopustivih rizika – što je značajno slabija zaštita od one za koju su evroposlanici letos glasali. Konačno rešenje zabrane obuhvata neke prediktivne sisteme zasnovane na “ličnim odlikama i karakteristikama”, ali ne i geografske sisteme za predikciju kriminala koji su već u širokoj upotrebi među evropskim policijskim službama. Ovakva delimična zabrana, primećuju kritičari, otvara mogućnost da se kasnije stvaraju dodatni izuzeci za primenu.

Posebno zabrinjava opcija da se svaka primena sistema veštačke inteligencije u kontekstu “nacionalne bezbednosti” potpuno izuzme iz opsega uredbe, uključujući zabrane nedopustivih rizika i zahteve za transparentnost upotrebe.

Najteži deo pregovora odnosio se na zabrane, odnosno klasifikacije sistema AI kao nedopustivo rizične. Predlog koji je usvojen, kako navode oni koji su imali uvid, zabranjuje daljinsko biometrijsko prepoznavanje u realnom vremenu (real-time remote biometric identification, RBI) na javno dostupnim mestima – osim kada se koristi za pretragu konkretnih osumnjičenih osoba ili žrtava određenih krivičnih dela, za sprečavanje “konkretnih, značajnih i neposrednih pretnji životu ili fizičkoj bezbednosti fizičkih lica ili konkretnih, aktuelnih pretnji terorističkim napadom”, kao i za “ciljanu pretragu konkretnih žrtava otmice, trgovine ljudima i seksualne eksploatacije ljudi, kao i za pretragu nestale dece”.

Upotrebu RBI u javnom prostoru mora da odobri sud ili nezavisan organ i ograničena je vremenom i prostorom, dok ne sme da podrazumeva stalno poređenje svih ljudi na javnim mestima sa podacima iz kompletnih policijskih ili drugih baza. U hitnim situacijama, sudsko odobrenje mora se dati naknadno u roku od 24 sata.

Naknadno daljinsko biometrijsko prepoznavanje (ne u realnom vremenu, već na video snimcima) nije zabranjeno, već je klasifikovano u visokorizičnu kategoriju i dozvoljeno je samo kada ili postoji prethodno odobrenje suda, ili kada je upotreba neophodna u okviru istrage za ciljanu pretragu osobe osuđene ili osumnjičene za ozbiljno krivično delo koje se već dogodilo. Države članice EU mogu da uvedu strožije zakone o upotrebi sistema za naknadno daljinsko biometrijsko prepoznavanje.

Takođe, zabranjena je biometrijska kategorizacija, odnosno sistem koji “kategorizuje fizička lica na osnovu njihovih biometrijskih podataka da bi se dedukovali njihovi politički stavovi, članstvo u sindikatima, verska ili filozofska uvernja, pol ili seksualna orijentacija iz ovih biometrijskih podataka”.

Unete su zabrane koje se odnose na prepoznavanje emocija, neke primene visokorizičnih AI sistema u privatnom sektoru, dok su dopunjeni kriterijumi klasifikacije rizika.

Objavljivanje usvojene verzije regulative očekuje se narednih meseci.