Čekajući evropski zakon o AI: široka zabrana biometrije i prediktivnih policijskih sistema

Evropski regulatori primakli su se ovog meseca korak bliže usvajanju propisa o veštačkoj inteligenciji (AI Act), pošto su dva ključna komiteta EU parlamenta 11. maja odobrila izmene predloženih pravila o biometrijskom nadzoru, prepoznavanju lica i drugim primenama naprednih tehnologija.

Usvojenim izmenama pooštreni su kriterijumi klasifikacije alata veštačke inteligencije, prema kojima će niz aplikacija biti zabranjen za upotrebu na teritoriji EU. To su, između ostalog:

– sistemi biometrijske identifikacije u realnom vremenu u javnim prostorima,

– biometrijski sistemi kategorizacije prema ličnim svojstvima kao što su rod, rasna i etnička pripadnost, verska i politička orijentacija,

– prediktivni policijski sistemi zasnovani na profilisanju,

– sistemi za prepoznavanje emotivnih stanja, odnosno njihova upotreba u policiji, na graničnim prelazima, radnom mestu i u obrazovnim institucijama,

– automatizovano prikupljanje biometrijskih podataka sa društvenih mreža ili snimaka sigurnosnih kamera.

Za naknadnu biometrijsku identifikaciju jedini za sada dozvoljeni izuzetak je istraga ozbiljnih krivičnih dela uz odobrenje suda.

Uoči izjašnjavaja članova dva ključna komiteta Evropskog parlamenta – za građanske slobode, pravosuđe i unutrašnje poslove (LIBE) i za unutrašnje tržište i zaštitu potrošača (IMCO) – SHARE fondacija je, zajedno sa srodnom organizacijom iz regiona Politiscope, evroposlanicima uputila otvoreno pismo sa zahtevom da se u nacrt unese opšta zabrana biometrijskog nadzora.

U pismu se upozorava na uspon digitalne diktature širom sveta i upotrebu naprednih tehnologija u autoritarnim režimima za nadzor, represiju i manipulaciju građana. Dve organizacije posebno su ukazale na slabe institucije i urušavanje vladavine zakona u zemljama Balkana – bilo da su članice EU ili ne – kao i na odsustvo političke volje za punu zaštitu temeljnih prava i sloboda građana.

Posle dvogodišnjih pregovora i pritisaka industrije s jedne strane, a sa druge eksperata i aktivista za ljudska prava i slobode koji se zalažu za strožu regulaciju intruzivnih tehnologija, očekuje se da nacrt uskoro uđe u sledeću fazu kada se detalji usaglašavaju sa Evropskom komisijom i državama članicama Unije.

U osnovi, budući zakon treba da reguliše sisteme koji mogu da generišu sadržaj, predikcije, preporuke ili odluke koje utiču na okruženja – uključujući alate za interakciju sa ljudima, kao što je ChatGPT, pametne sisteme za nadzor ili aplikacije koje se mogu koristiti za generisanje tzv. deepfake sadržaja (sintetički mediji).

Nova pravila treba da klasifikuju takve alate veštačke inteligencije prema visini rizika, od niskog do nedopustivog (zabranjenog) i da propišu odgovarajuće obaveze aktera koji ih primenjuju, u javnom ili privatnom sektoru. Predložene kazne kreću se i do 30 miliona evra ili 6% globalnog profita, ukoliko je taj procenat veći.

Primena alata dopustivog, ali visokog rizika podrazumevaće rigorozne procene i kontrolu aktivnosti, posebno u oblastima kao što su policija, sudstvo, upravljanje granicama, kritične infrastrukture i bezbednost proizvoda.

Obimi visokog i nedopustivog rizika, između ostalog, predstavljaju osetljiva politička pitanja koja izazivaju oštre podele stručne i šire javnosti, pa i samih evroparlamentaraca. Tako poslanici iz progresivnih stranaka traže zabranu opšteg nadzora, detekcije i analize privatnog sadržaja u servisima za interpersonalnu komunikaciju, uključujući mere koje bi podrivale end-to-end enkripciju, čemu se protive konzervativni poslanici, načelno spremniji da policiji i graničnoj kontroli dopuste upotrebu intruzivnih sistema.

Munjeviti razvoj četbotova nedavno je otvorio još jedan problem: pitanje klasifikacije i odgovornosti za veštačku inteligenciju opšte namene (General Purpose AI, GPAI) u zavisnosti od stepena modifikacije izvornog modela. Tim povodom, grupa EU poslanika uključenih u izradu zakona o veštačkoj inteligenciji, pozvala je lidere EU i SAD da organizuju globalni samit na kom bi države sveta zajednički utvrdile “skup preliminarnih pravila za razvoj i primenu moćnih sistema veštačke inteligencije opšte namene koji se lako mogu adaptirati za mnoštvo različitih svrha”.