AI Omnibus u EU: deregulacija umesto zaštite ljudskih prava

Vest da su Savet Evropske unije i Evropski parlament početkom maja postigli politički dogovor o tekstu izmena regulative na polju veštačke inteligencije, donela je makar privremeno olakšanje tehnološkoj industriji. Evropska agenda „simplifikacije“ propisa koji uređuju digitalno društvo i tehnologiju obuhvata i tzv. AI Omnibus koji će u značajnoj meri izmeniti Aktu o veštačkoj inteligenciji (AI Act). Ta uredba EU iz 2024. godine je već naišla na kritike civilnog društva i stručne javnosti u pogledu nedovoljne zaštite ljudskih prava i sloboda od rizika povezanih sa AI. Po svemu sudeći, krovni akt za regulisanje razvoja i upotrebe veštačke inteligencije u EU će biti dodatno oslabljen, i to pre rokova za punu primenu njegovih odredbi. 

Dogovoreni tekst omnibusa najpre odlaže početak primenu obaveza za visokorizične AI sisteme – umesto od avgusta ove godine, pravila će se primenjivati od decembra 2027. Postoji bojazan da će zbog toga AI sistemi sa potencijalno opasnim rizicima po ljudska prava biti užurbano plasirani na EU tržište pre 2. decembra 2027, kako bi izbegli regulatorne obaveze prema AI aktu, koje će ipak važiti u slučaju da takvi sistemi budu značajno izmenjeni. 

Posebno problematična izmena jeste dozvola da se osetljivi lični podaci koriste za detekciju i mitigaciju pristrasnosti u svim AI sistemima, a ne samo u visokorizičnim, što je u suprotnosti sa standardima iz Opšte uredbe o zaštiti podataka (GDPR). Takođe, izmenama su smanjene obaveze koje se tiču „AI pismenosti“ za ljude koji će upravljati sistemima, koje su pre svega fokusirane na podršku u pogledu AI pismenosti bez obezbeđivanja ishoda.  

Uprkos pokušajima Komisije da se registracija visoko-rizičnih sistema potpuno izbaci iz teksta, ova obaveza je opstala po dogovoru Saveta i Parlamenta, ali u oslabljenoj formi. Ovo je naročito važno jer AI akt omogućava izuzetak od obaveza za sisteme koji po samoproceni proizvođača nisu visokorizični. Ipak, za takve sisteme postoji obaveza da se registruju u javno dostupnoj bazi. Prema Omnibusu, informacije o tome u kojoj državi članici EU je sistem dostupan ili u upotrebi i objašnjenje za izuzimanje od zakonskih obaveza, što su ključni elementi baze, više neće biti obavezni te će samim tim transparentnost u nadzoru sistema visokog rizika biti umanjena. 

Među retkim pozitivnim ishodima je to što izrada procene uticaja sistema na ljudska prava ostaje kao obaveza. Nakon skandala sa Grokom, AI botom kompanije X, pomoću koga su korisnici početkom godine generisali seksualizovane sadržaje uglavnom žena i dece, stvorio se politički momentum za dodavanje zabrane alata za „svlačenje“ i kreiranje sadržaja zlostavljanja maloletnika (CSAM) u tekst Omnibusa.

Prema rečima Danijela Leufera iz organizacije Access Now, Omnibus slabi AI akt, ohrabruje lobiste industrije i potkopava reputaciju EU kao ozbiljnog regulatora digitalnog društva. Imajući u vidu da se kroz drugi paket poznat kao Digitalni Omnibus pored ostalog spremaju izmene GDPR, rizici da se razmontiraju zaštitni mehanizmi usvojeni pre 10 godina postaju realnost. Ovakva digitalna deregulacija je veliki udarac na zaštitu prava građana u širem smislu, a naročito je problematično što se sprovodi pod parolom unapređenja kompetitivnosti evropske privrede, za šta ne postoje garancije da će proizvesti željene efekte. Nakon što se postojeće zaštitne mere ukinu ili oslabe, veoma ih je teško vratiti u pređašnje stanje, naročito kada se uzme u obzir složenost zakonodavnog procesa i političkih okolnosti u EU. 
Kada je reč o Srbiji, regulacija digitalnog društva i tehnologije po pravilu kaska za EU, u slučaju veštačke inteligencije već dve godine, sa izgledima da nakon usvajanja AI omnibusa zaostatak bude još veći. Za sada nemamo objavljen tekst Nacrta zakona o veštačkoj inteligenciji, koji bi trebalo da prilagodi principe AI akta domaćem kontekstu i regulatornim specifičnostima. Civilno društvo, akademija i stručna javnost bi trebalo sa posebnom pažnjom da prate razvoj događaja sa Nacrtom zakona, naročito jer se agenda Vlade oslanja na razvoj tehničke infrastrukture i kapaciteta za veštačku inteligenciju.