Napredne tehnologije u Srbiji: Sistem u riziku

U savremenim društvima, upotreba naprednih tehnologija smatra se važnim faktorom ekonomskog razvoja, modernizacije institucija i unapređenja kvaliteta života građanki i građana. Međutim, kako pokazuje novo istraživanje SHARE Fondacije „Sistem u riziku: Napredne tehnologije u Srbiji“, tehnološki napredak u Srbiji odvija se u okolnostima slabe institucionalne odgovornosti, nedostatka demokratske kontrole i ograničene transparentnosti.

U takvom okruženju, napredne tehnologije, a posebno one zasnovane na veštačkoj inteligenciji, automatizovanom odlučivanju, biometrijskoj identifikaciji, prediktivnim analizama i obradama velikih podataka (big data), mogu postati ozbiljan izvor ugrožavanja osnovnih prava građanki i građana. Bez odgovarajućih mehanizama zaštite, one mogu dovesti do sistemskih rizika poput masovnog i targetiranog nadzora, diskriminacije, narušavanja privatnosti i urušavanja poverenja u institucije.

Istovremeno, Evropska unija uspostavlja regulatorni okvir, od Opšte uredbe o zaštiti podataka (GDPR) do Akta o veštačkoj inteligenciji (AI Act), koji prepoznaje društveni značaj i rizike tehnologija i gradi temelje digitalne transformacije zasnovane na odgovornosti i ljudskim pravima. Zemlje kandidati, među kojima je i Srbija, još nemaju jasno definisane modele integracije u evropsku normativnu arhitekturu, dok domaća pravila i institucionalni kapaciteti ne prate tempo tehnološke ekspanzije.

Istraživanje je mapiralo 129 slučajeva primene naprednih tehnologija u javnom sektoru u Srbiji, i prikazuje presek naprednih tehnologija koje su predstavljane prema kriterijumu primarne funkcije koju imaju u okviru životnog ciklusa podataka u javnom sektoru – od faze prikupljanja podataka, u kojoj dominiraju tehnologije za nadzor i praćenje, preko faze analize i automatizacije procesa odlučivanja koje sve češće obavljaju napredni tehnički sistemi zasnovani na algoritamskim rešenjima i veštačkoj inteligenciji, do razmatranja pitanja skladištenja podataka i razvoja digitalizacije javne uprave.

Nalazi analize pokazuju zabrinjavajuće trendove:

• Ne postoje sveobuhvatni mehanizmi odgovornosti i praćenja primene naprednih tehnologija.
• Tehnologije se uvode bez javnog nadzora, odgovarajućih procena rizika i transparentnosti.
• Nadzorne i analitičke tehnologije često se baziraju na prikupljanju i korišćenju podataka o ličnosti bez pravnog osnova.
• Fragmentisana i zastarela institucionalna arhitektura ne omogućava sistemski regulatorni pristup.
• Ne postoji javni uvid niti pristup podacima o primeni naprednih tehnologija.
• Tehnološke inovacije u Srbiji nisu usklađene sa principima ljudskih prava.

Na osnovu istraživanja, SHARE Fondacija sastavila je i spisak preporuka evropskim i nacionalnim donosiocima odluka, državnim institucijama, nezavisnim telima, organizacijama civilnog društva, akademskoj zajednici, tehnološkoj industriji i građanima i građankama. Identifikovano je sedam ključnih principa razvoja i upotrebe naprednih tehnologija u Srbiji i to odgovornost, transparentnost, demokratska kontrola, otvorenost, poverenje, sistemski pristup i prevencija rizika.

Preporuke su podeljene u dve komplementarne celine:

• Preporuke za Evropsku uniju, usmerene na izgradnju inkluzivnog i koordinisanog evropskog mehanizma za upravljanje naprednim tehnologijama i digitalnu integraciju Srbije u Jedinstveno digitalno tržište.
• Preporuke za Srbiju, koje nude konkretne korake za usklađivanje nacionalnog sistema sa evropskim standardima odgovornosti, nadzora, transparentnosti i zaštite prava u domenu naprednih tehnologija.

Zajednički cilj ovih preporuka je da doprinesu formiranju jedinstvenog, demokratskog i etičkog okvira upravljanja naprednim tehnologijama, sistema koji ne samo da podstiče inovacije, već istovremeno osigurava zaštitu ljudskih prava i demokratskih vrednosti.