Napredne tehnologije u Srbiji: Sistem u riziku

U savremenim društvima, upotreba naprednih tehnologija smatra se važnim faktorom ekonomskog razvoja, modernizacije institucija i unapređenja kvaliteta života građanki i građana. Međutim, kako pokazuje novo istraživanje SHARE Fondacije „Sistem u riziku: Napredne tehnologije u Srbiji“, tehnološki napredak u Srbiji odvija se u okolnostima slabe institucionalne odgovornosti, nedostatka demokratske kontrole i ograničene transparentnosti.

U takvom okruženju, napredne tehnologije, a posebno one zasnovane na veštačkoj inteligenciji, automatizovanom odlučivanju, biometrijskoj identifikaciji, prediktivnim analizama i obradama velikih podataka (big data), mogu postati ozbiljan izvor ugrožavanja osnovnih prava građanki i građana. Bez odgovarajućih mehanizama zaštite, one mogu dovesti do sistemskih rizika poput masovnog i targetiranog nadzora, diskriminacije, narušavanja privatnosti i urušavanja poverenja u institucije.

Istovremeno, Evropska unija uspostavlja regulatorni okvir, od Opšte uredbe o zaštiti podataka (GDPR) do Akta o veštačkoj inteligenciji (AI Act), koji prepoznaje društveni značaj i rizike tehnologija i gradi temelje digitalne transformacije zasnovane na odgovornosti i ljudskim pravima. Zemlje kandidati, među kojima je i Srbija, još nemaju jasno definisane modele integracije u evropsku normativnu arhitekturu, dok domaća pravila i institucionalni kapaciteti ne prate tempo tehnološke ekspanzije.

Istraživanje je mapiralo 129 slučajeva primene naprednih tehnologija u javnom sektoru u Srbiji, i prikazuje presek naprednih tehnologija koje su predstavljane prema kriterijumu primarne funkcije koju imaju u okviru životnog ciklusa podataka u javnom sektoru – od faze prikupljanja podataka, u kojoj dominiraju tehnologije za nadzor i praćenje, preko faze analize i automatizacije procesa odlučivanja koje sve češće obavljaju napredni tehnički sistemi zasnovani na algoritamskim rešenjima i veštačkoj inteligenciji, do razmatranja pitanja skladištenja podataka i razvoja digitalizacije javne uprave.

Nalazi analize pokazuju zabrinjavajuće trendove:

• Ne postoje sveobuhvatni mehanizmi odgovornosti i praćenja primene naprednih tehnologija.
• Tehnologije se uvode bez javnog nadzora, odgovarajućih procena rizika i transparentnosti.
• Nadzorne i analitičke tehnologije često se baziraju na prikupljanju i korišćenju podataka o ličnosti bez pravnog osnova.
• Fragmentisana i zastarela institucionalna arhitektura ne omogućava sistemski regulatorni pristup.
• Ne postoji javni uvid niti pristup podacima o primeni naprednih tehnologija.
• Tehnološke inovacije u Srbiji nisu usklađene sa principima ljudskih prava.

Na osnovu istraživanja, SHARE Fondacija sastavila je i spisak preporuka evropskim i nacionalnim donosiocima odluka, državnim institucijama, nezavisnim telima, organizacijama civilnog društva, akademskoj zajednici, tehnološkoj industriji i građanima i građankama. Identifikovano je sedam ključnih principa razvoja i upotrebe naprednih tehnologija u Srbiji i to odgovornost, transparentnost, demokratska kontrola, otvorenost, poverenje, sistemski pristup i prevencija rizika.

Preporuke su podeljene u dve komplementarne celine:

• Preporuke za Evropsku uniju, usmerene na izgradnju inkluzivnog i koordinisanog evropskog mehanizma za upravljanje naprednim tehnologijama i digitalnu integraciju Srbije u Jedinstveno digitalno tržište.
• Preporuke za Srbiju, koje nude konkretne korake za usklađivanje nacionalnog sistema sa evropskim standardima odgovornosti, nadzora, transparentnosti i zaštite prava u domenu naprednih tehnologija.

Zajednički cilj ovih preporuka je da doprinesu formiranju jedinstvenog, demokratskog i etičkog okvira upravljanja naprednim tehnologijama, sistema koji ne samo da podstiče inovacije, već istovremeno osigurava zaštitu ljudskih prava i demokratskih vrednosti.

This publication was funded partially by a grant from the United States Department of State. The opinions, findings and conclusions stated herein are those of the authors and do not necessarily reflect those of the United States Department of State.