Javnom raspravom o Nacrtu zakona o unutrašnjim poslovima, u zvaničnu proceduru ušla je regulativa masovnog biometrijskog nadzora javnih prostora, naprednih tehnologija koje omogućavaju prikupljanje i obradu velikih količina podataka o ličnosti u realnom vremenu, sa softverskim alatima za prepoznavanje lika.
Ukoliko usvoji odredbe o masovnom biometrijskom nadzoru, Srbija će postati prva zemlja u Evropi koja sprovodi stalni, neselektivni nadzor građana u javnom prostoru. Tehnologije koje bi se na taj način stavile na raspolaganje policiji, izuzetno su intruzivne po privatnost, sa potencijalno drastičnim posledicama po prava i slobode ljudi i nesagledivim uticajem na demokratsko društvo. Zbog toga su Ujedinjene nacije i Evropska unija već zauzele stav protiv primene masovnog biometrijskog nadzora u radu policije i drugih bezbednosnih službi država.
Iako skromno najavljena, sa predviđenim rokom od 20 dana, javna rasprava o spornom Nacrtu okupila je domaće i međunarodne organizacije u zajednički front protiv upotrebe savremenih tehnologija na štetu ljudskog društva. Između ostalih, reagovala je i evropska mreža EDRi koja okuplja 45 organizacija i brojne eksperte za digitalna prava. U zvaničnom pismu upućenom Vladi Srbije i ministarstvima unutrašnjih poslova i pravde, navodi se da su odredbe kojima je predviđeno uspostavljanje sistema za masovno prikupljanje, obradu i automatsku analizu biometrijskih i drugih osetljivih podataka o ličnosti, nespojive sa garancijama iz Evropske konvencije o ljudskim pravima, koju je Srbija ratifikovala 2004.
„Predlog novog zakona o unutrašnjim poslovima vlade Srbije, predstavlja pokušaj da se prakse masovnog biometrijskog nadzora ozakone, čime bi se omogućio prodor u privatne živote građana i posetilaca Srbije u razmerama bez presedana. Dok organizacije i agencije za ljudska prava i zaštitu ličnih podataka širom EU i sveta pozivaju na zaštitu ljudi od štetnih upotreba tehnologije, Srbija se kreće u opasnom, suprotnom smeru“.
Dijego Naranho, EDRi
Gvendolin Delbo-Korfild, francuska poslanica Evropskog parlamenta iz redova Zelenih, upozorila je da bi primena ovih intruzivnih tehnologija dodatno ograničila prava svih ljudi koji žive u Srbiji, i dodala da ove tehnologije uvećavaju diskriminaciju kojoj su marginalizovane grupe već izložene u svakodnevnom životu. „Protivimo se nacrtu zakona koji bi ovlastio policiju da koristi masovni biometrijski nadzor u Srbiji. To je ogromna pretnja svim fundamentalnim pravima i pravu na privatnost“, naglasila je Delbo-Korfild.
„Sumnjamo da je u Srbiji, zemlji koju je organizacija Freedom House označila kao tek ‘delimično slobodnu’, vlada već započela proces uvođenja kamera visoke rezolucije proizvođača Huawei, opremljenih tehnologijom za prepoznavanje lika, na ulice Beograda. Ako ovaj nacrt zakona uđe u primenu, vlada bi imala pravni osnov za upotrebu masovnog biometrijskog nadzora i ovih kamera. Srbija je sada u riziku da postane prva evropska zemlja pokrivena sistemom za masovni biometrijski nadzor. Pozivamo vladu Srbije da odmah povuče odredbe iz nacrta kojima se reguliše masovni biometrijski nadzor.“
Gvendolin Delbo-Korfild, evroposlanica Zelenih
Spornim odredbama predviđeno je uspostavljanje sistema masovnog biometrijskog nadzora širom Srbije, a da nije utvrđena neophodnost predložene mere da se svi građani Srbije stalno tretiraju kao potencijalni kriminalci nesrazmernim zadiranjem u privatnost njihovih života. Posebno zabrinjava izostanak detaljne procene uticaja koju primena totalnog biometrijskog nadzora može imati na ranjive društvene grupe, ali i na novinare, građanske aktiviste i druge aktere demokratskog društva.
Leto na internetu je bilo uzbudljivo. Najgora noćna mora o sajber špijunaži se obistinila u vidu afere ‘Pegaz’, Apple počinje da skenira sve slike korisnika iCloud-a, talibani su preuzeli bazu biometrijskih podataka Avganistanaca koji su radili sa Amerikom, Privredna komora Srbije je ostavila otvoren server sa skeniranim dokumentima građana, a prošle nedelje je na raspravi bio novi, iznenadni zakon MUP-a koji legalizuje masovni biometrijski nadzor tj. prepoznavanje lica uz pomoć kamera širom Beograda i Srbije.
Gosti pete epizode serijala Cyberama su Saša Dragojlo, istraživački novinar BIRN-a koji prati upotrebu špijunskih softvera od strane vlada, i Jovan Šikanja, stručnjak za sajber bezbednost koji je uzbunio na incident / propust informacionog sistema Privredne komore Srbije od pre par nedelja.
Budi onlajn u sredu 29. septembra u 20h na ovom YT linku. Registracija nije obavezna, ali je korisna: dobićeš podsetnik sa linkom za strim.
Cyberama je livestream serijal o aktuelnim temama iz oblasti društva, tehnologije i sajber-prostora. Zajedno sa gostima u studiju i zajednicom na četu, svake poslednje srede u mesecu analiziramo vesti, društvene fenomene i odgovaramo na pitanja relevantna za pojedinca i društvo u 21. veku.
Objavljen je prvi Indeks privatnosti u medijima u Srbiji koji rangira 50 onlajn medija sa aspekta poštovanja standarda zaštite ličnih podataka. Dve godine od stupanja na snagu novog zakona, mediji nisu do kraja uskladili svoje poslovanje na internetu sa propisanim principima, dok pojedini koriste intruzivne tehničke alate u prikupljanju i obradi ličnih podataka.
Indeks privatnosti je kreiran kako bi se mapiralo stanje kao polazna osnova, kao i prostor za unapređenje trenutne prakse medija u Srbiji. Stručnjaci SHARE Fondacije, koji su autori istraživanja, najavljuju da će se istraživanje periodično ponavljati kako bi se pratio razvoj praksi medija i ažurirale promene.
Ne treba izgubiti iz vida da su standardi zaštite privatnosti relativno novi i da proces usklađivanja praksi i dalje traje. Medijski sektor prolazi kroz tranziciju koja donosi primenu svih pravila poštovanja privatnosti korisnika.
Metodologija istraživanja je bazirana na standardima globalne tehničke i građanske zajednice, obavezama iz Zakona o zaštiti podataka o ličnosti i etičkim načelima novinarske profesije u domenu zaštite privatnosti. U uzorku 50 posmatranih medija, 20 medijskih sajtova ostvaruje najveću posetu prema analitici globalnog saobraćaja na internetu, dok je ostalih 30 od značaja za geografsko područje koje pokrivaju, uzrasnu grupu kojoj su namenjeni, ili javni interes koji ostvaruju.
Top 5 najbolje rangiranih medija:
Danas (82/100)
Mozzart Sport (81/100)
BizLife (79/100)
B92 (74/100)
Radio 021 (74/100)
„Smatramo da je izuzetno važno da mediji razumeju svoju ulogu u ekosistemu prikupljanja i obrade ličnih podataka. Postoji čitav niz drugih aktera, od IT giganta do drugih privatnih kompanija, koji monetizuju podatke njihove publike, od čega mediji često nemaju previše koristi, a izlažu se potencijalnom riziku jer obrađuju podatke o ličnosti bez odgovarajućih mera i procedura. Čini se da je to pre slučaj usled nepoznavanja tehničkih procesa u digitalnom okruženju, nego zbog svesnog izigravanja zakona“, navodi Bojan Perkov iz SHARE Fondacije.
Uzimajući u obzir funkcionisanje medija u digitalnom okruženju, neophodno je postojeće prakse i interne politike unaprediti kako bi s jedne strane mogli da iskoriste potencijale digitalne ekonomije, a da sa druge poštuju privatnost svoje publike.
SHARE Fondacija je spremna da u tom procesu pruži stručnu podršku. Na raspolaganju smo svim zainteresovanim medijima za savet i pomoć ([email protected]).
Indeks privatnosti u medijma je izrađen u okviru projekta Akcija za digitalna prava – unapređenje slobodnog protoka informacija i integriteta medija koji partnerski sprovode BIRN Srbija i SHARE Fondacija, uz finansijsku podršku Balkanskog fonda za demokratiju i MATRA programa.
Kako bismo analizirali prakse pristupa zadržanim podacima o komunikacijama tokom 2020. godine, od Poverenika smo tražili i dobili evidencije koje vode operatori mobilne telefonije i interneta, kao i policija i službe bezbednosti.
Analiza pokazuje da nedostatak faktičke kontrole nad pristupom zadržanim metapodacima dovodi do pitanja opasnosti narastajuće državne infrastrukture nadzora, o kojoj građani nemaju jasan i otvoren uvid. Više o ovoj temi i zaključcima u novom tekstu. → SHARE Fondacija
Više od 50.000 brojeva telefona, među kojima je bilo onih koji pripadaju novinarima, aktivistima i političarima, potencijalno se našlo na meti targetiranog nadzora pomoću softvera Pegasus, koji se prodaje vladama širom sveta.
Pregled događaja i načini na koje se pojedinci mogu zaštititi od ovakvog softvera obrađeni su i vizuelno predstavljeni u tekstu na našem sajtu. → SHARE Fondacija
PLUS:
Danilo Krivokapić o označavanju medija koji “sarađuju sa Vladom Srbije” na Tviteru → N1
Prema evidencijama o pristupu zadržanim podacima o komunikacijama, koje je SHARE Fondacija dobila od Poverenika za informacije od javnog značaja i zaštitu podataka o ličnosti, operatori koji zadržavaju podatke i državne službe koje im pristupaju dostavljaju sve manje podataka. Trend se nastavlja i u 2020. godini, te se obaveza dostavljanja evidencija koja proističe iz Zakona o elektronskim komunikacijama svodi na puku formalnost umesto da bude mehanizam kontrole. I dalje ne postoje informacije o direktnom pristupu bazama zadržanih podataka, koji ostvaruju policija i službe bezbednosti. Telenor, kao jedini operator koji je beležio direktne pristupe, prestao je da ih dostavlja Povereniku još 2018. godine.
Najveći broj zahteva, od tri najveća operatora mobilne telefonije, upućen je kompaniji Telekom Srbija, koja je poslala najoskudniju evidenciju zahteva. Telenor i Vip, koji je ove godine promenio ime u A1, poslali su tabelarno strukturirane podatke uz tekstualne izveštaje, s tim da izveštaj Telenora i dalje sadrži najviše informacija. Broj zahteva upućenih internet operatorima ove godine se udvostručio i najveći broj zahteva upućen je kompaniji SBB. Ni internet operatori u svojim izveštajima ne navode sve potrebne podatke. Kada su državni organi i službe bezbednosti u pitanju najviše zahteva upućuje MUP, dok jedino VBA u svojim izveštajima navodi da je preko pristupnih aplikacija podnosila zahteve za pristup zadržanim podacima i to kod sva tri mobilna operatora u Srbiji – Vip, Telekom i Telenor, ali ne navodi broj tih zahteva, pravni osnov, da li su ispunjeni ili odbijeni, dakle ne zna se da li je ostvarila uvid u podatke ili nije, niti tačno u koje.
Pored značajnog pada transparentnosti izveštavanja operatora i nadležnih organa kada je reč o njihovim praksama pristupa zadržanim podacima, što se najviše ogleda u propuštanju da se dostave informacije o samostalnom pristupu podacima, problem takođe predstavljaju vidljive razlike u izveštajima. S obzirom da samo Telenor u svom izveštaju detaljno navodi koji državni organ je zahtevao pristup zadržanim podacima, ne može se proveriti da li broj koji navodi državni organi i službe bezbednosti odgovara brojevima koje su naveli operatori. Ali iz podataka koje su naveli može se zaključiti da postoje velika odstupanja i nepodudaranja. Naime, Telenoru su stigla ukupno 422 zahteva, Telekomu 1.417 zahteva, a A1 je dobio 122 zahteva, svim internet operatorima je stiglo ukupno 519 zahteva. Ukupno je na adresu provajdera usluga mobilne, fiksne telefonije i interneta u Srbiji stiglo 2.480 zahteva. Prema izveštajima koje su podneli MUP, BIA i VBA, ova tri organa ukupno su uputila 114.858 zahteva, od toga 110.305 MUP, BIA 1.073 i VBA 3.480 zahteva. Kada se uporede ukupan broj zahteva koje su operatori primili i ukupan broj zahteva koja su ova tri organa poslala vidi se ogroman nesklad.
Analizom svih izveštaja primetno je da se broj zahteva povećava iz godine u godinu, dok operatori i državni organi u evidencijama o pristupima zadržanim podacima, koje dostavljaju Povereniku, navode sve manje informacija. Takođe je primetno i da je broj izvršenih zahteva veliki. Trenutne prakse operatora i nadležnih organa više predstavljaju formalno ispunjenje obaveze nego suštinsku intenciju zakona da propiše mehanizam transparentnosti zadržavanja podataka o elektronskim komunikacijama i pristupanja tim podacima. Nedostatak faktičke kontrole nad pristupom zadržanim metapodacima dovodi nas do pitanja opasnosti narastajuće državne infrastrukture nadzora, o kojoj građani nemaju jasan i otvoren uvid.
Ninoslava Bogdanović je studentkinja na master studijama Međunarodna bezbednost na Fakultetu političkih nauka i stažistkinja u SHARE Fondaciji. Interesuje je analiziranje pretnji po informacionu infrastrukturu i projektovanje mehanizama zaštite, digitalna forenzika, istraživanje metapodataka, profilisanje i političko-informaciono ratovanje.
Više od 180 novinara otkriveno je u bazi telefona određenih za potencijalnu špijunažu, zahvaljujući curenju dokumenata predatih novinarskom kolektivu Forbidden Stories i organizaciji Amnesty International. Izbor meta za nadzor pravili su klijenti izraelske firme NSO, specijalizovane za proizvodnju špijunskog softvera koji prodaje vladama širom sveta. Njen primarni proizvod, Pegasus, može da kompromituje telefon, izvuče iz njega sve podatke i aktivira mikrofon za snimanje razgovora.
Osim novinara, među 50.000 ljudi za koje se sumnja da su bili na meti državnih struktura iz celog sveta, našli su se aktivisti, akademici, pa čak i najviši javni funkcioneri.
Targetirani nadzor
Pegasus omogućava ciljanu kompromitaciju mobilnih telefona, hakovanjem preko malicioznih linkova ili tehničkih ranjivosti u popularnim aplikacijama. Na taj način moguće je ciljati unapred određenu osobu i poverljive informacije koje čuva u telefonu – prepiske sa novinarskim izvorima, poslovne i državne tajne, informacije o političkim planovima i akcijama i slično.
Spyware
Špijunski softver je vrsta malvera koja prikuplja podatke iz inficiranog sistema i prosleđuje ga dalje, obično onome ko ga je napravio. S takvim malverom, neovlašćeno se mogu preuzeti lozinke, lični podaci, prepiske, itd.
Pegasus
Eksploatacija softvera za iOS otkrivena je 2016, ali se pretpostavlja da je u upotrebi još od 2013. Mada kompanija NSO tvrdi da je Pegasus namenjen borbi protiv terorizma i međunarodnog kriminala, organizacije za ljudska prava identifikovale su primenu softvera u autoritarnim režimima protiv građanskih aktivista i disidenata, uključujući ubijenog saudijskog novinara Džamala Kašogija.
Ko ga koristi
Među NSO mušterijama nalaze se pre svega državni organi nadležni za sprovođenje nadzora i presretanje komunikacija: obaveštajne i bezbednosne agencije, policijske službe i vojska. Iako za sada postoje informacije o 40 neimenovanih zemalja kupaca, nalazi Projekta Pegasus ukazuju da je taj softver za špijunažu korišćen u Mađarskoj, Azerbejdžanu, Bahreinu, Meksiku, Maroku, Saudijskoj Arabiji, Kazahstanu, Ruandi, Indiji i Ujedinjenim Arapskim Emiratima.
Kako inficira uređaj
Softver odgovara uređajima koji koriste Android, kao i neke iOS verzije, a eksploatiše više raznih nedostataka u sistemu. Vektori zaraze uključuju otvaranje linkova, aplikacije za fotografije, Apple Music aplikaciju i iMessage, dok za pojedine nije potrebna nikakva interakcija da bi se softver pokrenuo (zero-click).
Čemu ima pristup
Pomoću Pegasusa, napadači navodno mogu da dobiju pristup praktično svim podacima koji se čuvaju u pametnom telefonu mete, kao što su sadržaji SMS-ova, mejlova i čet aplikacija, fotografije, video-snimci, adresar, podaci iz kalendara ili GPS podaci. Takođe postoje mogućnosti daljinske aktivacije mikrofona i kamere telefona i snimanja razgovora.
SHARE Fondacija i Balkanska istraživačka mreža – BIRN objavili su izveštaj o povredama ljudskih prava u digitalnom okruženju u kontekstu društveno-političkih previranja i nemira. Izveštaj obuhvata period od avgusta 2019. do decembra 2020. i beleži više od 800 kršenja digitalnih prava.
Koja su prava najviše bila ugrožena, najupečatljiviji slučajevi, kao i glavni trendovi zabeleženi su u sveobuhvatnom izveštaju. → SHARE Fondacija
U novom monitoring izveštaju naše fondacije posebno su se istakli problemi nespretno uvedene digitalizacije državne uprave, prevare građana kroz fišing kampanje, kao i pritisci u vidu strateških tužbi protiv onlajn medija.
Ceo izveštaj sa opisom slučajeva i statistikom na našem sajtu. → SHARE Fondacija
Kako bismo sažeto predstavili osnovne pojmove i pravne institute, pripremili smo Rečnik zaštite podataka o ličnosti.
Koja je razlika između obrađivača i rukovaoca podacima o ličnosti i kako da znate da je nastupila povreda podataka u vašoj organizaciji samo su neka od pitanja na koja rečnik daje odgovore. → SHARE Fondacija
Četvrta epizoda serijala Cyberama bavila se novom državnom platformom za masovno prikupljanje i obradu podataka “Pametna Srbija”, veštačkom inteligencijom, njenim ograničenjima i šta sve sa istom može da krene po zlu. Profesor Vladan Joler odgovarao je na pitanja naših voditelja Mile i Fiće, kao i okupljene zajednice, prvi put u realnom prostoru.
Koja je razlika između obrađivača i rukovaoca podacima o ličnosti? Šta znači “legitimni interes” i kada se može koristiti kao pravni osnov obrade podataka? Kako da znate da je nastupila povreda podataka o ličnosti u vašoj organizaciji? Odgovore na ova i mnoga druga pitanja možete pronaći u Rečniku pojmova o zaštiti podataka o ličnosti, koji je nastao u okviru saradnje SHARE Fondacije i Misije OEBS-a u Srbiji.
Rečnik je izrađen sa ciljem sažetog i konciznog pregleda osnovnih pravnih instituta i pojmova koji se mogu naći u propisima koji regulišu zaštitu podataka o ličnosti. Zakon o zaštiti podataka o ličnosti koristi specifičnu pravnu terminologiju, koja često nije bliska onima koji nisu aktivno uključeni u tumačenje ovih propisa, naročito jer je tekst zakona vrlo konfuzan i često nerazumljiv. Ipak, može se reći da je rečnik imao u vidu pre svega potrebe novinara i medijskih organizacija, te da iz tog razloga sadrži pojmove koji mogu biti naročito značajni za obavljanje novinarskog posla i biznis modele medija.
Novi biznis modeli zasnovani na podacima, kao i drugi izazovi sa kojima se mediji susreću u pogledu zaštite privatnosti i ličnih podataka korisnika i publike, otvaraju niz obaveza i rizika koji su ne samo pravne, već i finansijske i reputacione prirode. Zato je važno da mediji i ostali akteri kroz Rečnik, Pribor za lične podatke, vodiče i druge resurse SHARE Fondacije provere usklađenost poslovanja i aktivnosti sa novim pravilima i odgovorno se odnose prema privatnosti i podacima građana.
Pre dve nedelje, Vlada Republike Srbije objavila je važno saopštenje koje je prošlo ispod radara praktično svih medija. U Državnom data centru predstavljena je ‘Pametna Srbija’ – nova državna platforma za masovno prikupljanje i obradu podataka. Prema rečima zvaničnika, ovi podaci predstavljaju ‘pamet’ države na osnovu koje mogu da se donose odluke i osmišljavaju strategije, kao i ‘neophodnu osnovu za razvoj veštačke inteligencije’.
Drugim rečima,
– svi podaci građana koje država poseduje ili prikupi iz ‘otvorenih izvora’ se skladište na istom mestu, – građani dobijaju svoje ‘digitalne identitete’, – algoritmi ukrštaju podatke i donose razne odluke o životima građana, – analize se sprovode na ‘cloud-u’, a posao je poveren kompaniji ‘Microsoft’.
Šta bi moglo da krene naopako?
Gost:
– Vladan Joler, profesor novih medija i osnivač SHARE Fondacije
Novinari, aktivisti civilnog društva, javni funkcioneri i šira javnost suočili su se sa opasnim napadima – uključujući verbalno zlostavljanje, trolovanje, kampanje blaćenja i pritiske za povlačenje sadržaja – kao odgovor na objavljivanje informacija na mreži. Mnogi naši podaci su kompromitovani, a privatnost dodatno ugrožena nadzorom koji se naročito raširio u vreme pandemije.
BIRN i SHARE su interdisciplinarno sagledali probleme sa pravnog, političkog, tehnološkog i društvenog aspekta kako bi ukazali na kompleksnost slučajeva u kojima se javljaju povrede digitalnih prava i sloboda. Najveći broj povreda, njih 375, odnosio se na pritiske zbog onlajn izražavanja ili aktivnosti, u šta spadaju pretnje, uvrede, neosnovane optužbe, govor mržnje, diskriminacija, itd. To je doprinelo atmosferi u kojoj dominiraju strah i mržnja, što već ranjive zajednice poput LGBT+ ili migranata izlaže dodatnim napadima.
Glavni trendovi zabeleženi u izveštaju odnosili su se na sledeće pojave:
Podrivanje demokratskih izbornih procedura
Tehnički napadi na sajtove javnih službi
Provokacije i eksploatacija društvenih nemira
Širenje teorija zavere i pseudoinformacija
Dodatna izolacija ugroženih grupa u slučajevima onlajn mržnje
Tehnološki alati ne uspevaju da reše složene društvene probleme
Nalazi izveštaja ukazuju na potrebu za zakonodavnim, političkim i socijalnim promenama u zemljama koje su deo monitoringa – digitalna evolucija se mora posmatrati kao skup mehanizama i alata koji treba pre svega da služe potrebama ljudi. Pandemija COVID-19 dokazala je da je otvoren, slobodan i pristupačan internet apsolutno neophodan u kriznim vremenima. Samo uz insistiranje na odgovornosti za kršenje digitalnih prava i edukaciju o rizicima i mogućnostima digitalnog okruženja možemo da stvaramo progresivno, otvoreno i tolerantno društvo.
