SHARE.MKV je serijal video projekcija i razgovora u bioskopu UK “Stari grad”. Ovom prilikom, nekoliko kratkih videa i razgovor na temu masovnog video nadzora i tehnologije prepoznavanja lica održaće se u petak, 28. februara, od 19h do 21h.
Cilj nam je da pred velikim ekranom okupimo zajednicu i podstaknemo diskusiju o ključnim pitanjima današnjice o odnosima ljudi, tehnologije i društva.
Takođe, u Beogradu se uvodi pametan video nadzor, sa hiljadama kamera i softverom za prepoznavanje lica, što je izazvalo je opravdanu zabrinutost u javnosti.
Prijavite se putem forme, ulaz je besplatan a na raspolaganju je 37 mesta.
Vodiči SHARE Fondacije “Informaciona bezbednost” i “Centar za prevenciju bezbednosnih rizika u IKT sistemima – CERT” inovirani su u skladu sa izmenama i dopunama Zakona o informacionoj bezbednosti.
Novi vodiči pripremljeni su u saradnji sa RATEL-om, Ministarstvom trgovine, turizma i telekomunikacija, Misijom OEBS-a u Srbiji i Ambasadom Švedske. Oni predstavljaju pregled i tumačenje obaveza IKT sistema od posebnog značaja i pojašnjenje rada centara za prevenciju bezbednosnih rizika u IKT sistemima (CERT). Predgovore vodiča napisali su državna sekretarka u Ministarstvu trgovine, turizma i telekomunikacija Republike Srbije Tatjana Matić i direktor RATEL-a dr Vladica Tintor.
Izmene Zakona o informacionoj bezbednosti, usvojene u oktobru 2019. godine, približile su ovu oblast pravnom okviru Evropske unije, odnosno NIS direktivi. Zakonom se uređuju mere zaštite od bezbednosnih rizika u informaciono-komunikacionim sistemima, odgovornosti pravnih lica prilikom upravljanja i korišćenja informaciono-komunikacionih sistema, a određuju se i nadležni organi za sprovođenje mera zaštite, koordinaciju između činilaca zaštite i praćenje pravilne primene propisanih mera zaštite.
Vodič “Informaciona bezbednost” objašnjava osnovna zakonska načela informacione bezbednosti, ulogu nadležnih organa u ovoj oblasti, delatnosti operatora IKT sistema od posebnog značaja, njihove zakonske obaveze i odgovornosti, kao i linkove ka dodatnim resursima.
SHARE Fondacija i istraživačka mreža BIRN danas su predstavili bazu povreda digitalnih prava i sloboda u šest zemalja jugoistočne Evrope, koja je deo istraživačkog deska BIRD, interaktivne platforme koja sadrži resurse za novinare, praktične savete, vesti iz sveta digitalnih prava i druge korisne informacije.
Monitoring baza prati stanje digitalnih prava u Bosni i Hercegovini, Hrvatskoj, Severnoj Makedoniji, Srbiji, Mađarskoj i Rumuniji, a dostupna je na engleskom i lokalnim jezicima. Dokumentovanjem slučajeva i predstavljanjem načina na koji su izvršene povrede digitalnih prava, BIRN i SHARE Fondacija imaju za cilj da ukažu na bezbednosne probleme, povećaju odgovornost i promovišu zaštitu i uživanje ljudskih prava i sloboda.
Slučajevi kršenja dokumentuju se opisima povreda i navođenjem odgovarajućih izvora kako bi se pružili podaci o trendovima i naglasila uloga tehnologije u razmatranju socijalnih pitanja u ciljnim zemljama.
Kategorizovanje slučajeva se vrši prema vrsti povrede, sredstvima napada, kao i akterima, uključujući pogođene strane i napadače. Ovo je važno kako za razumevanje šireg društvenog konteksta, tako i za praćenje specifičnosti kršenja digitalnih prava i sloboda u određenoj državi.
Kontinuirano praćenje digitalnih pretnji i izveštavanje o povredama digitalnih sloboda vršiće se u skladu sa detaljnom metodologijom, koristeći smernice zasnovane na znanju i ekspertizi SHARE Fondacije. Slučajevi iz Srbije se prate od 2014. godine, dok je monitoring u drugim državama počeo u avgustu 2019.
U poslednja tri meseca 2019. godine, SHARE Fondacija zabeležila je preko 20 slučajeva povreda digitalnih prava u Srbiji. Kako i u prethodna dva perioda, u ovom dominiraju slučajevi pritisaka zbog izražavanja i aktivnosti na internetu. Primećen je porast broja slučajeva narušavanja informacione bezbednosti, te se u ovom periodu monitoringa desilo čak 5 povreda iz ove kategorije. Ne tako česta kategorija povreda digitalnih prava iz kategorije ostalih povreda, u periodu od tri posmatrana meseca zabeležena je dva puta. Razlika u odnosu na prethodne periode monitoringa jeste i u primećenom padu broja slučajeva povreda informacione privatnosti i zaštite podataka o ličnosti. Dogodila su se dva ovakva slučajeva i to oba iz potkategorije nedozvoljene obrade podataka o ličnosti.
Narušavanje informacione bezbednosti je kategorija povreda koja je dominirala kada je SHARE Fondacija započela monitoring 2014. godine, da bi se tokom godina postepeno smanjivala. U 2019. godini, do septembra su zabeležena svega tri incidenta ove vrste. Međutim, od oktobra do decembra desilo se čak 5 slučajeva tehničkih napada, po dva iz potkategorija računarskih prevara i činjenja sadržaja nedostupnim putem tehničkih metoda, kao i jedan iz potkategorije neovlašćenog pristupa. Tako je portalu Kossev bio onemogućen pristup na dan izbora na Kosovu, a desio se i tehnički napad na portal o kulturi i umetnosti Direktna reč. Takođe, napravljena je lažna anketa Akademske mreže Srbije, neovlašćeno je preuzet i Jutjub kanal naučne televizije Brainz TV i na njega postavljeni video-klipovi sa američke televizije Foks njuz. U decembru je primećena i zabeležena kampanja širenja malicioznih mejlova (phishing) u vezi sa dve domaće banke. U porukama koje su stizale elektronskom poštom sa naizgled legitimnih adresa banaka, napadači su dodali dokument kao prilog koji sadrži maliciozni softver.
Jedan od upečatljivih slučajeva koji predstavlja kombinaciju kategorija povrede informacione privatnosti i zaštite podataka o ličnosti i kategorije ostalo jeste slučaj slanja SMS poruka građanima uoči izbora na Kosovu. Naime, građanima severa Kosova je Telekom Srbija slao poruku kojom su se pozivali da glasaju za Srpsku listu. Svakako najdrastičniji slučaj u ovom periodu dogodio se prokupačkom novinaru Ljubiši Mitiću, koji je osuđen na kaznu kućnog zatvora od tri meseca zbog fotografije. Naime, novinar je osuđen za krivično delo neovlašćenog objavljivanja i prikazivanja tuđeg spisa, portreta i snimka zbog navodnog objavljivanja fotografije na portalu “Prokuplje, moj kraj”, čiji je bio urednik. Kao dokaz da je fotografija objavljena predat je odštampani snimak ekrana (screenshot) koji su i Viši i Osnovni sud u Prokuplju prihvatili kao dokaz i osudili novinara u svojstvu službenog lica. Ovakvi slučajevi pokazuju koliki je zapravo nivo nerazumevanja tehnologije i digitalnog okruženja među predstavnicima državnih organa, koji odlučuju o pravima i slobodama građana.
Pretnje su, kao i u prethodnim periodima, uglavnom upućivane novinarima. Tako je narodni poslanik i predsednik SRS Vojislav Šešelj na Tviteru pretio smrću sportskom novinaru Milojku Pantiću, posle čega mu je blokiran Tviter nalog. Pretnje su upućene i novinaru sajta Fake News Tragač Stefanu Janjiću, kao i Slobodanu Georgijevu, dok je odbornica Zavetnika u niškom parlamentu Južnim vestima na Fejsbuku poručila da će biti “ugašeni”. Još jedan upečatljiv slučaj iz potkategorije pritisaka zbog objavljivanja informacija jeste pritisak na bugarsku novinarku da obriše tekst o umešanosti oca ministra unutrašnjih poslova Srbije u poslove trgovine oružjem i objavi demanti. SHARE Fondacija od ove godine je u saradnji sa BIRN-om proširila proces monitoringa digitalnih prava i sloboda na još pet zemalja regiona (BiH, Hrvatska, Mađarska, Severna Makedonija i Rumunija) imajući u vidu i međunarodni aspekt ovih problema.
Povreda iz kategorija onlajn manipulacija dovela je do toga da da Istinomerova onlajn anketa za “laž decenije” bude obustavljena zbog masovnog koordinisanja glasanjem. Naime, portal Istinomer prekinuo je anketu nakon naglog povećanja broja glasova, koji je od desetak hiljada za nedelju dana porastao na više stotina hiljada u roku od nekoliko časova. Posle masovnog povećanja glasova, postupci prethodne vlasti, tj. sadašnje opozicije, preuzeli su prednost na anketi.
SHARE Fondacija je krajem godine takođe predstavila prvi višegodišnji presek stanja monitoringa stanja digitalnih prava i sloboda u Srbiji izdavanjem knjige “Greška 404: Digitalna prava u Srbiji 2014-2019”. “Greška 404” je kroz hronološki pregled, analizu slučajeva i trendova, kao i ličnu perspektivu ljudi koji su osetili povrede digitalnih prava tokom godina, dala do sada najdublji uvid u monitoring i stanje ljudskih prava na internetu u Srbiji, koje ćemo nastaviti da pratimo i u narednim godinama.
SHARE Fondacija je Povereniku za informacije od javnog značaja i zaštitu podataka o ličnosti podnela prekršajne prijave protiv Fejsbuka i Gugla zbog nepoštovanja obaveze da imenuju predstavnike u Srbiji za pitanja zaštite podataka o ličnosti. U maju ove godine, pre početka primene novog Zakona o zaštiti podataka o ličnosti, SHARE Fondacija je poslala pisma na adrese 20 svetskih kompanija i pozvala ih da imenuju predstavnike u Srbiji, u skladu sa novim zakonskim obavezama.
Imenovanje predstavnika ovih kompanija nije formalnost, već pitanje od suštinskog značaja za ostvarenje prava građana Srbije propisanih Zakonom. U trenutnim okolnostima, kompanije kao što su Gugl i Fejsbuk posmatraju Srbiju, kao i mnoge zemlje u razvoju, kao teritorije za neregulisanu eksploataciju privatnih podataka građana, iako se Srbija novim Zakonom o zaštiti podataka uskladila sa pravilima jedinstvenog evropskog digitalnog tržišta. Naime, navedene kompanije prepoznaju Srbiju kao relevantno tržište, te nude svoje usluge građanima Republike Srbije i prate njihove aktivnosti. U toku poslovanja, ove kompanije obrađuju veliki broj podataka građana Srbije i na tome ostvaruju ogroman profit. S druge strane, građanima su novim Zakonom garantovana brojna prava u odnosu na ovakvu obradu, ali se trenutno čini da bi ostvarivanje tih prava bilo suočeno sa brojnim poteškoćama.
Između ostalog, ove kompanije ne obezbeđuju jasne kontaktne tačke kojima se naši građani mogu obratiti – na raspolaganju su im uglavnom formulari za prijavu koji su na stranom jeziku. Naše iskustvo je pokazalo da takvi formulari nisu adekvatni jer zahtevaju od građana Srbije napredno znanje stranog jezika, ali i zbog toga što ovu vrstu komunikacije najčešće vrše programi koji šalju generičke automatizovane odgovore.
Iako novčane kazne po domaćem Zakonu o zaštiti podataka o ličnosti koje može da izrekne Poverenik, u ovom slučaju u iznosu od 100.000 dinara, svakako ne bi imale velike posledice po budžete ovih gigantskih kompanija, smatramo da bi pokazale da nadležni organi Republike Srbije nameravaju da zaštite naše građane te da ove kompanije ne posluju u skladu sa domaćim propisima.
Esej Anatomija AI sistema Vladana Jolera i Kejt Kroford osvojio je “Beazley Design of the Year” nagradu za dizajn godine. Dodela nagrada i prateća ceremonija održavaju se u londonskom Muzeju dizajna svake godine, a imaju za cilj da predstave originalne i inovativne dizajne u različitim oblastima. Izabrano je još pobednika iz šest kategorija: proizvodi, transport, grafika, moda, digitalna umetnost i arhitektura. Pobednički dizajni, zajedno sa još 70 nominacija, biće prikazani u muzeju do 9. februara 2020. godine.
Anatomija AI Sistema takođe je, pored glavne nagrade, osvojila i nagradu iz kategorije digitalne umetnosti, gde su neki od konkurenata bili sajt koji stvara lažne portrete (“This person doesn’t exist”), virtuelni asistent kojim upravljaju misli (“Alterego”) i sistem koji trenira algoritme kako da uče (“Myriad – Tulips”). Prošlogodišnji pobednik godine za sve kategorije bila je Counter Investigations, izložba forenzičke arhitekture na Institutu za savremenu umetnost u Londonu, koja je pobedila i u kategoriji digitalne umetnosti. Godine 2017. za glavnu nagradu je izabran Nacionalni muzej afroameričke istorije i kulture, dok je u kategoriji digitalne umetnosti za pobednika izabrano brzo tečno štampanje (Self-Assembly Lab, u kolaboraciji sa Steelcase).
Anatomija AI sistema je prikaz složene mape eksploatacije ljudskog rada, podataka i prirodnih resursa, kroz prizmu jednog “Amazon Eho” uređaja. Ovaj uređaj pokreće Aleksa govorni asistent. Odnosi koji se razvijaju kroz procese “rađanja”, funkcionisanja i smrti “Amazon Eho” jedinice imaju mnogo dublje posledice po društvo, ekonomiju, politiku i životnu sredinu nego što se na prvi pogled čini, upravo zbog složenosti razvoja jednog sistema veštačke inteligencije (AI) koji zahteva ogromne količine resursa kao što su kapital, rad i priroda. Od ručnog iskopavanja retkih metala u Africi, preko dehumanizujućih uslova rada u kineskim fabrikama do gotovo potpuno automatizovanih Amazonovih skladišnih centara, stvara se nova akumulacija moći i bogatstva koja se koncentriše u veoma tankom socijalnom sloju, kome pripadaju ljudi poput direktora kompanije Amazon Džefa Bezosa, jednog od najbogatijih ljudi današnjice.
Kratak pregled razgovora sa promocije knjige ‘Greška 404 – Digitalna prava u Srbiji‘. Govore Danilo Krivokapić, Rodoljub Šabić, Svetlana Lukić, Milica Šarić i Andrej Petrovski.
Promocija knjige “Greška 404: Digitalna prava u Srbiji 2014-2019” održana je u utorak, u 18 časova, u “Spratu”. Na promociji su govorili Svetlana Lukić, urednica portala Peščanik, Rodoljub Šabić, bivši Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti, Milica Šarić, urednica CINS-a i Andrej Petrovski, direktor SHARE CERT-a.
Uvodnu reč imao je direktor SHARE Fondacije Danilo Krivokapić. On je istakao da je u Srbiji internet slobodan i otvoren na nivou mreže, što je privilegija koju verovatno većina svetskog stanovništva nema. Ipak, postoji težnja da se uspostavi kontrola nad informacija u Srbiji i da to pokazuje 500 slučajeva povreda digitalnih prava koje je zabeležila SHARE Fondacija u ovom periodu. Napomenuo je i da su izazovi u digitalnoj sferi brojni, da druga strana ulaže sve više resursa u nove tehnologije i veštačku inteligenciju kao oruđe za nadzor i kontrolu informacija.
Svetlana Lukić, urednica portala Peščanik istakla je da su napadi na Peščanik počeli 2008. godine, te da su kulminirali 2014. godine, nakon objavljivanja tekstova o doktoratima Nebojše Stefanovića i Siniše Malog. Ona je rekla da su ovi napadi prijavljivani, ali nisu dobijeni adekvatni odgovori od tužilaštva. Takođe, Lukić je naglasila da napadi na internetu brzo prerastu u fizičko nasilje i koliko je lako postati državni neprijatelj. Nije potrebno, kaže ona, da ljudi čuju emisije ili pročitaju tekstove, dovoljno je da neko čuje da je reč o neprijateljima, da bi se postala meta pretnji, pa čak i fizičkih napada, što se urednicama Peščanika mnogo puta dešavalo.
Bivši Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti Rodoljub Šabić dao je primer Srbije kao zemlje u kojoj je uspela da se kompromituje kompletna baza podataka punoletne populacije na sajtu Agencije za privatizaciju, kao i najosetljiviji podaci o građanima preko aplikacije Izabrani doktor. Šabić se osvrnuo i na lošu MUP-ovu procenu uticaja obrade na zaštitu podataka o ličnosti korišćenjem sistema video nadzora, na koju su SHARE Fondacija, Partneri za demokratske promene Srbija i Beogradski centar za bezbednosnu politiku dali dobru Analizu.
Milica Šarić izdvojila je nekoliko primera tehničkih napada koji su se dešavali redakciji “CINS-a”. Ona je istakla da je svaka vrsta forme gde ljudi mogu da ostave nešto na sajtu, kao na primer formular ili anketa, prestavlja rizik napada na sajt. Pored toga, Šarić je napomenula da novinari u CINS-u imaju problema da objasne ljudima koji žele da im dostave poverljive informacije da to ne mogu da urade preko telefona i društvenih mreža, jer se oni prisluškuju i prate.
Završnu reč na panelu imao je direktor SHARE CERT-a Andrej Petrovski, koji je istakao da ako se ovakve povrede digitalnih prava i siutacije koje su doživljavali autori priča u knjizi nastave, samo će naterati sve veći broj mladih i hrabrih ljudi da prestanu da se bave ovakvim temama, a ništa ne ukazuje da će se trenutno stanje poboljšati.
EDIT (26. novembar 2019, 11:18h): Nakon objavljivanja ovog teksta, Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti objavio je mišljenje o MUP-ovoj proceni uticaja za sistem pametnog video nadzora u Beogradu. Poverenik je u mišljenju utvrdio da procena uticaja nije urađena u skladu sa relevantnim odredbama Zakona o zaštiti podataka o ličnosti. Mišljenje je dostupno na ovom linku: https://praksa.poverenik.rs/predmet/detalji/FB967E2A-AE57-4B2C-8F11-D2739FD85A9B.
Uvođenje pametnog video nadzora, sa hiljadama kamera u javnom prostoru i softverom za prepoznavanje lica, uz protivrečne izjave funkcionera i uskraćivanje informacija, izazvalo je opravdanu zabrinutost u javnosti. Od najave novog sistema, organizacije građanskog društva su nastojale da prate usklađenost procedura sa Ustavom Srbije i važećim zakonima, uprkos netransparetnosti čitavog procesa od strane nadležnih institucija.
Jedan od značajnih segmenata zakonite procedure jeste i izrada procene uticaja novog sistema nadzora na prava građana. SHARE Fondacija, Partneri za demokratske promene Srbija i Beogradski centar za bezbednosnu politiku konačno su dobili ovaj dokument posrednim putem, od Poverenika za informacije od javnog značaja i zaštitu podataka o ličnosti.
Organizacije su izradile i objavile detaljnu analizu Procene uticaja obrade na zaštitu podataka o ličnosti korišćenjem sistema video nadzora Ministarstva unutrašnjih poslova. Zajednički zaključak analize glasi da Procena uticaja MUP-a ne ispunjava ni formalne ni materijalne uslove propisane zakonom. Shodno tome, Ministarstvo unutrašnjih poslova bi trebalo da do daljeg obustavi uvođenje sistema za pametan video nadzor.
Procena uticaja ne ispunjava minimum propisanih zakonskih elemenata: metodologija izrade i struktura Procene uticaja nisu usaglašeni sa zahtevima zakona; ne postoji sveobuhvatan opis predviđenih radnji obrade ličnih podataka; nisu procenjeni rizici po prava i slobode građana; nisu opisane mere koje se nameravaju preduzeti u odnosu na postojanje rizika; delimično su opisane tehničke, organizacione i kadrovske mere u cilju zaštite ličnih podataka.
Sporan je pravni osnov za masovno korišćenje sistema pametnog video nadzora, dok su pozitivni efektina smanjenje kriminaliteta izneti u Proceni uticaja precenjeniusled činjenice da su relevantna istraživanja i uporedna praksa korišćeni selektivno. Takođe, Procenom uticaja nije utvrđeno da jeupotreba pametnog video nadzora neophodna zarad javne bezbednosti, niti da je upotreba ovako invazivne tehnologije proporcionalna, imajući u vidu rizike po prava i slobode građana.
Procena uticaja sadrži primere zemalja koje se umnogome oslanjaju na video nadzor, ali se zanemaruje rastući trend zabraneili ograničavanjaovakvih sistema u svetu, zbog prepoznatih rizika.
Organizacije pozivaju MUP da do daljeg obustavi uvođenje sistema za pametan video nadzor, te naglašavaju potrebu da se sprovede široka javna rasprava o potrebama, efektima i mogućim posledicama uvođenja ovakvog sistema.
Tim SHARE Fondacije je pre pet godina počeo da dokumentuje povrede digitalnih prava i sloboda u Srbiji i do sada klasifikovao i opisao više od 500 slučajeva. Pored ličnog svedočenja ljudi koji su bili na meti napada, knjiga sadrži analizu nekih od najznačajnijih slučajeva, kao i trendova u domaćim i međunarodnim okvirima bezbednosti na internetu. Na promociji govore Svetlana Lukić (portal Peščanik), Dragana Pećo (KRIK), Branko Čečen (CINS) i Rodoljub Šabić (bivši Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti).
Knjiga tematski pokriva pojedine oblasti monitoringa digitalnih prava, odnosno tehničke napade, povrede privatnosti, pretnje i pritiske, onlajn manipulacije, kao i druge vrste rizika. Kroz hronološki pregled, analizu najzanimljivih slučajeva i nadolazećih trendova, donosimo sveobuhvatan pogled na preovlađujuće stanje prava i sloboda na internetu u Srbiji i ono što nas može očekivati u budućnosti.
Digitalna verzija knjige će biti slobodno dostupna, dok će svi koji doniraju 1000 ili više dinara dobiti štampani primerak publikacije.
Od ove godine proces monitoringa je u saradnji sa istraživačkom mrežom BIRN proširen na zemlje regiona – Bosnu i Hercegovinu, Hrvatsku, Mađarsku, Rumuniju i Severnu Makedoniju.
Monitoring baza SHARE Fondacije, u kojoj su dokumentovani i opisani slučajevi povreda digitalnih prava u Srbiji, dostupna je na adresi monitoring.labs.rs.
