Fejsbuk protiv Australije: Budućnost tržišta informacija
Tekst je izvorno objavljen u Novom magazinu.
Nesporna je činjenica da je u poslednjih nekoliko godina dodatno zamućena linija između činjenica i osećanja. U jeku svakodnevnih negativnih vesti, svako ima potrebu da pročita ili čuje nešto ohrabrujuće. Ali važno je uvek uzeti u obzir po koju cenu jurimo te pozitivne vesti. Kao što smo videli u skorijim primerima, ova potera za veselim i ohrabrujućim vestima, pogotovo u periodu generacijske krize kakva je ova izazvana koronavirusom, može se otrgnuti kontroli i ostaviti nas u poziciji da sa iznenađenjem gledamo upad pristalica predsedničkog kandidata koji je izgubio izbore u jednu od najznačajnijih institucija demokratije u Sjedinjenim Američkim Državama. Refleksna je reakcija da su počinioci prosto nerazumni fanatici koji ne razlikuju istinu od laži, ali činjenica je da je situacija dosta složenija od toga. Naime, upravo je ta potera ohrarujućih vesti ono što je te ljude motivisalo da urade to što su uradili. U njihovim očima, istina je ono za šta se oni bore.
Polarizacija je postao novi sveobuhvatni termin kojim se služimo da objasnimo urušavanje institucija, gušenje javne debate i političke nesuglasice. Ali u suštini ove polarizacije leži duboka polarizacija medijskog prostora, koja predstavlja jednu od najvećih pretnji na duže staze. Cenzura, autocenzura i širenje dezinformacija postale su opšte mesto u proizvodnji medijskog sadržaja i na taj način uspešno guše nezavisne i slobodne medije čiji je opstanak mnogo neizvesniji od recimo tabloida i veb stranica koje služe sa generisanje klikbejta. Svakako ne smemo zaboraviti da postoji još jedan ključni akter u dinamici dostavljanja vesti od medija do građana.
Društvene mreže preuzele su ulogu iz senke kao veliki uređivači sadržaja, kontrolišući i određujući vesti koje njihovi korisnici dobijaju, zavisno od njihovih interesa i prijatelja. Takozvani informacioni baloni diktiraju širenje i prijem informacija bez objektivnog i sveobuhvatnog pogleda na stvari i događaje. I sve to se dešava preko leđa medija koji su previše prisutni, a opet premalo prepoznati.
Prethodnih nekoliko dana smo mogli da pratimo veliku dramu koja se odvijala u digitalnom prostoru između vodećih tehnoloških kompanije i Australije. Ukratko, australijskim medijskim organizacijama onemogućeno je da dele vesti na svojim Fejsbuk stranama, što je takođe onemogućilo korisnicima u Australiji da direktno dele sadržaje koji čine onlajn vesti na toj društvenoj mreži. Naime, Australija je rešila da donese zakon kojim obavezuje giganta društvenih mreža da medijima plaća određenu kompenzaciju kada se na platformi dele njihovi sadržaji. Ipak nekako očekivano, Fejsbuk je izrazio da se ne slaže sa novonastalim uređenjima i da će naprosto zabraniti izdavačima i korisnicima u Australiji da dele ili gledaju australijski i međunarodni sadržaj vesti. Krajnje jednostavno, ova platforma će onesposobiti opciju deljenja linkova na kojima se nalaze vesti.
Ovo možda ne zvuči tako strašno na prvu pomisao, ali kada se malo uđe u ceo ekosistem dolazi se do zaključka da će cela Australija ostati bez izvora informacija tj da mediji neće moći da dele svoje vesti, kao ni građani da te iste vesti primaju. Iako je Gugl pristao da sklopi dogovore sa medijskim kućama u zemlji, Fejsbuk je odlučio da čvrsto stoji u mestu. Za samo nekoliko dana koliko je trebalo da se odvije ova drama, posećenost medijskih sajtova koje je Fejsbuk blokirao opala je za čak 13 posto. Među blokiranim sadržajima našli su se i sajtovi australijske vlade, koji su prenosili važne informacije o dolazećoj kampanji za vakcinaciju protiv koronavirusa u zemlji. Ovo nam jasno pokazuje spregu snaga, to jest, koliki je zapravo ucenjivački potencijal jedne globalne kompanije kao što je Fejsbuk. Trenutno je u pitanju jedna velika i jaka zemlja kao što je Australija, što nas dalje navodi na razmišljanje šta će se desiti kada u pitanju bude neka manja zemlja, sa nestabilnijom vladom i pozicijom za pregovaranje?
Australija svakako nije prva zemlja koja je pokušala da reguliše rad Fejsbuka i drugih velikih platformi. Godinu dana je prošlo od prvog predloga u Evropskoj uniji, a samo pre nekoliko dana je i Kanada najavila da će krenuti istim stopama. Iako Fejsbuk uporno tvrdi da je u pitanju pokušaj ugrožavanja principa otvorenog interneta, deluje da su razlozi za njihovo protivljenje ipak malo složeniji.
Za medije koji se uporno nalaze u sve goroj finansijskoj situaciji, ovakav sistem bi možda pomogao da se održe finansijski, uprkos činjenici da se građani sve češće oslanjaju na društvene mreže kako bi dobili sve svoje informacije. Ono što ne bi trebalo da se zaboravi je da su upravo tradicionalni mediji ti koji su zaslužni za najveći broj vesti koje preletimo dok provodimo vreme na društvenim mrežama. U celoj toj mišolovci, ponekad je lako zaboraviti da je upravo tim medijima potrebna ta skromna suma koju su prethodne generacije izdvajale kako bi svakog dana prelistale dnevnu štampu i ostale u toku sa dešavanjima u svetu.
Danas radije listamo i klikćemo, ali je suština nekako ista: mediji nisu slobodni ako nisu učinkoviti i ako nisu dostupni svima i zavise od tehnoloških kompanija kojima je glavni podsticaj stvaranje profita.
Novonastali biznis modeli za tradicionalne medije sve češće insistiraju na onlajn hiperprodukciji kako bi ostali relevantni, a pristup sadržaju takođe ne zavisi više iskuljučivo od njihovih kanala, već često od globalnih platformi kao što su društvene mreže, što navodi medije da manipulišu čitaocima na različite načine i dovodi do novih vrsta problema. Razvoj komunikacije putem brojnih platformi, a naročito društvenih mreža, posledično je doveo do novih vrsta komercijalnih poruka koje zakonodavstvo, kao što je to obično slučaj sa tehnologijom, ne uspeva dovoljno brzo da prati. Određeni oblici koji spadaju u sivu zonu oglašavanja prisutni su već dugo, kao “inforeklame” (infomercials) – naizgled informativni medijski sadržaji kojima se zapravo promovišu određeni proizvodi i usluge.
Jasno je da online mediji pribegavaju različitim metodama kako bi obezbedili dodatno finansiranje. Da li nekada to čine iz nehata ili sa namerom, teško je reći, ali često se mogu videti različita kršenja kodeksa i našeg pravnog okvira, koji ne uznemirava ni medije ni javnost u meri u kojoj bi trebalo. Najćešće se dešava da komercijalni sadržaj nije označen na način koji bi trebalo. Kodeks novinara Srbije navodi da novinar ne sme da pristane da u bilo kojoj novinarskoj formi plasira bilo kakav oblik komercijalnog oglašavanja ili političke propagande. Pored kodeksa dodatno pojašnjenje nam daju i Smernice za primenu kodeksa u online okruženju, koje definišu prikriveno oglašavanje gde svaki oblik komercijalnog oglašavanja i političke propagande mora jasno biti razdvojen od novinarskog i korisnički stvorenog sadržaja. Prilikom razdvajanja mora se voditi računa o nivou medijske i digitalne pismenosti korisnika. Promotivni sadržaji se označavaju korišćenjem oznake prepoznatljivosti u skladu s propisima i samoregulatornim instrumentima koji uređuju oglašavanje (npr. “plaćeni prostor”, “oglasna poruka”, “promotivni sadržaj”, “advertorijal” i sl). Nažalost, to često nije slučaj u praksi, te se na svakom koraku mogu pronaći komercijalni sadržaji koji su nam predstavljeni kao vest, a ne reklama.
Pored ovih problema, u Srbiji se od nedavno javlja novi model uzurpacije medijskog ekosistema koji građane može dovesti u zabludu. Tako se početkom 2020. godine pojavio duplikat poznatog čačanskog online medija Ozonpress. U potpunosti je preuzet izgled ovog online medija, njegov logo i registrovan domen ozonpress.rs, dok je orginalna web adresa ozonpress.net, što čitaoce veoma lako može zbuniti u pogledu stvarnog izvora informacija jer se sadržaji ovih sajtova u potpunosti razlikuju. Na portalu ozonpress.rs ne postoje informacije u delu “O nama” i “Impresum”, što svakako govori da ne znamo ko stoji iza ovog sadržaja, te da nije u skladu sa važećim proposima niti sa kodeksom novinara. Očigledno možemo zaključiti da je u pitanju loša namera, tj. preuzimanje reputacije postojećeg medija zarad ostvarivanja određenih interesa. Do danas ovaj problem nije rešen i oba portala koegzistiraju, ali sa bitno drugačijom uređivačkom politikom. Godinu dana kasnije dešava se identična stvar sa niškim portalom Južne vesti i koliko možemo da vidimo, isti ljudi se spominju kao osnivači dupliranih medija po istom principu. Ovaj mehanizam očigledno ima uspeha čim se ponovo koristi.
S obzirom na ogromnu količinu sadržaja koji u onlajn okruženju kreiraju mediji, organizacije, korisnici društvenih mreža i drugi akteri, od naročitog značaja je da se prava priroda takvog sadržaja, ukoliko je on zaista komercijalan, jasno naznači i predstavi. Informaciona i digitalna pismenost su takođe važne za prepoznavanje i razumevanje neetičkih i nedozvoljenih praksi kada je reč o sadržaju koji je u svojoj biti komercijalan.
Svima nam je već sada jasno da digitalno okruženje prevazilazi nacionalne granice, u potpunosti remeti do sada nama poznat poredak i dovodi u pitanje da li možemo da koristimo do sada poznate mehanizme da rešimo sporove. Takve okolnosti svakako dovode da toga da su pred nama ogromni izazovi kako za same medije i autore, tako i za države koji to treba da regulišu kako bi zaštitili građane. Upravo na primeru Australije razumljiva je namera države da pokuša da reguliše ekonomiju medijskog biznisa unutar svoje jurisdikcije, međutim suočeni su sa nedovoljno ispitanim izazovima i ograničenjima. Na kraju, različite manipulacije dovode do toga da građani gube kontrolu, mediji ne uspevaju da pronađu efikasne načine za održivost njihovih biznis modela i pitanje je kako će to da se završi. Izgleda da ćemo morati da sačekamo još neko vreme da vidimo da li će neki entitet, recimo Evropska unija, uspeti da izbori bitku za sve nas i pronađe mehanizam koji će nam svima pomoći.
Nevena Krivokapić Martinović je koordinatorka SHARE Fondacije za onlajn medije i slobodu izražavanja i advokatica. Poseduje višegodišnje iskustvo u oblastima medijskog, poslovnog i IT prava.
Čitaj još:
Transparentno o izmenama Zakona o slobodnom pristupu informacijama od javnog značaja
Povodom ponovnog otvaranja procesa izmena i dopuna Zakona o slobodnom pristupu informacijama od javnog značaka, Koalicija za slobodu pristupa informacijama podnela je zahtev Ministarstvu državne uprave i lokalne samouprave za dostavljanje svih informacija o ovom procesu, uključujući i plan rada radne grupe.
Naime, pre meseca dana započeo je rad na izmenama Zakona o slobodnom pristupu informacijama od javnog značaja na netransparetna način bez uključivanja javnosti u ovaj proces, uz najave zvaničnika da će on biti okončan u vrlo kratkom roku, odnosno do kraja prvog kvartala ove godine. Ministarstvo je formiralo Posebnu radnu grupu, kojom predsedava državni sekretar Ministarstva, a čine je isključivo predstavnici organa vlasti, uključujući i poverenika za informacije od javnog značaja i zaštitu podataka o ličnosti. Ovakav sastav Radne grupe, kao i kratki rokovi za završetak procesa, mogu uticati na kvalitet predloženih rešenja i javne rasprave o Nacrtu.
Podsećamo, Koalicija za slobodu pristupa informacijama je 2018. godine pokrenula kampanju za odbranu prava javnosti da zna “SrbijaDoInformacija”, kada je Vlada predložila izmene ovog zakona koje bi suštinski onemogućile građanima ostvarivanje ovog prava. Koalicija je već tada ukazala na veoma štetne odredbe Nacrta zakona o izmenama i dopunama Zakona kojim se sužavao krug obveznika Zakona, uz formalno otežani postupak pribavljanja informacija u slučajevima u kojim institucija ne postupi po zahtevu građana.
U vezi sa najavama izmena Zakona, Koalicija za pristup pravdi zahtevala je od Ministarstva da se sprovede javna rasprava nakon rada ove radne grupe, što je potvrđeno u odgovoru Ministarstva. Više o zahtevu ove koalicije pročitati ovde.
Pravo na pristup informacijama, kao ustavom zajemčeno ljudsko pravo, je ključno za ostvarivanje drugih prava, ali i demokratsku kontrolu rada svih organa vlasti i utvrđivanja odgovornosti nosilaca javnih funkcija. Ujedno, pravilno ostvarivanje ovog prava omogućava organima vlasti da odgovorno postupaju sa informacijama i dokumentuju svoj rad i tako ispune svoju ulogu koja im od društva data.
Članice Koalicije za slobodu pristupa informacijama:
Beogradski centar za bezbednosnu politiku
Beogradski centar za ljudska prava
CRTA
Fondacija za otvoreno društvo
Građanske inicijative
Inicijativa mladih za ljudska prava
Komitet pravnika za ljudska prava
Odbor za ljudska prava Niš
Partneri za demokratske promene Srbija
PRAXIS
SHARE Fondacija
Toplički centar za demokratiju i ljudska prava
Transparentnost Srbija
Udruženje građana Sretenje, Požega
Čitaj još:
SHARE Bilten: Na pragu distopije, biometrijski nadzor u EU, ljudska prava u krizi…
Onlajn događaj “#hiljadekamera: Beograd na pragu distopije” održaće se 25. februara u 19h (YT i FB strim). Saznaćeš kako radi tehnologija prepoznavanja lica, zašto je sistem nezakonit, kakve rizike donosi celom društvu i kako da se uključiš u borbu za slobodu svakog od nas.
Više informacija → hiljade.kamera.rs
Više desetina organizacija građanskog društva, brojni aktivisti i eksperti pozvali su građane EU da sa milion potpisa podrže inicijativu za donošenje zakona o zabrani biometrijskog nadzora u EU i stave zahtev pred Evropski parlament.
Inicijativa je deo panevropske kampanje “Reclaim Your Face” (“Ne snimaj mi lice”) lansirane prošle jeseni, u kojoj učestvuje i Srbija kroz SHARE Fondaciju i lokalnu inicijativu #hiljadekamera → SHARE Fondacija
Pojačavajući postojeće pritiske na ljudska prava, pandemija COVID-19 donela je velike izazove zajednicama koje već trpe nejednakosti i nepravde u svojim državama, jer su mnoge od njih pribegle ekstremnim merama u vreme epidemije.
Izveštaj “Ljudska prava u pandemiji” mapira različita odstupanja od ljudskih prava koje su uvele države u regionu → Civil Rights Defenders
PLUS:
Danilo Krivokapić u podkastu o biometrijskom nadzoru → Radio aparat/Mixcloud
Detalji iz stvaranja i rada “Vrhovnog suda” Fejsbuka → The New Yorker
Crna Gora: 163 tužbe protiv države zbog objavljivanja spiskova ljudi u samoizolaciji → Vijesti
Gašenje interneta u Mjanmaru i građanski protesti → The Guardian
Uredba o e-privatnosti: godine pregovora, lobiranja i drame → Politico EU
Pregled čet aplikacija otvorenog koda koje su alternative za WhatsApp → ProtonMail
#hiljadekamera: Beograd na pragu distopije
Budi onlajn u četvrtak, 25. februara, u 19h da čuješ više o #hiljadekamera i distopiji koja nam preti sa masovnim biometrijskim nadzorom u Beogradu. Saznaćeš kako radi tehnologija prepoznavanja lica, zašto je sistem nezakonit, kakve rizike donosi celom društvu i slobodi svakog od nas.
Ljudi iz inicijative #hiljadekamera i njihovi gosti govoriće i o tokovima naših podataka u vreme kada države i korporacije pretvaraju san o globalnom povezivanju ljudi i ideja, u noćnu moru kontrole. Pitaj sve što ne razumeš o biometrijskoj tehnologiji, dobićeš odgovor. Događaj će trajati sat vremena, sa prenosom na YT i FB.
Registracija nije obavezna, ali je korisna: dobićeš podsetnik sa linkovima za strim.
Čitaj još:
Zahtev za zabranu biometrijskog nadzora u proceduri Evropskog parlamenta
Građani Evropske unije od srede 17. februara potpisuju peticiju za zabranu masovnog biometrijskog nadzora u nameri da, sa milion potpisa, prinude Evropski parlament da uvrsti ovaj zahtev u svoju agendu. U vreme kada EU priprema zakone o veštačkoj inteligenciji, više desetina organizacija građanskog društva, brojni aktivisti i eksperti pozvali su građane zemalja članica da iskoriste jedinstvenu šansu da se zaštita slobode i dostojanstva ljudi ugradi u propise koji će presudno oblikovati budućnost.
Javni pritisak na zakonodavce Unije deo je zajedničke, panevropske kampanje #NeSnimajMiLice – #ReclaimYourFace – koja je lansirana prošle jeseni, a u kojoj učestvuje i Srbija kroz SHARE Fondaciju i lokalnu inicijativu #hiljadekamera. Kampanja za zabranu masovnog biometrijskog nadzora u javnim prostorima evropskih gradova pokrenuta je u koaliciji sa Evropskom mrežom za digitalna prava (EDRi) i više evropskih i svetskih organizacija.
Peticija koju je SHARE tada pokrenuo, mada bez formalnog uticaja na domaće zakonodavce, za samo nekoliko nedelja prikupila je blizu 15.000 potpisa.
Građani Srbije su posebno zainteresovani za hitnu obustavu projekta masovnog biometrijskog nadzora koji se već realizuje u Beogradu, iako je u suprotnosti sa Ustavom i zakonima. Sa hiljadama pametnih kamera na ulicama i trgovima, naš glavni grad postaće prvi grad u Evropi koji će svojim građanima i posetiocima nametnuti život pod stalnim nadzorom.
Potpisi građana EU za peticiju Evropskom parlamentu se verifikuju. Ukoliko imate državljanstvo neke od zemalja članica, potpišite.
Čitaj još:
SHARE Bilten specijal: Nedelja privatnosti
Preveli smo i prilagodili našem pravnom okviru alat koji štiti prava građana u vezi sa podacima o ličnosti.
My Data Done Right pruža pomoć u generisanju i slanju zahteva za pristup, brisanje, ispravku, dopunu ili prenosivost podataka o ličnosti. → MyDataDoneRight.eu
U utorak, 26. januara u 13h, naša Fondacija organizuje panel u okviru Nedelje privatnosti. Prijavljivanje za učešče vrši se popunjavanjem formulara, najkasnije do sutra u 10h.
Celokupna agenda Nedelje privatnosti → Partneri Srbija
Informacioni sistem Covid – 19, centralizovan softver napravljen u cilju kontrole i suzbijanja pandemije u Srbiji, samo nakon par dana od uspostavljanja, pretrpeo je ozbiljan bezbednosni incident.
Kakva povreda privatnosti je izvršena, koji su koraci preduzeti u konkretnom slučaju i njegov epilog, te širi značaj celog događaja analizirani su u studiji slučaja naše Fondacije. → SHARE Fondacija
PLUS:
Privacy Camp – okupljanje evropske zajednice aktivista za digitalna prava → PrivacyCamp/EDRi
Saveti Bojana Perkova za bolju onlajn bezbednost i privatnost u 2021. → Netokracija
Ana Toskić Cvetinović o praćenju građana tokom pandemije → Partneri Srbija
Kako je onlajn medij platio skoro $60.000 da bi očuvao privatnost čitalaca → Revue/The Markup
Mikro-targetiranje u političkim kampanjama: studija 6 država → Privacy International
Medijske slobode i modeli upravljanja podacima o ličnosti → CEU Center for Media, Data and Society
Informacioni sistem Covid-19 – da li su naši lični podaci bezbedni?
Uvod.
Informacioni sistem Covid – 19 je centralizovan softver za unos, analizu i čuvanje podataka o svim osobama koje se prate u cilju kontrole i suzbijanja pandemije u Srbiji. Već nakon par dana od uspostavljanja, sredinom aprila 2020. godine, ovaj sistem je pretrpeo ozbiljan bezbednosni incident. Korisničko ime i lozinka za pristup tom sistemu bili su osam dana javno dostupni na sajtu doma zdravlja Rakovica. Po prijavi Share Fondacije, Poverenik je pokrenuo nadzor i naložio mere za nadležne institucije da preduzmu određene korake kako bi otklonile uočene propuste u vezi sa zaštitom podataka o ličnosti i bezbednosti ovog informacionog sistema. Ipak, ostaje otvoreno pitanje – da li su podaci u sistemu bili kompromitovani kao posledica predmetnog incidenta, da li su naknadne mere dovoljne i primerene, odnosno da li su preduzete sve mere koje je naložio Poverenik. Sva ta otvorena pitanja, kada se sagledaju u širem kontekstu, upućuju na nemaran odnos državnih organa prema zaštiti i sigurnosti podataka o ličnosti građana, uključujući i najosetljivije podatke kao što su podaci o zdravlju.
Opis konkretne povrede prava na privatnost.
Informacioni sistem Covid – 19 (IS COVID-19) je centralizovan softver za unos, analizu i čuvanje podataka o svim osobama koje se prate u cilju kontrole i suzbijanja pandemije u Srbiji. Ustanovljen je Zaključkom Vlade Republike Srbije početkom aprila 2020. godine. U sistemu se nalaze podaci svih lica koja su u okviru propisanih epidemioloških procedura bila testirana na bolest COVID-19. Sistem omogućava da se nakon unosa takvih lica u svakom trenutku može pratiti njihov dalji status (npr. pozitivni, negativni, hospitalizovani, u samoizolaciji, na respiratoru, izlečeni, preminuli) i čitav niz zdravstvenih i drugih ličnih podataka. Takođe, u IS COVID-19 unose se podaci o bliskim kontaktima testiranih lica, kako bi mogao da se prati i njihov epidemiološki status. Podatke u sistem unose institucije koje u skladu sa svojim nadležnostima uzimaju briseve i vrše testiranje (domovi zdravlja, bolnice, instituti za javno zdravlje, laboratorije). S druge strane, podatke iz sistema koriste zdravstveni i drugi državni organi za vršenje poslova iz svojih nadležnosti, kao što su Ministarstvo zdravlja, Institut za transfuziju krvi Srbije, Ministarstvo unutrašnjih poslova ili Vojska Srbije.
Već nakon par dana od uspostavljanja, sredinom aprila 2020. godine, IS COVID-19 je pretrpeo ozbiljan bezbednosti incident. Korisničko ime i lozinka za pristup tom sistemu bili su osam dana javno dostupni na sajtu doma zdravlja Rakovica (Dom zdravlja). To je period dovoljan da se ova stranica indeksira na guglu, i mada nije bila vidljiva na sajtu, do nje je moglo da se dođe internet pretragom. Do ovog otkrića je u okviru istraživanja ovog sistema Share Fondacija došla 17. aprila.
Preduzeti koraci.
Svesni rizika od zloupotrebe pristupa osetljivim podacima građana, istraživači Share Fondacije nisu pokušali da se uloguju na sistem, već su slučaj prijavili nadležnim organima: Poverniku za informacije od javnog značaja i zaštitu podataka o ličnosti, Nacionalnom CERT-u i Ministarstvu trgovine, turizma i telekomunikacija. Organi su brzo reagovali, te manje od sat vremena nakon prijave stranica sa korisničkim imenom i lozinkom više nije bila javno dostupna.
Nakon ovog incidenta, Poverenik za informacije od javnog značaja i zaštitu podataka o ličnosti (Poverenik) pokrenuo je postupak nadzora nad sprovođenjem Zakona o zaštiti podataka o ličnosti (ZZPL). Na osnovu zahteva za slobodan pristup informacijama od javnog značaja upućenog Povereniku, Share Fondacije je prikupila raspoloživu dokumentaciju iz ovog postupka nadzora.
Rezultat postupka nadzora je da je Poverenik izrekao opomenu rukovaocu sistema Institutu za javno zdravlje “Dr Milan Jovanović Batut” (Institut Batut), zbog propusta u rukovođenju sistemom koji su doveli do povreda njihovih ZZPL obaveza. Obaveze koje Institut Batut nije ispunio uključuju: to što nije bio zaključen ugovor sa obrađivačima sistema, pre svega Republičkim fondom za zdravstveno osiguranje (RFZO) koji je zadužen da pruža tehničku podršku korisnicima, to što nisu bile preduzete odgovarajuće mere zaštite sistema usled čega se i dogodio ovaj incident, i to što nije bila urađena procena uticaja na zaštitu podataka, koja je prema ZZPL u ovom slučaju bila obavezna pre nego što je sistem pušten u rad.
Epilog.
Share Fondacija je analizirala dokumentaciju iz nadzora, i na osnovu iste donela određene zaključke o kojima je izvestila javnost, a koji su sumirani i u daljem tekstu.
Tokom trajanja nadzora Institut Batut je izvršio neke od obaveza koje je odredio Poverenik, bar formalno, te sada postoji i ugovor sa RFZO (pri čemu je još uvek je nepoznat status ugovora između Instituta Batut kao rukovaoca i institucija koje su korisnici sistema kao obrađivača) i izrađena je procena uticaja, na koji je pozitivno mišljenje dalo i lice za zaštitu podataka o ličnosti Instituta Batut. Dužnost izrade predmetne procene uticaja proizilazi iz člana 54. ZZPL. Naime, ova odredbe propisuje da, u slučajevima kada je verovatno da će neka vrsta obrade (posebno upotrebom novih tehnologija i uzimajući u obzir prirodu, obim, okolnosti i svrhu obrade) prouzrokovati visok rizik za prava i slobode fizičkih lica, rukovalac ima obavezu da izvrši procenu uticaja predviđenih radnji obrade na zaštitu podataka o ličnosti, i to pre nego što započne sa obradom. Cilj je da se procenom predvide svi mogući rizici po prava i slobode lica, ali i da se predvide mere kojima bi ti rizici trebali da budu eliminisani ili minimizovani. Takođe, ZZPL reguliše koje sve elemente procena mora da sadrži.
Uvidom u procenu uticaja koji je izvršio Institut Batut može se zaključiti da je njena sadržina ne ispunjava sve uslove koje ZZPL predviđa, pre svega zbog površnog i šturog opisa svih relevantnih okolnosti koje prate jedan ovako kompleksan sistem, u kome se obrađuju najosetljiviji podaci na nivou celog stanovništva. U proceni uticaja su prepoznata svega tri rizika, predstavljena u po jednoj rečenici, dok je još po jednom dodatnom rečenicom za svaki od rizika predložena po jedna mera za njegovo umanjenje. Na osnovu navedenog, stiče se utisak da je ovaj dokument pripremljen radi pukog ispunjavanja forme, a ne u cilju zaštite kako samog sistema, tako i prava i sloboda lica čiji se podaci u njemu obrađuju. Pored toga što procena uticaja predstavlja ispunjenje zakonske obaveza, ona je važan dokument za samog rukovaoca i treba da ga usmerava na uspostavljanje sistema na osnovu prepoznatih slabih tačaka, što je u ovom slučaju izostalo.
Na osnovu dokumentacije koja je prikupljena u okviru postupka nadzora, takođe saznajemo određene okolnosti koje su pratile, ili još uvek prate rad IS COVID-19 a koji su razlog za zabrinutost.
Pre svega, na osnovu navoda Instituta Batut u njihovom obaveštenju o incidentu, pre nego što su promenjeni pristupni podaci sistemu zbog predmetne povrede “nije zabeležen pokušaj logovanja”, odnosno prema navodima i RFZO u izjašnjenju na dopis Poverenika, “nije došlo do kompromitacije podataka”. S druge strane, iz službene beleške službe Poverenika, kao i email korespodencije sa Nacionalnim CERTom saznajemo da su u okviru reakcije na prijavljeni incident oboje pristupili sistemu pomoću kredencijala koji su bili javno objavljeni. Ostaje otvoreno pitanje zbog čega ni jedan od ovih pristupa nije evidentiran i/ili zbog čega o tome Poverenik nije dobio povratnu informaciju. Nesumnjivo je da ova okolnost ukazuje na propuste koje su pratili, ili još uvek prate, rad IS COVID-19.
Takođe je sa stanovišta bezbednosti sistema u najmanju ruku problematično to što se iz navoda Doma zdravlja može videti da se sistemu po pravilu pristupa sa nepersonalizovanim šiframa, dok korisnici sistema koji su obrađivači imaju slobodu da odluče da li će tražiti dodatne personalizovane naloge, što saznajemo od RFZO. Takođe, na nivou istrage o učesnicima čije je je postupanje dovelo do povrede, odnosno lica koja su javno objavila podatke za pristup sistemu, u ovom trenutku sve što znamo je da su u pitanju NN lica protiv koji su podnete krivične prijave.
Rizik da lica koja faktički unose podatke u sistem mogu da neovlašćeno preuzmu podatke prepoznat je kao glavni rizik u proceni uticaja Instituta Batut, a navedeno je da će on biti “adresiran tako što će Rukovalac na odgovarajući način snimati rad ovlašćenih predstavnika Obrađivača prilikom njihovog rada sa podacima u slučaju korišćenja VPN pristupa, odnosno tako što će Rukovalac obezbediti prisutnost svojih predstavnika u slučaju primene fizičkog pristupa ovlašćenih predstavnika Obrađivača odnosnim podacima.” Ostaje nejasno kako će bi praksi funkcionisati bilo koja od sve navedene mere, a pogotovo šta podrazumeva “snimanje rada” lica koja unose podatke u sistem, posebno u svetlu sporne činjenice da li se uopšte registruju i čuvaju logovi na sistem. Takođe, pitanje je da li ove mere mogu biti prekomerne i proizvesti efekat povrede privatnosti lica kod korisnika sistema.
Mere koje su planirane u cilju povećanja bezbednosti sistema, a o kojima je institut Batut obavestio Poverenika, trebalo bi da direktno adresiraju navedene probleme. Međutim, ostaje veliko pitanje pouzdanosti sistema i tačnosti podataka u inicijalnom periodu njegovog rada.
Širi značaj slučaja.
Predmetni slučaj pokazao je da u praksi sprskih organa koji su dužni da poštuju svoje obaveze iz oblasti zaštitite podataka o ličnosti i informacione bezbednosti još uvek “pate” od sistemski ranjivosti. Banalnost ovog incidenta, i svi propusti koji su mu prethodili a koji su otkrivani tokom nadzora Poverenika, ukazuje na to da prilikom njegovog puštanja u rad nije poštovan minimum standarda koji bi trebalo da prate takav jedan proces. Predmetni standardi su svakako regulisani Zakonom o zaštiti podataka o ličnosti, koji je usaglašen sa Opštom uredbom o zaštiti podataka Evropske unije (GDPR), ali i Zakonom o informacionoj bezbednosti, koji takođe prati EU propise u toj oblasti. Stoga ovaj incident nije nastao zbog nejasnih ili zastarelih propisa, već zbog velikih propusta od strane državnih organa i institucija u njihovom primenjivanju.
Na žalost, ovo nije prvi incident u oblasti zdravstva koji je mogao da ugrozi i kompromituje najosetljivije zdravstvene podatke sprskih građana. Situacija sa aplikacijom Moj doktor bila je takođe predmet nadzora Poverenika, zbog sličnog problema u oblasti tehničkih i organizacionih mera kojima tako osetljivi podaci moraju da budu zaštićeni. Predmetni incident sa IS COVID-19 na žalost pokazuje da to nije bio povod da se nauče važne lekcije i da se postupanje državnih organa uskladi i sa propisima i sa minimalnim i prihvaćenim standardima informacione bezbednosti. U tom smislu, i ako uzmemo u obzir hitnost sa kojom je IS COVID-19 morao biti uspostavljen u uslovima pandemije, ipak moramo zaključiti da je u ovoj oblasti svest i praksa zaposlenih u državnim organima na nezavisnom nivou.
S druge strane, činjenica da je manje od sat vremena nakon dobijanja obaveštenja od Share Fondacije o ovom incidentu reagovalo više državnih organa što je rezultiralo saniranju krajnjih posledica incidenta (odnosno onemogućavanje da sporna stranica bude dalje sa javno dostupna) – primer je dobre saradnje građana i države, kao i velikog značaja i uticaja koje građani mogu da imaju.
Uporno ukazivanje na ovu vrstu problema od strane stručne javnosti, čemu je i Share Fondacija doprinela kako praktičnim delovanjem, tako i naknadnim stručnim analizama, jedan su od načina na koje je moguće doprineti promenama.
U toku nadzora Poverenika, organi koji su bili deo nadzora uočili su i “priznali” u određenoj meri svoje propuste. Takođe, Institut Batut je obavestio Poverenika o načinu na koji će u konkretnom slučaju biti poboljšane mere zaštite da se ne bi dešavali slični incidenti.
Međutim, uzimajući u obzir gore naveden loš trend da državni organi teško uče na sopstvenim greškama, pogotovo ukoliko se nakon saniranja incidenta on brzo stavi ad acta, čini se da u ovom slučaju trebalo insistirati o tome da se lekcije koje su naučene na neki način ustale u praksi. Iz svega navedenog čini se da je jedna od ključnih stvari kojoj se mora posvetiti mnogo veća pažnja u budućnost – edukacija zaposlenih u državnim organima i institucijama. U tom smislu, priprema odgovarajućih vodiča i njihova promocija mogu biti prvi korak. Takođe, sa druge strane ja važna edukacija građana o tome koja prava imaju i mogu da ostvaruju pred državnim organima.
Naime, ZZPL građanima daje čitav niz prava koja mogu da ostvaruju pred bilo kojim rukovaocem koji obrađuje njihove podatke. Neka od praktično najvažnijih prava su, pre svega: pravo na dobijanje relevantnih informacija o obradi koju vrši rukovalac (npr. gde se čuvaju podaci i koliko dugo, ko sve ima mogućnost da im pristupa, kome se podaci prenose, koje su mere uspostavljanje radi obezbeđivanja sigurnosti podataka koji su preneti u drugu zemlju, i sl.), pravo da se od rukovaoca traži da dostavi licu kopiju njegovih podataka o ličnosti, ili da izbriše podatke koje o tom licu obrađuje. Prava građani mogu da ostvare tako što rukovaocu podnose odgovarajući zahtev, na koji rukovaocu u principu moraju da odgovore u zakonskom roku od 30 dana. Zahtevi za ostvarivanje takvih prava mogu biti preventivni i korektivni mehanizam, koji može pomoći da se bar određeni rizici umanje ili neutralizuju, pre nego što se realizuju u formi incidenta.
Share Fondacija je do sada razvila i objavila veliki broj vodiča i alata, kao i objavljivala istraživanja koja su imala za cilj, kako podizanje svesti među građanima, ali i rukovaocima i obrađivačima ličnih podataka. U okviru jednog od svojih projekata, fondacija se posebno bavila ličnim podacima u javnom sektoru, gde je objavila vodič, izradila izveštaj o mapiranju podataka u šest državnih institucija (među kojima je i Republički fond za zdravstveno osiguranje), i izradila preporuke povodom tipičnih propusta organa vlasti. Takođe, neposredno nakon proglašenja pandemije, Share Fondacija je sa partnerskim organizacijama izradila Vodič za zaštitu podataka o ličnosti za vreme pandemije, u kome je poseban osvrt dat i na obradu podataka od strane zdravstvenih ustanova, ali i drugih državnih organa koji su tokom pandemije igrali značajnu ulogu u obradi podataka o ličnosti građana. Slični projekti koji bi bili skoncentrisani na organe koji obrađuju posebno osetljive podatke, i/ili podatke posebno osetljivih grupa bili bi od velike važnosti za unapređenje prakse u ovoj oblasti.
Takođe, brza reakcija Poverenika, činjenica da je Poverenik pokrenuo postupak nadzora i utvrdio nepravilnosti i saradljivost državnih organa i institucija u postupku nadzora svakako su korak u pozitivnom smeru. Ono što je ovde izostalo je pokretanje eventualnih sudskih postupaka, kako u cilju utvrđivanja eventualnog prekršaja, kao i u cilju ostvarivanja prava građana, koji su u ovom slučaju ostali uskraćeni za odgovarajuća obaveštenja o obradi podataka u skladu sa članovima 23 i 24 Zakona o zaštiti podataka o ličnosti. Prema ovim zakonskim odredbama, rukovaoci su još pre nego što započnu sa obradom podataka dužni da na odgovarajući i primeren način obaveste lica čije podatke nameravaju da prikupe o svim relevantnim informacijama koje se odnose na tu obradu.
Slučaj sa aplikacijom Moj doktor pokazao je jako nizak stepen razvijenosti sveti o tome da podaci o zdravlju građana pripadaju kategoriji posebno osetljivih podataka. I pored svih nepravilnosti koje je ustanovila služba Poverenika, odgovor nadležnog Ministra zdravlja bio je površno usmeren na kritike rada Poverenika, pri čemu se nije moglo čuti razumevanje o prirodi i dubini tada postojećih problema (iako je ovo Ministarstvo na kraju ipak postupilo po nalozima Poverenika).
Par godina kasnije, kada se dogodio predmetni incident sa IS COVID-19 uočljiva je bila drastično drugačija reakcija nadležnih organa, i prve posledice incidenta su brzo sanirane. I u daljem toku postupak Institut Batut, RFCZ i Dom zdravlja su pokazali zavidan novo razumevanja svojih obaveza prema Zakonu o zaštiti podataka o ličnosti, bar na prvom formalno nivou. Drugim rečima, nije bilo sporno koja dokumentacija mora da prati takav jedan sistem, mada ostaje sporan sadržaj tih dokumenata – koji je i direktnoj vezi da suštinskim poštovanjem standarda u ovoj oblasti, pogotovo jer se radi o posebno osetljivim podacima. U tom drugom delu se nalazi prostor za dalje napredovanje.
Što se tiče zainteresovanosti opšte javnosti i građana za ovu temu, indikativno je da je tekst u kome je Share Fondacija objavila da se dogodio predmetni incident, ubedljivo najposećenija vest na sajtu fondacije od njenog nastanka. To može biti indicija da se među građanima, i određenom delu stručne javnosti koja je do skoro bila skoncentrisana na pravnike i IT stručnjake, širi interesovanje za oblast zaštite ličnih podataka. Takođe bi se moglo reći da se podiže nivo očekivanja u odnosu na ispunjavanje obaveza onih koji obrađuju takve podatke, što se može zaključiti i zainteresovanosti medija za ovaj slučaj.
Zaključak.
Slučaj sa IS COVID-19 je, na žalost, još jedan pokazatelj odnosa koji državni organi Republike Srbije imaju prema privatnosti građana i poštovanju njihovih zakonskih obaveza iz oblasti zaštite podataka o ličnosti. Iako je ovaj sistem bilo potrebno hitno uspostaviti u uslovima pandemije, propusti koji su tom prilikom načinjeni još uvek su posledica višegodišnjeg zanemarivanja zakonskih obaveza, ali i niskog stepena svesti o tome da postoje minimalni zakonski standardi koji bi se bez izuzetka morali poštovati, bez obzira na urgentnost. Projekat “Sačuvaj privatnost – odupri se pritisku” koji, koji je sticajem okolnosti pokrenut neposredno pre proglašenja pandemije, ispostavio se kao važna plaforma da se građanima u vanrednim okolnostima pruže važne i relevantne informacije. Predmetni incident i jeste otkriven, bar delimično, u okviru istraživanja koje je rađeno u okviru izrade Vodiča za zaštitu podataka o ličnosti za vreme pandemije. Na taj način, takođe se osnažava ideja da ljudska prava u uslovima vanrednog stana ne smeju da gube na značaju. Na protiv, baš tada postoje posebni rizici kada ona mogu biti ugrožena i zahtevaju, takođe vanrednu, zaštitu.
Ovaj tekst je izrađen u okviru projekta Sačuvaj privatnost – odupri se pritisku (Reclaiming Privacy: A Tool to Fight Oppression), koji sprovode Partneri Srbija, SHARE Fondacija, Udruženje “Da se zna!”, Beogradska otvorena škola, NVO ATINA i Inicijativa A11.
Оvaj tekst je proizveden uz finansijsku pomoć Evropske unije. Sadržaj ovog teksta je isključiva odgovornost autora i ne može se, ni pod kojim uslovima smatrati odrazom stavova Evropske unije.
Jelena Adamović je advokat i pravni istraživač u SHARE Fondaciji.
Moderacija sadržaja, ili: Kako je Tramp banovan sa Tvitera
Samo desetak dana pre zvaničnog odlaska sa funkcije predsednika najmoćnije države sveta, Donald Tramp ostao je bez ličnog naloga na Tviteru: trajno je suspendovan zbog „rizika od daljeg podsticanja na nasilje“, saopštila je kompanija. Odluka je doneta nakon juriša Trampovih pristalica na američki Kongres, čiji je bes zbog navodne krađe glasova Tramp često podsticao upravo sa ove platforme, na kojoj je imao oko 88 miliona pratilaca.
Tokom nereda, privremeno mu je suspendovan nalog na Fejsbuku – gde se obraćao nešto skromnijoj publici od „samo“ 35 miliona – da bi sledećeg dana suspenzija bila produžena do isteka mandata. Posle niza zabrana na manjim društvenim medijima, sličnu odluku je konačno donela i najpopularnija video platforma, YouTube.
„Banovanje“ predsednika Sjedinjenih Država raspalilo je globalnu raspravu o granicama slobode govora na mrežama, statusu komercijalnih kompanija koje donose odluke umesto javnih institucija i potrebi da se na javne onlajn forume u privatnom vlasništvu konačno uvede neki oblik odgovornosti.
Problemi moderacije sadržaja koji stvaraju i objavljuju korisnici privatnih onlajn platformi i servisa nisu novi. Međutim, do pojave Donalda Trampa, ova diskusija se uglavnom vrtela u krug, od slučaja do slučaja i niza privremenih rešenja.
Pritisak na vlasnike društvenih medija da ozbiljnije prionu na moderaciju sadržaja koje razmenjujemo na Fejsu, Tviteru i drugim platformama, dosegao je u godini pandemije neslućene visine. Spisak spornih sadržaja koje korisnici objavljuju u komentarima ili u postovima na mrežama, a koji najčešće obuhvata dečiju pornografiju, kršenje autorskih prava i nasilje, gotovo u potpunosti je ostao u senci lažnih vesti, još jedne pošasti po kojoj ćemo pamtiti 2020. Za kovid-19 vakcina je relativno brzo razvijena; protiv „alternativnih činjenica“ leka još uvek nema.
Jedno od glavnih tržišta za lažne vesti i glavni front bitke regulatora protiv vlasnika društvenih medija – koji nisu odgovorni izdavači medija u tradicionalnom smislu, ali odavno više nisu ni neutralni posrednici usluga komunikacije – svakako su Sjedinjene Države. Uprkos dubokim političkim podelama, obe sukobljene strane više puta su pozvale na brisanje odeljka 230 iz zakona o pristojnosti u komunikacijama (Communications Decency Act, Section 230), kojim se provajderima usluga i vlasnicima raznih sajtova garantuje zaštita od odgovornosti za sadržaj trećih lica.
Motivi, međutim, značajno variraju. Dok Republikanci i različite konzervativne i desničarske grupe u SAD optužuju društvene medije da već godinama nesrazmerno suzbijaju slobodu izražavanja njima srodnih ideja, Demokrate mrežama pripisuju krivicu za potapanje javnosti teorijama zavera, govorom mržnje i verbalnim nasiljem. Međusobne optužbe i zajednički napadi Republikanaca i Demokrata na vlasnike Fejsbuka, Tvitera, Jutjuba i ostalih, kulminirali su saslušanjem u američkom Senatu.
Najpoznatija žrtva pojačane moderacije sadržaja na mrežama svakako je američki predsednik Donald Tramp, čiji je tvit prošlog leta po prvi put prikriven upozorenjem ostalim korisnicima. Najpre skromno, kao retka izolovana napomena o manipulaciji video klipom, mediji su izračunali da je tokom izbornih dana početkom novembra više od trećine Trampovih tvitova bilo označeno kao činjenično osporen sadržaj.
Kad ni predsednik najjače svetske sile, čiji se tvitovi čuvaju u Kongresnoj biblioteci kao deo političkog nasleđa, nije pošteđen moderacije na mrežama, šta obični građani mogu da očekuju? I kako će se ovaj sukob korporacija i državnih regulatora na kraju završiti?
Medijski filteri
Tradicionalna uloga medija da posreduju događajima i sortiraju, tačnije filtriraju bitne od nebitnih, te lažne od istinitih vesti, predstavlja stub demokratske svakodnevice koji je dugo uspevao da odoli raznim društvenim promenama i tehničkim inovacijama. Eksplozija demokratizacije javnog polja, gde svako može da učestvuje u informisanju javnosti, uz ekspanziju društvenih medija i platformi za neposredovanu razmenu sadržaja, pokazalo se, nije zadala udarac samo konceptu uredničkog medija, već i samoj demokratiji.
Alan Rasbridžer, dugogodišnji glavni urednik jednog od najuglednijih svetskih medija, britanskog Gardijana, ilustrovao je ovu novu stvarnost na primeru Donalda Trampa: pre dve godine, američki predsednik imao je oko 50 miliona pratilaca na Tviteru, dok je Gardijanovo onlajn izdanje u to vreme imalo oko 10 miliona posetilaca dnevno. Istovremeno, prema tadašnjoj Gardijanovoj analizi, oko 60% svih Trampovih objava na Tviteru sadržalo je neistine. Drugim rečima, neistina će stići do pet puta brojnije publike od one koju ima odgovoran, urednički oblikovan medij koji proverava činjenice pre objave. Razmere tog uticaja sam Tramp je rečito opisao: „Mogao bih da pucam u nekoga nasred Pete avenije, još uvek ne bih izgubio svoje birače.“
U mnogim zemljama je sve veći udeo stanovništva, posebno među mlađim generacijama, koji se informiše isključivo na društvenim medijima. Razni uređaji za kreiranje i obradu video i audio materijala, danas su objedinjeni u jedan pametni telefon koji stane u džep i komercijalno je dostupan najširim slojevima. Društveni mediji praktično su integrisani u sav internet saobraćaj, a njihovo korišćenje je besplatno i gotovo neograničeno. S obzirom na to da su kompanije kao što su Gugl, Fejsbuk ili Tviter među najprofitabilnijim organizacijama na svetu, postavlja se pitanje ko su zapravo njihovi klijenti i šta je predmet kupovine? Klijenti ovih kompanija su oglašivači, oni koji plaćaju prostor na mrežama kako bi promovisali svoje proizvode ili ideje. Obični korisnici društvenih mreža zapravo su objekti, a ne subjekti tog posla, dok su njihovo vreme i pažnja – uz lične podatke – roba kojom se trguje.
U dokumentarnom filmu The Social Dilemma (2020), bivši uposlenici Fejsbuka, Jutjuba, Gugla, Tvitera i Instagrama otvoreno govore o načinima na koje ove kompanije koriste znanja individualne i socijalne psihologije kako bi uticale na korisnike da uvećaju svoje učešće, kroz određeni vid radikalizacije, ali i kroz stvaranje psihološke zavisnosti od prisustva na mrežama.
Svaka aktivnost na Fejsbuku – klik, šer, lajk – doprinosi izgradnji virtuelnog profila korisnika, čija algoritamska analiza omogućava mikrotargetiranje sadržajima za koje bi korisnik mogao biti zainteresovan, kao i predviđanje njegovog ponašanja. Svaki korisnik društvenih mreža ima slično iskustvo: pretraga nekog pojma ili onlajn kupovina konkretnog proizvoda, dovoljni su da pokrenu reklame istih ili srodnih tema na različitim platformama. Manje upadljivi od oglasa su sadržaji kojima nije nužno cilj da navedu korisnika na kupovinu, već da mu okupiraju pažnju i zadrže ga na platformi: psihološka zakonitost ukazuje da je to najlakše postići podsticanjem osećanja kao što su indignacija, prezir, povređenost, ljutnja i sličnih. Na primer, iako podaci policije govore da su slučajevi nasilja koje su počinili migranti u Beogradu praktično nepostojeći, ukoliko Fejsbukovi algoritmi procene da je to tema koja će zaokupiti korisnika, naći će dovoljno sadržaja među lažnim vestima i fabrikovanim poluinformacijama, i povezati ga sa drugim korisnicima koji dele slična interesovanja i verovanja. Fejsbuk grupa „Stop naseljavanju migranata u Srbiji“ trenutno broji preko 300.000 članova koji dalje distribuiraju priče iz paralelne stvarnosti. Pre ili kasnije, realnost sa društvenih mreža preliva se u svakodnevicu, utiče na političke odluke i životne izbore, a ponekad joj je epilog i stvarno nasilje.
U ovakvom biznis modelu profit direktno zavisi od broja korisnika, kao i od vremena koje će oni provesti na određenoj društvenoj mreži. Iz perspektive velikih tehno korpova, dobrodošao je svako ko može privući pažnju, kao i svaki sadržaj koji će naći svoju publiku. Logika zadržavanja pažnje nalaže dodatno podsticanje učešća, najčešće kroz senzacije i radikalizaciju na koje više nisu imuni ni predsednici država. Bez provere i kontrole, to će uglavnom značiti poplavu verbalnog nasilja, raznih zavera i izmišljotina. Istovremeno, mnogi korisnici će ih smatrati za kredibilan izvor.
Epilog je društvo post-istine u kom činjenice gube značaj pri oblikovanju javnog mnjenja, a njihovo mesto zauzimaju emocije i lična uverenja u takmičenju u popularnosti, umesto u pouzdanosti. Širenjem teorija zavere, podriva se poverenje u državne institucije. Urušavanje poverenja za sobom povlači i same temelje države kao zajednice građana i građanki. Kada Donald Tramp, bez konkretnih dokaza, tvrdi da je došlo do krađe na izborima i da je zapravo on pobedio, on na taj način urušava poverenje u jednu od ključnih institucija demokratije, slobodne izbore. Takođe, slom poverenja u naučno utvrđene činjenice, posebno je rizičan u vreme globalne krize javnog zdravlja. Podrivanje poverenja u medicinu već nanosi nepopravljivu štetu kapacitetima za obuzdavanje pandemije, čije će se posledice svakako osećati još dugi niz godina.
Moderacija i provera činjenica
Merljiva šteta distribucije lažnih vesti preko društvenih mreža, u nešto ograničenim razmerama, zabeležena je 2016. tokom referenduma o Bregzitu, izlasku Ujedinjenog Kraljevstva iz Evropske unije, kao i u vreme američkih izbora krajem iste godine. Odsustvo bilo kakve odgovornosti kompanija u čijem su vlasništvu platforme za razmenu sadržaja, postalo je sve teže odbranjivo, dok rutinske opcije za moderaciju više nisu dovoljne.
Moderacija sadržaja može se poveriti ljudima ili mašinama, što je češći slučaj s obzirom na ogromne količine komentara, postova, klipova i linkova koje korisnici svakodnevno objavljuju na sajtovima ili društvenim medijima. Automatska moderacija može biti jednostavna, sa unapred zadatim pravilima čije kršenje isključuje mogućnost objave spornog sadržaja, ili ga prosleđuje na ljudsko odlučivanje kada registruje prijave ostalih korisnika. Korisničke prijave, međutim, nisu uvek pouzdan oslonac, lako se mogu zaobići ili zloupotrebiti, dok su filteri već notorno neosetljivi za ironiju, metafore i druge satirične forme.
Stoga se pažnja softverske industrije sve više okreće razvoju AI rešenja za moderaciju sadržaja, odnosno složenih algoritama za mašinsko „učenje“ koji su u stanju da za kratko vreme obrade velike količine teksta, fotografija i video snimaka, uzimajući pritom u obzir kontekst, emocije i razumevanje različitih sadržaja u konkretnim okolnostima. „Sve velike platforme sanjaju o softveru koji može da identifikuje govor mržnje, pornografiju ili pretnje brže i pravičnije od ljudi, pre nego što uvredljivi sadržaji postanu vidljivi.“ No, da li se društveni problemi zaista mogu rešavati tehničkim sredstvima?
Pritisak javnosti za efikasniju moderaciju sadržaja, otvorio je prostor za različite predloge načina za suzbijanje toksičnog uticaja društvenih mreža koji, umesto mašinskog, uključuju ljudsko odlučivanje. Vremenom jača pozicija organizacija za proveru činjenica (fact-checking), te će 2016. grupa od više desetina njih u otvorenom pismu vlasnicima Fejsbuka istaći da je „vreme da se otvori dijalog o tome kako doći do istinitijeg informativnog eko-sistema“ za korisnike.
Neposredna posledica ovog procesa bila je Fejsbukova odluka da proveru sadržaja prepusti nezavisnim organizacijama koje se bave proverom činjenica. Ove organizacije se sertifikuju i angažuju kroz međunarodnu mrežu za proveru činjenica (International Fact-Checking Network, IFCN). Da bi organizacija postala deo ove mreže, mora da ispuni određene uslove, a pre svega da bude nezavisna, što znači da njom ne upravlja vlada ili neki politički subjekt. Ostali uslovi podrazumevaju političko nesvrstavanje, transparentnost u pogledu izvora finansiranja, kao i u pogledu metodologije i standarda provere, te jasno upućivanje na izvore informacija kojima se određeni sadržaj osporava.
Jedna od ovih organizacija od jula 2020. je i Istinomer koji se bavi dezinformativnim sadržajem na srpskom jeziku.
Proces provere sadržaja funkcioniše tako što se na osnovu prijava korisnika ili putem algoritma programiranog da prepozna potencijalno problematičan sadržaj, kreira baza spornih sadržaja koje analizira organizacija za proveru činjenica. Nakon sprovedene provere ovakav sadržaj može biti označen kao „ekstremna dezinformacija“ u kom slučaju se uklanja. Najčešće se sadržaji obeležavaju etiketom „neistina“ ili „delimična neistina“, što znači da ostaju vidljivi, ali će se pored etikete nalaziti i link ka objašnjenju zašto je sadržaj označen kao sporan. Tako obeleženom sadržaju može biti ograničena distribucija, kao i onemogućeno plaćeno mikro targetiranje. U slučaju da određeni kreator sadržaja više puta prekrši pravila, postoji mogućnost i trajnog uklanjanja sa društvene mreže.
Iako načelno dobar, ovaj sistem se pokazao kao nedovoljno efikasan. Naime, iako nezavisne organizacije za proveru činjenica imaju slobodu u svom radu, Fejsbuk ima poslednju reč, bez obaveze da prihvati njihov sud. U mnogim slučajevima kompanija ne prihvata procenu nezavisnih organizacija, ignoriše ih ili snižava ocenu, obeležavajući određeni sadržaj kao „delimična neistina“, umesto „neistina“, kako je sugerisano. Fejsbuk ovakve postupke pravda odlukom da se od procesa provere izuzimaju sadržaji koji predstavljaju mišljenje, a ne informaciju, odnosno vest. Na stolu su sloboda govora, vrhunska vrednost američke demokratije, ali i profit ovog specifičnog biznis modela.
Kada odlučuje o uklanjanju određenog sadržaja, Fejsbuk se vodi i pretpostavkom o tome kakav bi odjek takva odluka mogla imati u javnosti. Veština balansiranja između optužbi da podstiče širenje društveno nepoželjnih stavova i optužbi da cenzuriše govor i ugrožava građanske slobode, značajno utiče na profit kompanije.
Jedan od rečitih primera je slučaj američkog desničarskog portala PragerU. U maju 2020, ovaj portal je imao dva posta na Fejsbuku o klimatskim promenama koji su označeni kao „neistina“, što ih je kvalifikovalo za suspenziju prava na tzv. sponzorisane postove. U tom trenutku portal je imao preko 500 aktivnih sponzorisanih postova i bio u top 10 potrošača u oblasti političkih organizacija na platformi, što je svakako uticalo na odluku Fejsbuka da ignoriše sud organizacija za proveru činjenica i ne preduzme nikakve korake prema ovom korisniku.
Veličina Fejsbuka počela je da predstavlja problem i za mašine. Sredinom 2020. godine, platforma je imala 2,7 milijardi korisnika koji neprestano proizvode i umnožavaju ogromne količine sadržaja. U slučaju da se proverom činjenica određeni sadržaj proceni kao sporan, Fejsbukov algoritam bi trebalo da ga automatski skine, ili adekvatno obeleži. Nedavno istraživanje u SAD pokazalo je neefikasnost algoritma da ukloni, odnosno označi sadržaj koji su organizacije za proveru činjenica prepoznale kao sporan, pogotovo ako je u daljem širenju mrežom neznatno izmenjen. U većini slučajeva, sporni sadržaj je ostao na mreži, bez ikakve oznake.
U osnovi Fejsbukovog programa provere činjenica koju sprovode nezavisne organizacije, očigledno stoji nastojanje kompanije da zadrži neutralnu poziciju provajdera usluga koji se ne meša u uređivanje sadržaja i samim tim ne snosi za njega pravnu odgovornost poput tradicionalnih medija. U slučaju dileme među samim organizacijama koje proveravaju činjenice, međutim, lopta se vraća na Fejsbukov teren. Naime, prostor između puke činjenice i istine koja zavisi od raznih, promenljivih aspekata, dovoljno je velik za političke interpretacije. Danas politički sporovi više nisu retki ni među onima koji samo utvrđuju činjenice.
Politika Tvitera donekle je drugačija. Tokom 2020. godine ova platforma je preduzela značajne korake kako bi se uhvatila u koštac sa problemom dezinformacija, posebno u svetlu pandemije, a zatim i američkih izbora i delovanja „najuticajnijeg“ tviteraša, predsednika SAD Donalda Trampa. Kako je kompanija saopštila, u skladu sa osnovnom svrhom ove društvene mreže „da podstiče dijalog“, Tviter će se manje oslanjati na uklanjanje sadržaja, a više na pružanje različitih pogleda. Kompanija je saopštila da je njihov „fokus na davanju konteksta, ne na proveri činjenica“, posebno kada je reč o sadržaju koji ima najveći potencijal da pričini štetu u društvu, kao što su medijske manipulacije, ključna politička i društvena pitanja i sadržaj vezan za pandemiju. Ovaj pristup se sastoji u označavanju onih objava koje po oceni platforme zahtevaju posebnu pažnju. Tri osnovne kategorije su obmanjujuće informacije, osporene tvrdnje i nepotvrđene tvrdnje. Kada je sadržaj svrstan u jednu od ovih kategorija, pored oznake nalazi se i link ka izvoru koji daje dodatne informacije o temi o kojoj je reč. U pitanju nije klasična provera činjenica, kao kod Fejsbuka, već je ovaj sistem kontrole više „savetodavnog“ tipa, s ciljem da podstakne korisnike da potraže dodatne informacije. Treba dodati i da se ovako označeni tvitovi prikazuju sa upozorenjem umesto sadržaja, a da bi ih korisnik video potreban je dodatni klik na dugme, odnosno svesna i voljna radnja. Za razliku od Fejsbuka koji je zvanično ove odluke prepustio nezavisnim organizacijama, Tviter koristi svoje resurse pa je i više izložen kritici javnosti zbog navodne pristrasnosti.
Najpoznatiji korisnik na kom je ovaj sistem isproban bio je Donald Tramp krajem maja 2020. kada je par njegovih tvitova najpre označen kao „potencijalno obmanjujući“. Nekoliko dana kasnije, Tramp je povodom nereda na protestima protiv policijskog nasilja, tvitovao: „Kada počnu pljačke, počinje i pucanje“. Tviter je ovu objavu označio kao „glorifikaciju nasilja“. Od tada su tvitovi predsednika SAD više puta označeni kao sporni, posebno kako se zahuktavala izborna kampanja.
Korisnici Tvitera su primetili još jednu novost prošle godine: nalozi pojedinih medijskih organizacija, ali i nekih novinara ili analitičara, sada nose oznaku vladine afilijacije ili državnog vlasništva. Prema novim pravilima platforme, ova oznaka zasad je rezervisana samo za medije i ličnosti direktno povezane sa državama stalnim članicama Saveta bezbednosti UN (Kina, Francuska, Rusija, Ujedinjeno Kraljevstvo i SAD), a funkcionalnost im je ograničena utoliko što se njihovi nalozi i tvitovi neće naći u preporukama za korisnike.
Moderacija 2021.
Istorijske promene društva često pamtimo i nazivamo po specifičnim procesima, događajima ili odlukama koji su značajno odredili razvoj u određenom periodu. Vreme u kom živimo lako bismo mogli nazvati erom društvenih mreža. S obzirom na njihovu rasprostranjenost, uticaj i još uvek nesagledive promene koje su pokrenule u životima ljudi, ovakva definicija savremenog doba ne bi bila pogrešna.
Društveni mediji su postali sastavni deo svakodnevice: u privatnom aspektu postale su važno sredstvo komunikacije i socijalizacije, a vremenom je njihova moć došla do izražaja i u javnoj sferi. Lako dostupne platforme, odnosno mediji za gotovo svakog stanovnika planete, pružaju gotovo neograničene mogućnosti ne samo u pogledu masovnosti publike, već i po pitanju sadržaja koje korisnici slobodno kreiraju i plasiraju. Ono što se, međutim, nije posebno promenilo jesu društvene boljke: prelazeći iz fizičkog u digitalni svet, ljudi su sa sobom poneli i svoje zloupotrebe i manipulacije, iz poštene gluposti ili zle namere, svejedno. Ponekad se čini da toliko dominiraju društvenim medijima, da bi malo ko žalio zbog njihovog ukidanja.
Uvrede, pretnje, osećaj da nas neko proganja, prevare i laži koje ugrožavaju i ličnu i širu društvenu dobrobit, mogu imati teške posledice na život i zdravlje ljudi. Moderacija sadržaja svakako je neophodna i to dovoljno kompleksna da u obzir uzme i kontekst i granice slobode govora, koje ponekad nisu do kraja jasne. Neistine ili pretnje koje nedvosmisleno ugrožavaju bezbednost konkretnog pojedinca lakše je prepoznati od sadržaja koji, s obzirom na potencijalnu publiku, može u nekom budućem trenutku naneti širu društvenu štetu. No, ovako neodređeni kriterijumi lako mogu ići na ruku diktatorima koji će „društvenu štetu“ naći u istopolnoj ljubavi, političkoj kritici ili angažovanom umetničkom delu.
Mašine su još daleko od razumevanja suptilnih nijansi ljudskog govora, dok ljudima u ulozi moderatora još uvek nedostaje jasnije definisan etički i normativni kodeks. Ko će nas i kako od sada moderirati na društvenim mrežama, tek ostaje da se vidi.
Stefan Milosavljević je završio osnovne studije na Fakultetu političkih nauka i trenutno pohađa master program ,,Demokratija i demokratizacija“. Urednik je političke edicije u izdavačkoj kući ,,Srednja zemlja“. Njegove oblasti interesovanja su post-socijalistička tranzicija, demokratizacija post-konfliktnih društava, tranziciona pravda i politička teorija.
SHARE Bilten: Uspešna borba protiv masovnog nadzora
Hvala na doprinosu zajedničkoj borbi i solidarnosti. Cilj od milion dinara je postignut – i premašen! → Donacije.rs
Pre skoro dve godine, kada je Ministarstvo unutrašnjih poslova najavilo saradnju sa kompanijom Huawei, naša fondacija počela je da prati razvoj uvođenja biometrijskog video nadzora u Beogradu.
Andrej Petrovski u intervjuu za Oblakoder govori o prvim koracima u borbi protiv postavljanja kamera sa mogućnošču prepoznavanja lica, sve do inicijative #hiljadekamera. → Oblakoder
Rast društvene kontrole uz pomoć tehnologije u sve većem je fokusu javnosti, lokalnih i stranih medija. Zbog čega biometrijski video nadzor nepovratno menja naše živote i gradove poslušajte u novoj epizodi SHARE_BBS podkasta.
SHARE_BBS je moguće pratiti putem svih popularnih podkast aplikacija i servisa: Apple Podcasts, Google Podcasts, Spotify, Deezer, Stitcher, Podcast.rs ili RSS čitača dodavanjem ove adrese. Sva izdanja serijala su takođe dostupna na Telegram kanalu i YouTube plejlisti.
hiljadekamera pt. 2
Rast društvene kontrole uz pomoć tehnologije u sve većem je fokusu javnosti, lokalnih i stranih medija. Inicijativa #hiljadekamera pokrenula je kampanju protiv masovnog biometrijskog nadzora.
SHARE_BBS na Telegramu: t.me/share_bbs
Muzika: Felony Flats, Kvadrat
Izvori: NewsmaxAdria – Pregled dana – 10.12.2020 | Nature Podcast – The troubling rise of facial recognition technology | Danish Radio P1 Orientering – Søndag 22. nov. 2020 | Naoki Kitamura – #216 Ceo Beograd je pod kamerama | Podcast Vuglanje: Ne snimaj mi lice | Das Erste – Serbien: Jugend unter Vučić | UpFront – The world of surveillance: Who does ‘Big Brother’ answer to? | | Podcaast #2: Podkast, mim i hiljade kamera
Podcast: Download
Subscribe: Spotify |
