Share Fondacija

SHARE Intervju: Ela Jakubovska o biometrijskom masovnom nadzoru

Ela Jakubovska iz organizacije European Digital Rights (EDRi) razgovarala je sa Filipom Miloševićem iz SHARE Fondacije i podelila njena mišljenja o opasnosti masovnog biometrijskog nadzora po ljudska prava i slobode.

Filip: Ćao Eli. Ne čujem te…

Ela: Ali čujem te, čekaj. Imam čudan sto sa više nivoa. Uzeću par knjiga da podignem… Dobro je.

Filip: Reci nam prvo ko si i šta radiš.

Ela: Zovem se Ela Jakubovska i zadužena sam za politike i kampanje u organizaciji Evropska digitalna prava, EDRi.

Filip: Hvala što si s nama, Eli. Odnedavno smo u Srbiji suočeni s pitanjima mogućeg masovnog nadzora. Postavljaju gomilu kamera po gradu. Iz vaše analize vidim da ste jasno definisali neke od suštinskih problema. Ima ih nekoliko. Možda da nam kažeš nešto o svim problemima na gomili, pa da probamo da opišemo šta ljudi treba da znaju u vezi sa masovnim nadzorom i tehnologijom prepoznavanja lica.

Zašto treba zabraniti biometrijski masovni nadzor

Ela: Vidimo toliko rizika i pretnji od sve veće nekontrolisane upotrebe prepoznavanja lica i drugih biometrijskih obrada da je teško odlučiti odakle da se počne. Kad mislimo o društvu koje želimo da izgradimo i svetu u kakvom želimo da živimo, biometrijski masovni nadzor je totalna suprotnost svetu koji želimo u smislu naših prava i sloboda kao građana.

Prava i slobode građana

Ela: Kada ti sistemi počnu da se postavljaju po našim javnim prostorima, na koje imamo pravo da ih koristimo kao prostor u kom se izražavamo, protestujemo, tražimo da vlast bude odgovorna, odjednom se čitavo okruženje menja ako tu stoje kamere koje nas sve vreme prate. To se dešava širom Evrope i sveta na vrlo neodgovoran i netransparentan način. Znamo da se različite kamere opremaju tako da mogu da obrađuju naše osetljive podatke na vrlo različite načine. Na primer, ako se ti podaci kombinuju sa drugim podacima menjaju se odnosi moći koji čine strukturu našeg društva. Šta to znači – ako imamo te kamere postavljene širom naših gradova, a nije jasno ko je odgovoran da razvija sistem, da određuje parametre na osnovu kojih selektuju ljude, i zatim skladište i obrađuju te podatke, porede ih sa drugim izvorima podataka – mi odjednom ne znamo ko prikuplja podatke o nama ne znamo koji privatni akteri učestvuju u tome i kakav oni uticaj imaju na naše vlade i ljude čija je uloga da nas čuvaju. I zaista, širom biometrijske industrije vidimo mnoge privatne aktere koji su motivisani zaradom, pa kad oni zloupotrebiti protiv nas. Ako ne znamo šta se dešava, ako nemamo jasne dokaze da se ti sistemi uvode na način koji je u skladu sa merama zaštite nas kao građana i pojedinaca – a to u ovom trenutku zaista nije slučaj – onda to otvara prostor za razne aktere iz senke da nas posmatraju i stvaraju obrasce našeg kretanja. Ako pripadaš zajednici koja je već na meti policije pod pojačanim nadzorom, to mogu biti ljudi druge boje kože, ljudi iz određenih verskih grupacija ali mogu biti i branitelji ljudskih prava ili politička opozicija tada pomisao da svi ti javni i privatni akteri imaju mogućnost da znaju gde ideš i s kim se viđaš postaje jako opasna, jer može se koristiti da te još više targetiraju. Za nas je suština problema u tome da oni koji već imaju nesrazmerno mnogo moći, dobijaju još više, a oni koji su već nemoćni, postaju još nemoćniji, kroz tu dinamiku koja određuje ko posmatra, a ko je posmatran. To je stvarno zastrašujuće jer znači da ti privatni akteri koji gledaju da zarade od naših lica i tela i od praćenja preuzimaju visok nivo kontrole i uticaja na naše vlade a mogu imati i više tehničkog znanja od naših vlasti… Stvara se složena mreža raznih aktera koji uzimaju moć, dok oni koji tako gube moć jesu građani. Gubimo kontrolu i slobodu u našim javnim prostorima, gubimo mogućnost da budemo anonimni, što je od fundamentalnog značaja za mogućnost da učestvujemo u demokratiji i slobodno se izražavamo.

Javni prostor

Ela: Ako imamo manje raznovrsnosti među ljudima koji nas predstavljaju i među glasovima koji se čuju u našim zajednicama i ako možemo čuti samo bogate, moćne i visoko obrazovane koji znaju te sisteme, to zaista nije svet koji želimo da izgradimo, ni društvo koje odgovara najvećem broju ljudi. Promene u ponašanju ljudi koji su pod stalnim nadzorom iscrpno su dokumentovane, a ako to prenesemo na društveni nivo, pomisli šta bi bilo da svi promenimo ponašanje, ako znamo da smo pod nadzorom… Što ne znači da činimo nešto loše, već znači da ćemo odjednom postati vrlo svesni toga što radimo. Tad počinje da se oseća efekat zebnje jer ako smo svi odjednom svesni da nas kamere prate sve vreme, da se nešto može upotrebiti protiv nas, postaje nam neprijatno da izražavamo kako se osećamo, prestajemo da se viđamo s nekim ljudima da ne bismo izazvali sumnju… Promenićemo način na koji živimo.

Sloboda govora

Ela: Mogućnost da izrazimo neslaganje zaista pruža osećaj snage, a ako smo primorani da se prilagodimo to postaje opasnost za naš osećaj identiteta. To zaista utiče na naše dostojanstvo, na ono što jesmo kao osobe i ono što nam je dozvoljeno da budemo u svom društvu na način koji je vrlo opasan. U istraživanju EDRi došli smo do zaključka da to otvara put ka autoritarnoj kontroli. Imati društvo masovnog nadzora koje hoće sve da nas klasifikuje opasno bi obeshrabrilo ljude da budu individue i stvorilo bi društva sumnje i straha uz osećaj da je svako od nas potencijalni osumnjičeni. Tiha prenamena je jedan od zaista velikih problema koje vidimo u infrastrukturama za masovni nadzor, naročito kada se koriste podaci lica ili drugi osetljivi podaci o našim telima, našem zdravlju i o tome kakvi smo kao osobe. Utvrdili smo kao činjenicu da kada se ovi sistemi i strukture postave koristiće se ponovo za nešto za šta nisu u početku bili namenjeni, a to znači da zaštitne mere neće postojati za te nove upotrebe.

Funkcija //// zebnja

Ela: Znamo da je čak i sa ekonomskog stanovišta, za vlade normalno da kažu: “Pošto već imamo ove sisteme, sad možemo da radimo sve te sjajne tehnološke stvari s njima. Zašto da stoji bezveze? Zašto da ne koristimo još više?” Iz perspektive ljudskih prava to je potpuno neprihvatljivo jer je motivisano tehnologijom, a ne idejom o tome kakvo društvo želimo da imamo i predlozima kako da zaštitimo ljude i stvorimo vitalne demokratske zajednice u kojima svako može da učestvuje. Te ideje tehno-solucionizma često zagovaraju privatni akteri. A to govori o tome ko u stvari drži konce. Ko ima moć nad našim javnim prostorima. A ako ne znamo ko ima moć, od koga da tražimo odgovornost? S tim u vezi, normalizacija je još jedan veliki problem koji vidimo  jer čak i upotreba koja bi mogla biti, sa stanovišta fundamentalnih prava, manje opasna, kao kad otključaš svoj privatni telefon, a imaš kontrolu nad podacima, ništa ne ide iz tvog uređaja, ovo i dalje stvara osećaj da su lica nešto što postaje roba, da su naša lica nešto što se može koristiti kao lozinka, a to u stvari nije slučaj. Naša lica imaju posebno svojstvo jer su duboko povezana s našim identitetom, ako počnemo da ih shvatamo kao zamenu za pasvord, umanjujemo vrednost, a to zapravo otvara niz pitanja o našem dostojanstvu kao ljudskih bića o autonomiji  ljudskih bića. Sa sve većim brojem privatnih aktera koji nastoje da nađu način da monetizuju podatke koji se prikupljaju o nama time što se navikavamo na svakodnevno korišćenje naših lica u raznim aplikacijama, dajemo blanko dozvolu privatnim kompanijama da komodifikuju i objektivizuju naša lica, da ih koriste da bi nam prodavali nešto, ili da donose zaključke o nama, predviđaju i procenjuju nas što se onda može upotrebiti za kontrolu.

Anonimnost

Ela: Onog trenutka kad se postave svi ti razni sistemi koji nas mogu pratiti u vremenu i prostoru, činjenica je i da se tu mogu uvesti različite baze podataka, a koje se međusobno uklapaju. Tako odjednom te intimne slike o nama, koje ne pokazuju samo  gde idemo i sa kim razgovaramo, već su povezane s našim licima i našim telima tako da više nikada ne možemo biti anonimni, jer onog trenutka kada se naše lice prepozna odjednom se slika o nama povezuje možda s tim kako hodamo i kakve bi zdravstvene probleme sudeći po tome mogli imati. Može se povezati sa našim krivičnim dosijeom. Može se povezati s našim ličnim podacima, zdravstvenim podacima, ponašanjem na internetu. Ogroman je potencijal za te različite baze podataka da se uvezuju jedna s drugom. Odjednom ćemo imati te sisteme, a u nekim slučajevima ih već imamo, koji naprosto znaju ogromno mnogo o nama što se vrlo lako može zloupotrebiti protiv nas. Jednom kada počnu da te prate kroz vreme i prostor, a naročito kada se u to uključe druge baze podataka, na vrlo netransparentan način, otvara se mogućnost za autoritarne metode društvene kontrole. Kina je jako dobar primer za to. Naveliko se izveštava proteklih godina da su uveli društveni kredit povezan sa identitetima ljudi. Onda se ljudi nagrađuju ili kažnjavaju zbog onoga što su radili, na primer, kupovali su alkohol ili su umesto sa porodicom stupali u kontakt sa poznatim političkim disidentima. Ovaj kredit se onda koristi za kontrolu pristupa njihovim fundamentalnim pravima. Hoće li moći da otputuju u inostranstvo? Da li će im odobriti osiguranje auta? Odjednom, ne samo da se tvoj život posmatra već se tvoj život analizira, dok neko negde donosi odluke o tome da li je to što radiš u skladu sa njihovom vizijom kontrole. A to često nije “neko” već je to algoritam, što sve dodatno zamućuje i nosi nove opasnosti od ugrađivanja predrasuda u tehnologiju. Svako društvo koje klasifikuje ljude na osnovu njihovog izgleda, zdravlja, podataka i drugih stvari o njima, jeste izuzetno autoritarno i zlokobno društvo. Tokom istorije, društva koja su nastojala da grupišu i klasifikuju ljude na osnovu podataka o njima jesu autoritarna društva od kojih želimo da se udaljimo što je više moguće. Mislimo da će vlade saslušati jedino pod pritiskom svih delova društva.Potrebno je da ljudi zahtevaju odgovornost od vlasti, da upozoravaju na nadzor i doprinesu organizacijama građanskog društva i aktivistima koji pokušavaju da raskrinkaju te potajne akcije i koji pokušavaju da otvore ta pitanja za javnu diskusiju da bi svi mi o tome odlučili. Da ne odlučuju privatne kompanije koje hoće da zarade na nama, da ne odlučuje policija koja hoće da uštedi novac i vreme. Odluka je na našim društvima i našim zajednicama i to treba da bude nešto na čemu ćemo svi zajedno raditi.