Novi presek monitoringa SHARE Fondacije u Srbiji od aprila do kraja juna 2024. beleži 33 slučaja povreda ljudskih prava u digitalnom okruženju, što je donekle slično istom periodu prošle godine. Period april-jun obeležili su slučajevi iz kategorije prevare, pretnje i manipulacije (njih 29) dok je povreda iz ostalih kategorija bilo znatno manje – tri sajber incidenta i jedan slučaj koji se odnosio na ugrožavanje privatnosti i podataka o ličnosti. Kada je reč o rodno zasnovanom onlajn nasilju, monitoringom je obuhvaćeno 6 slučajeva koji se većinom odnose na uznemiravanje kroz napade motivisane rodom i seksualnom orijentacijom.
Novi izbori, stare tenzije
Posle kriznog perioda izazvanog brojnim uočenim nepravilnostima tokom parlamentarnih izbora u decembru prošle godine i Rezolucije Evropskog parlamenta koji je zauzeo kritički stav prema izbornom procesu, građani Srbije ušli su u još jednu kampanju. Lokalni izbori za Beograd, Novi Sad, Niš i brojne druge gradove i opštine raspisani su za 2. jun, a kampanju su obeležili bojkot jednog dela opozicije i pojava novih izbornih lista poput pokreta Kreni-Promeni. Jedan od upečatljivijih slučajeva tokom kampanje odigrao se na TV Pink koja je emitovala lažni snimak Save Manojlovića, kandidata Kreni-Promeni za gradonačelnika Beograda, generisanog veštačkom inteligencijom. Snimak je emitovan u centralnim informativnim emisijama na Pinku, a vlasnik televizije Željko Mitrović podelio je snimak i na ličnom X nalogu. Regulatorno telo za elektronske medije (REM) nije izreklo mere ni u ovom slučaju, pa je TV Pink ponovo prošla nekažnjeno za emitovanje dipfejk materijala.
Kampanju za lokalne izbore u Čačku obeležio je slučaj objavljivanja poverljive bankovne dokumentacije portala Ozon press, odnosno izvoda sa računa na kome se vidi uplata ovom mediju od Evropskog fonda za demokratiju. Indikativno je da se nakon govora predsednika Srbije Aleksandra Vučića na predizbornom mitingu u Čačku, gde je pomenuo da je “jedna nemačka fondacija uplatila 40.000 evra jednoj opozicionoj listi”, izvod pojavio na portalima koji podržavaju vladajuću koaliciju. Kako je potvrdio za Raskrikavanje, vlasnik portala Ozon press Stojan Marković bio je kandidat za odbornika opozicije.
Domaći posmatrači izbora iz organizacije Crta ponovo su se našli na udaru narodnog poslanika SNS i advokata Vladimira Đukanovića, koji je na mreži X neovlašćeno objavio imena, prezimena i matične brojeve njenih predstavnika. Tokom prethodne izborne kampanje, Đukanović je pozivao na hapšenje članova i zabranu te organizacije. Po zatvaranju biračkih mesta, tabloidni portali su manipulativno predstavljali izjavu šefa posmatračke misije Crta Raše Nedeljkova kako su izbori navodno bili “čisti kao suza”, iako je Nedeljkov na konferenciji za medije izjavio da je prerano za zaključke i analizu jer je izborni proces još uvek bio u toku. Više o pritiscima na izborne posmatrače pročitajte u autorskom tekstu Marka Vučkovića.
Napadi na posmatrače izbora – od otrovnih laži do zloupotrebe ličnih podataka
Kao i mnoge druge nevladine organizacije u Srbiji, i Crta je izložena napadima i etiketama stranih plaćenika i faktora destabilizacije. Medijska hajka s elementima teorija zavere, praćena zloupotrebom ličnih podataka članova tima Crte, podstiče netoleranciju i ugrožava slobodu delovanja civilnog društva. Vlast je sve otvorenija u naporima da braniocima demokratije i ljudskih prava suzi prostor za delovanje.
Posmatračka misija Crte je samo u proteklih 10 meseci podnela skoro 200 prijava raznim institucijama zbog zabeleženih krivičnih dela i ugrožavanja prava građana u izborima. Dva vanredna izborna poluvremena, održana u decembru 2023. i junu 2024. godine, ogolila su razmere izbornog inženjeringa, manipulacija zakonima i institucijama u cilju nameštanja igre u korist – vlasti.
Upravo su nalazi Crte, koji su odjeknuli širom sveta, opredelivši zaključke mnogih međunarodnih institucija o stanju u Srbiji, pokrenuli višemesečnu kampanju diskreditacije i mržnje protiv organizacije i pojedinaca u njoj. Posebno zabrinjava to što su najviši predstavnici države glavni podstrekivači toksičnih narativa, umesto da budu odgovorni sagovornici u sagledavanju ozbiljnih nalaza o izbornoj prevari.
Salva optužbi da Crta namerava da “destabilizuje Srbiju” i “sruši ustavni poredak” koja je krenula nakon izbornog dana 17. decembra sa zvanične konferencije tadašnje predsednice Vlade Srbije, prerasla je u višemesečnu kampanju u najuticajnijim medijima, ali i na društvenim mrežama gde predstavnici i saradnici vlasti bez posledica raspiruju mržnju i netrpeljivost.
Napadi su deo šireg trenda kriminalizacije i targetiranja nevladinih organizacija, koje se optužuju za antidržavno delovanje.
“Trebalo bi te iz CRTE da pohapsi zbog obmane javnosti o navodnoj krađi, kao i uznemirenja javnosti. Takođe, CRTU kao lobističku organizaciju bi trebalo zabraniti.”
Vladimir Đukanovic, zvaničan “X” nalog @adv_djukanovic, 18. januar 2024.
Pretnje i pritisci su se nastavili i tokom kampanje za beogradske i druge lokalne izbore 2024. Nakon što je objavila nove podatke o neobjašnjivim promenama u javno dostupnim podacima iz Jedinstvenog biračkog spiska, odlazeći ministar državne uprave i lokalne samouprave (MDULS), Aleksandar Martinović, u aprilu javno optužuje Crtu za “napade na Srbiju”. Njegova izjava poslužila je kao uvod u talas medijskih napada koji će uslediti u narednim mesecima.
Jedan od najekstremnijih primera neprijateljstva dao je Vladimir Đukanović, narodni poslanik i visoki funkcioner Srpske napredne stranke, u maju 2024. godine, objavivši imena i lične podatke čitavog pravnog tima Posmatračke misije Crte. Đukanović je do podataka došao neovlašćenim pristupom dokumentu Lokalne izborne komisije beogradske opštine Vračar. Osim što je u pitanju krivično delo – zloupotreba službenog položaja unutar institucije – Đukanovićev postupak je direktno ugrozio bezbednost posmatrača izbora.
Nesumnjivo je, dakle, da diskreditujući narativi dolaze i iz državnih institucija, koje obezbeđuju podatke, aktivno podstiču ili ćuteći odobravaju hajke. Preliminarni podaci istraživanja koje Crta sprovodi s ukrajinskom organizacijom OPORA pokazuju jasnu povezanost između “bot” naloga na društvenim mrežama i najviših državnih predstavnika i institucija Republike Srbije. Pošto je objavila izveštaj o nepravilnostima na izborima 2023. godine, Crta je postala meta koordinisanih napada na društvenoj mreži “X”. U periodu od novembra 2023. do januara 2024. godine, više od 60 odsto tvitova koji su spominjali Crtu bilo je negativno obojeno optužbama da je Crta „strani agent“ i da radi u interesu Zapada. Napadi su često dolazili sa naloga povezanih s vladajućom strankom i proruskom propagandom.
Važno je podsetiti i da je država Srbija još 2020. i 2021. godine sastavila listu od više od 50 organizacija i pojedinaca, koji treba da budu predmet provere zbog navodnog pranja novca i finansiranja terorizma. Time su direktno iskorišćeni međunarodni standardi kao oružje protiv demokratskih glasova koij zagovaraju odgovoran rad vlasti. Nekoliko godina kasnije, kada se slegla prašina koja je sakrila činjenicu da niko nije odgovorao za očiglednu zloupotrebu zakona i pravila, Crta i druge nevladine organizacije ponovo su meta optužbi o stranim plaćenicima.
U društvenom sporu o iskopavanju litijuma vlast se služi istim, proverenim receptom. U avgustu 2024. provladini mediji su nevladine organizacije žigosali kao strane agente na zadatku destabilizacije Srbije. Po nalazima Crte, u više od 120 objava na informativnim portalima nevladine organizacije su opisivane kao produžena ruka Zapada. U toj operaciji prednjačio je tabloid Informer, tj. njegov glavni i odgovorni urednik Dragan J. Vučićević. Kao povod za ofanzivu poslužio je izveštaj kineskog Ministarstva spoljnih poslova u kojem se Nacionalna zadužbina za demokratiju (NED) optužuje da finansira civilno društvo u cilju rušenja aktuelne vlasti u Srbiji.
Jedan od ključnih nosilaca tog narativa bio je predsednik Srbije, koji je 20. avgusta 2024. godine izjavio da su “rekordni iznosi novca” ušli u Srbiju radi destabilizacije države pod izgovorom “unapređenja demokratije”.
Šire se i manipulacije zasnovane na motivu obojenih revolucija. Dijana Hrkalović, bivša državna sekretarka Ministarstva unutrašnjih poslova (MUP), koja je sa funkcije otišla u jeku afere u kojoj je povezivana s klanom organizovanog kriminala, iznela je tvrdnje da je NED, kao jedan od partnera Crte i drugih organizacija u Srbiji, zapravo agentura Centralne obaveštajne agencije (CIA), koja se služi nevladinim organizacijama u podrivanju Srbije. Hrkalović je izjavila da su nevladine organizacije plaćene kako bi organizovale proteste i revolucije, i to putem manipulacije osetljivim temama, poput ubijene dece (masovna ubistva u školi “Vladislav Ribnikar i mladenovačkim selima, op. aut.) i ekoloških pitanja. Usled višedecenijskog nametanja ideologije nacionalizma i antizapadnog populizma, čini se da autoritarna vlast nevladine organizacije tretira kao laku metu i dežurne krivce za svaku situaciju u društvu koju ne može lako da kontroliše. Umesto argumenata, jednostavnije je plasirati dezinformacije i manipulacije koje podstiču ksenofobiju i paranoju.
Do trenutka nastajanja ovog teksta, napadi nisu stali.
Marko Vučković je diplomirani politikolog za međunarodne poslove, član tima Crte od 2023. godine. Student je master programa pod nazivom Peace, Security and Development na Fakultetu političkih nauka. Posebno je zainteresovan za oblasti međunarodnog terorizma, organizovanog kriminala i reforme sektora bezbednosti.
SLAPP tužbe: novi nivo
Pravni postupci koji se pokreću radi zastrašivanja novinara i aktivista visokim novčanim odštetama, pa čak i krivičnim sankcijama, redovno su sredstvo pritiska kojim se koriste javni funkcioneri i ljudi od društvenog uticaja. Problemi koje tzv. SLAPP tužbe izazivaju prepoznati su i u Evropskoj uniji, koja je početkom godine usvojila anti-SLAPP direktivu sa ciljem da u državama članicama postavi minimalne standarde zaštite aktera koju deluju u javnom interesu, od malicioznih tužbi. Prema podacima CASE koalicije iz 2023. godine, Srbija je bila na desetom mestu u Evropi od 35 država u kojima koalicija prati SLAPP postupke.
Istraživački mediji koji otkrivaju slučajeve korupcije i zloupotrebe moći naročite su mete tužbi sa ciljem zastrašivanja. Protiv Mreže za istraživanje kriminala i korupcije (KRIK) podnete su dve tužbe zbog baze “Prosudi ko sudi”, koja je namenjena istraživanju rada pravosuđa i unapređenju transparentnosti. Sutkinja Apelacionog suda u Beogradu Dušanka Đorđević i njen suprug zahtevali su naknadu štete u iznosu od 760.000 dinara, ali i zatvorske kazne i dvogodišnju zabranu rada za novinare Stevana Dojčinovića i Bojanu Pavlović, što je presedan čak i u pogledu dosadašnjih SLAPP tužbi u Srbiji. U sličnoj situaciji se našla novinarka portala Pištaljka Snežana Đurić, koju je generalni sekretar Veslačkog saveza Srbije tužio zbog izveštavanja o postupanju prema uzbunjivaču u toj sportskoj instituciji, tražeći 650.000 dinara odštete i dve godine zatvora za novinarku.
Civilno društvo i medijska zajednica oštro su reagovali na oslobađajuću presudu Apelacionog suda u Beogradu okrivljenima za ubistvo novinara Slavka Ćuruvije. Optuženi u postupku koji su drugostepenom presudom oslobođeni, tužili su Fondaciju Slavko Ćuruvija zbog saopštenja u kome su izrazili neslaganje sa presudom, ali i advokata Aleksandra Olenika i potpredsednicu Stranke slobode i pravde Mariniku Tepić koji su na mreži X komentarisali presudu. Od sve tri tužene strane tražen je isti iznos na ime naknade štete – 500.000 dinara.
Pretnje, rodno nasilje i diskriminacija
Razmere tehnološki posredovanog rodno zasnovanog nasilja otkrivene su više puta kroz izveštavanje o grupama za razmenu zloupotrebljenog intimnog sadržaja, najčešće kreiranih i organizovanih na Telegramu. Grupa devojaka iz organizacije Osnažžene su se inflitrirale u Telegram grupe u kojima su pronašle materijale seksualnog zlostavljanja dece, incesta, kao i brojne druge intimne sadržaje snimljene i/ili objavljene bez pristanka. Nedugo zatim, članovi grupa su počeli da ih targetiraju uvredama, pretnjama, nasiljem ali i potencijalnim tužbama zbog teksta u kome su obelodanile aktivnosti na Telegram grupama u koje su imale uvid.
Takođe, studentkinje Filozofskog fakulteta u Novom Sadu Mila Pajić i Doroteja Antić su putem društvenih mreža dobile stotine pretnji i uvreda nakon što su podržale Rezoluciju UN o genocidu u Srebrenici svojim izjavama za video koji je objavila Inicijativa mladih za ljudska prava. Pajić i Antić su već dobijale pretnje od ekstremnih desničara tokom protesta za odbranu autonomije fakulteta na kome studiraju. Veliku pažnju javnosti privukao je festival “Miredita, dobar dan”, koji se održava u Beogradu i Prištini u svojevrsnoj kulturnoj i umetničkoj razmeni dve sredine. Ove godine, nadležni organi Srbije su zabranili održavanje festivala zbog “opasnosti od ugrožavanja bezbednosti ljudi i imovine” usled protesta ultradesničarkih i nacionalističkih grupa. Kako je direktorka Inicijative mladih za ljudska prava (YIHR) ukazala, na društvenim mrežama istaknute su brojne pretnje nasiljem usmerene prema učesnicima i organizatorima festivala.
Internet prevare
Kada je reč o sajber incidentima, uobičajena pojava u monitoringu digitalnih prava i sloboda jesu različite vrste internet prevara zasnovanih na socijalnom inženjeringu, poput fišinga ili smišinga. U posmatranom periodu izdvojila se zloupotreba službene mejl adrese Uprave za trezor. Ministarstvo finansija apelovalo je na građane da pažljivo proveravaju mejlove koje dobijaju od Uprave, imajući u vidu da je napadač maskirao pravu mejl adresu tako da poruka izgleda autentično, ali je sadržala maliciozni prilog koji može da zarazi uređaj ako se otvori. Kako se sve više servisa javne uprave digitalizuje i raste obim poslova sa državnim organima koji se obavljaju elektronskim putem, građani su izloženiji riziku od ovakvih prevara.
Takođe su i dalje prisutne fišing kampanje usmerene na korisnike banaka. Nacionalni CERT je upozorio građane da su se pojavile lažne mejl poruke, navodno od Rajfajzen banke, kojima se traži “verifikacija identiteta” ili “hitna akcija za bezbednost kreditne kartice”. Prevaranti su slali lažna obaveštenja da je banka uočila neuobičajene aktivnosti platnih kartica ili grešku u funkcionisanju računa, uz upozorenje da će klijentima biti blokiran račun ako ne reaguju u narednih 12 sati. Sličnom prevarom, ali putem SMS poruka u kojima se spominje Unikredit banka, od građana je traženo da kliknu na link i unesu podatke o ličnosti.
Digitalno nasilje nad devojčicama i ženama u Srbiji je u stalnom porastu, svedoče sve jeziviji naslovi u medijima. Među najčešćim metama nasilnika nalaze se novinarke, društvene aktivistkinje, političarke, kao i druge istaknute žene iz javne sfere. Takođe, nad poznatim ženama ovakvo nasilje češće poprima i neke ekstremnije oblike.
Slabi mehanizmi pravne zaštite, uz odsustvo sistemske edukacije i informisanja o ovoj vrsti nasilja i njegovim posledicama, čine ključne prepreke u borbi za pravedniji digitalni prostor.
Oslanjajući se na postojeće analize i inicijative, pretežno iz zajednica civilnog društva, SHARE Fondacija je pripremila sažeti pregled činjenica značajnih za fenomen rodno zasnovanog digitalnog nasilja. U uvodnom pojmovniku najpre su opisani i definisani različiti oblici onlajn nasilja, sa primerima iz iskustva devojčica i žena u Srbiji – od takozvane osvetničke pornografije, koja je posebno potresla javnost zbog uzrasta pojedinih počinalaca ili zbog rasprostranjenosti na mrežama, do inicidenata koji ujedno predstavljaju i direktnu pretnju temeljnim društvenim vrednostima kao što su ravnopravnost i sloboda govora.
U odeljku o odgovorima i izazovima u borbi za suzbiljanje ove vrste nasilja, opisani su postojeći mehanizmi pravne zaštite i način na koji se ona može ostvariti. Takođe, izložene su aktuelne inicijative za izmenu zakona, posebno u pogledu kriminalizacije zloupotrebe snimaka polne sadržine, što uključuje i one stvorene uz pomoć veštačke inteligencije.
Konačno, konkretni koraci i njihov ciljani ishod čine odeljak sa preporukama namenjenim zakonodavnim telima, policiji, pravosudnim organima, školama i psihosocijalnim službama, ali i organizacijama civilnog društva kao i najširoj javnosti, od svakodnevnih korisnika interneta do influensera koji na njih često značajno utiču.
Treća letnja škola digitalnih prava održana je od 25. do 31. avgusta u Perastu, tokom koje se okupilo više od 40 novinara, aktivista i stručnjaka za veštačku inteligenciju, medije, ljudska prava, nadzor i digitalne politike.
Tokom petodnevnih predavanja i radionica, razmatrana su i analizirana brojna pitanja u vezi sa regulisanjem digitalnog okruženja. Posebna pažnja posvećena je novim EU propisima, odnosno Aktu o digitalnim uslugama, Aktu o digitalnim tržištima i Aktu o veštačkoj inteligenciji, kao i njihovim implikacijama po Zapadni Balkan. Pored toga, razgovaralo se o temama kao što su kolektivna zaštita digitalnih prava, veze između socijalne pravde i tehnologije, tehnike za borbu protiv nadzora i zloupotreba intimnih slika bez saglasnosti.
Hvala svim učesnicima, predavačima i gostima na uzbudljivoj nedelji koju smo proveli zajedno! Program su organizovali SHARE Fondacija, European Digital Rights (EDRi) i Digital Freedom Fund.
Pored inovacija, tehnoloških iskoraka i zaokreta u digitalnoj industriji, treća decenija 21. veka beleži i svojevrsnu institucionalnu prekretnicu, koja se pre svega prepoznaje kroz uspostavljanje jedinstvenog digitalnog tržišta Evropske unije (Digital Single Market), uz niz pravila koja treba da omoguće da se na takvom tržištu uvažavaju sva prava i slobode koja su građanima i građankama garantovana evropskim pravnim poretkom.
Pitanje je da li bi eventualni “briselski efekat”, u vidu povećane transparentnosti velikih onlajn platformi, interoperabilnog digitalnog tržišta ili suzbijanja neželjenih efekata upotrebe sistema veštačke inteligencije u EU, mogao da se oseti i u evropskom susedstvu? Odnosno, koliko ova prekretnica može biti šansa za region Zapadnog Balkana – da na talasu “aktizacije EU” zauzme evropski normativni pravac i sistemski i sveobuhvatni pristup u regulaciji digitalne industrije? Odgovori na ova pitanja, između ostalog, zavise od polaznog stanja, odnosno aktuelne legislative i ukupnog normativnog i institucionalnog okvira u ovim zemljama.
Kako pokazuje studija koji je sprovela SHARE Fondacija u saradnji sa regionalnim partnerima, postojeća legislativa u Albaniji, Bosni i Hercegovini, Crnoj Gori, Kosovu, Severnoj Makedoniji i Srbiji ne daje adekvatan regulatorni odgovor na izazove digitalnog okruženja.
Naime, komparativna procena regulative u zemljama Zapadnog Balkana u odnosu na EU pokazala je da postoje određena pravila koja se mogu primeniti na digitalne usluge i digitalna tržišta unutar nacionalnog zakonodavstva, dok regulativa u vezi sa veštačkom inteligencijom nedostaje u većini zemalja. Međutim, postojeći propisi uglavnom zaostaju u odnosu na evropske iz više razloga. Identifikovana pravila najčešće potiču iz prethodnih generacija regulative i ne pružaju adekvatne odgovore na aktuelne izazove ili imaju ograničenu regulatornu snagu usled činjenice da su disperzirana kroz širok spektar različitih zakona, strategija, odluka, podzakonskih akata i drugih tipova pravnih dokumenata, što onemogućava sistemsku regulaciju digitalnog okruženja.
Mapiranje i procena važećih propisa iz perspektive centralnih digitalnih izazova u zemljama Zapadnog Balkana, predstavlja ne samo važno polazište za razumevanje novih evropskih pravila i postojećih prilika u regionu, već će služiti i kao baza za dalje istraživačke inicijative i praćenje stanja, kreiranje i unapređenje politika u ovim oblastima. U studiji je analizirana normativna baza akata, mapirana su nova pravila, kao i institucionalni okvir DSA, DMA i AIA, prema kojima je zatim komparirano stanje regulative u pojedinačnim zemljama Zapadnog Balkana. U tom smislu je važna metodološka napomena da je na osnovu eksploratorne faze istraživanja izvedena vrednosna struktura tri akta, koja je predstavljala analitičku matricu uporedne analize i procene pravnih okvira zemalja u odnosu na evropski.
Prema nalazima studije, centralna vrednost DSA je odgovornost, dok ukupnu vrednosnu strukturu ovog akta grade pouzdanost, transparentnost, sigurnost, horizontalnost i dostupnost. Ključna vrednost DMA je demokratizacija tržišta, operacionalizovana kroz transparentnost, odgovornost, interoperabilnost, mobilnost i demonopolizaciju/dekoncentraciju digitalnog tržišta. Sprečavanje i rešavanje štetnih efekata AI identifikovano je kao centralni vrednosni stub AIA, podržan transparentnošću, kao i nadzorom, prevencijom i smanjenjem štete usled korišćenja AI sistema.
Značaj ovih vrednosti za svakog građanina i građanku, kao i celo društvo nije upitan. Međutim, tek će puna implementacija pravila koje donose ovi akti pokazati koliko su benefiti dostižni, a ciljevi evropskih kreatora politika ostvarivi. Stoga je praćenje implementacije i efekata nove regulacije od posebnog značaja. Samo puna uključenost svih aktera – od evropskih institucija, nacionalnih tela, eksperata, istraživača, industrije, pa i samih građana i građanki – predstavlja institucionalni preduslov za zaokret ka demokratskom digitalnom ekosistemu uz puno uvažavanje prava i sloboda svih građana i građanki.
Pred zemljama Zapadnog Balkana je zadatak sveobuhvatnog unapređenja postojeće regulative i trasiranja odgovarajućeg institucionalnog puta za sistemsko suočavanje sa izazovima digitalnog okruženja koji otvaraju digitalno tržište ka EU, uz uvažavanje kriterijuma transparentnosti, odgovornosti, fer konkurencije, kao i pune zaštite ljudskih prava.
Snežana Bajčeta je istraživačica SHARE Fondacije u oblastima digitalnih tehnologija, medija i novinarstva.
Za korisnike Instagrama i Fejsbuka iz Srbije od 26. juna, bez prethodnog upozorenja, važi nova Politika privatnosti prema kojoj će sadržaji koje korisnici objavljuju i razmenjuju (uključujući privatne poruke) služiti za trening Metinih AI modela i proizvodnju sadržaja veštačke inteligencije.
Detaljnije o slučaju i šta sve Meta koristi od naših podataka → SHARE Fondacija
Predlog nove strategije razvoja veštačke inteligencije (2024-2030) je tokom leta objavljen za javnu raspravu. SHARE Fondacija je poslala komentare na tekst strategije, koji uglavnom ističe tehnološki razvoj i prednosti implementacije AI, odnosno nedovoljno uzima u obzir rizike po ljudska prava i slobode.
Vladan Joler i Kejt Kroford su mapirali razvoj tehnologija za komunikaciju, automatizaciju, nadzor i kontrolu od 1500. godine do danas. “Calculating Empires” je impresivan prikaz tehnološkog napretka, političke moći i društvenih odnosa.
Za korisnike Instagrama i Fejsbuka iz Srbije od 26. juna važi nova Politika privatnosti, zbog koje će se SHARE Fondacija obratiti Povereniku za informacije od javnog značaja i zaštitu podataka o ličnosti kako bi pokrenuo postupak protiv kompanije Meta. Naime, prema novim pravilima sadržaji koje korisnici u našoj zemlji objavljuju na dve najpopularnije platforme služiće za trening Metinih AI modela i proizvodnju sadržaja veštačke inteligencije.
Osim vidljivih objava, lajkova, komentara i poruka, Meta može da koristi i metapodatke kao što su vreme objave, geolokacija, vrsta uređaja i slično; zatim, podatke o interakcijama sa prikazanim sadržajima, podatke koje prikupljaju Metini partneri o ponašanju korisnika na internetu izvan Instagrama i Fejsbuka – i mnogo toga još.
Koliko je poznato, Meta o ovim promenama nije ni obavestila korisnike iz Srbije putem mejla, što znači da im je uskraćena sloboda informisanog izbora. Na taj način, Meta zloupotrebljava poziciju Srbije i drugih država van okrilja EU zaštite prava građana, u korist razvoja profitabilne vlasničke tehnologije.
Evropska organizacija za digitalna prava, Noyb, početkom juna je upozorila javnost na promene u Metinoj politici privatnosti za korisnike u EU (i EEA), ali je građanima na tom prostoru ostavljena mogućnost da ne pristanu na obradu ličnih podataka za takve svrhe. Rok za “opt-out” bio je 26. jun, posle čega bi im se ukinula opcija da odbiju obradu svojih podataka za razvoj Metinih AI modela.
Kako se precizira, umesto da traži pristanak od svakog korisnika, Meta se pozvala na legitimni interes kao pravni osnov, što je protivno standardima zaštite podataka o ličnosti jer razvoj tehnologije i profit ne mogu biti važniji od prava na privatnost.
Pravni tim Noyb je podneo 11 žalbi službama za zaštitu podataka širom Evrope kako bi sprečio Metu da sprovede plan. U žalbi podnetoj Komisiji za zaštitu podataka o ličnosti Irske, koja je nadležna za Metu u EU/EEA, Noyb detaljno opisuje nezakonitost novih pravila kompanije i kršenje niza odredbi evropske Opšte uredbe o zaštiti podataka (GDPR).
Pošto je irska Komisija za zaštitu podataka o ličnosti saopštila da će Meta suspendovati plan da se za razvoj svojih AI modela po volji služi podacima korisnika iz EU/EEA, Noyb je 14. juna proglasila “preliminarnu pobedu”. Pritisak je urodio plodom. S druge strane, Meta je ocenila da je u pitanju “korak unazad za evropske inovacije, konkurenciju u razvoju veštačke inteligencije, koji dalje odlaže pristup ljudi u Evropi prednostima veštačke inteligencije”.
Korisnici iz EU sada u Metinim politikama privatnosti mogu da pročitaju da je upotreba njihovih podataka za razvoj i unapređenje AI odložena “posle konsultacija sa regulatorima”, kao i da će o eventualnoj promeni biti blagovremeno obavešteni kako bi iskoristili svoje pravo da odbiju obradu podataka za takve svrhe.
U Srbiji to, nažalost, nije slučaj, pa su ovdašnji korisnici prepušteni hirovima krupnih korporacija. SHARE Fondacija će u pritužbi protiv Mete zatražiti od Poverenika za informacije od javnog značaja i zaštitu podataka o ličnosti da ispita zakonitost. Vredi podsetiti da Meta još uvek nije imenovala predstavnika u Srbiji za pitanja zaštite podataka o ličnosti, što joj je obaveza po domaćem zakonu. SHARE Fondacija je tim povodom još 2019. tražila pokretanje prekršajnog postupka.
SHARE Fondacija je institucijama nadležnim za sprovođenje javne rasprave dostavila komentare na Predlog Strategije razvoja veštačke inteligencije u Republici Srbiji za period 2024-2030. godine. Novi Predlog donet je pre isteka važeće Strategije, što govori o brzini razvoja oblasti veštačke inteligencije i potrebe da pravni okvir što bolje isprati ovaj razvoj.
U komentarima smo predložili da se Strategija više fokusira na etički razvoj i bezbednu primenu veštačke inteligencije, gde je čovek u centru svih AI procesa, na način koji će promovisati i štititi osnovna ljudska prava i slobode. U postojećem Predlogu Strategije, naime, fokus je na tehnološkom razvoju, dok se zaštita ljudskih prava i sloboda pominje tek na nekoliko mesta, a u nešto većoj meri i Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije. Međutim, posebno je problematična činjenica da ni u jednom delu Strategije ne postoji objašnjenje šta su to Etičke smernice, niti zašto su one važne. Strategija se može značajno poboljšati jasnijim predstavljanjem Etičkih smernica, ali i eksplicitnijim pozivanjem na Povelju Ujedinjenih nacija i druge relevantne nacionalne i međunarodne dokumente koji se bave zaštitom osnovnih ljudskih prava i sloboda.
Predložena Strategija detaljno opisuje prednosti koje veštačka inteligencija može doneti, ali smatramo da je takav prikaz potrebno izbalansirati predstavljanjem potencijalnih rizika. Građani moraju biti obavešteni o potencijalnim rizicima i načinima njihovog prevazilaženja, kao i o mogućnostima pravne pomoći u slučajevima kada primena veštačke inteligencije negativno utiče na prava i slobode građana.
Predlažemo da se u Strategiji posebna pažnja posveti pitanjima ravnopravnosti i zaštite od diskriminacije u oblasti razvoja i primene veštačke inteligencije. To je naročito važno usled rastućeg rizika s kojim se suočavaju ranjive društvene grupe, kao što je pokazao slučaj sa dipfejk video snimcima, čije su žrtve najčešće devojčice i žene.
Na kraju, predlažemo veću transparentnost u prikupljanju i upotrebi ličnih i drugih podataka prilikom razvoja i primene veštačke inteligencije. Strategija treba da bude konzistentna sa Etičkim smernicama, ali i drugim zakonima i propisima koji uređuju zaštitu podataka, te da jasno predstavi koji podaci će se koristiti i za koju svrhu, kao i kakve pravne zaštite građani uživaju.
Ministarstvo nauke, tehnološkog razvoja i inovacija dobro je prepoznalo sve veći značaj veštačke inteligencije i potrebu da se ova oblast reguliše, ali je neophodno da se u Strategiji obrati veća pažnja na zaštitu ljudskih prava i sloboda, kao i etičku i bezbednu primenu veštačke inteligencije.
The applications for the 2024 Digital Rights Summer School in Perast, Montenegro are now open!
The School takes place from 25 to 31 August 2024, and this year’s program is designed for enthusiasts based in Southeast Europe, who are passionate about digital rights and eager to learn more about the latest developments in this field.
During the school, we’ll explore the impact of new technologies on human rights through lectures and talks by regional and international digital rights experts. You’ll take part in workshops and discussions on digital markets and online content regulation, information warfare, online harassment, AI-enabled surveillance and policing, while exploring their potential effects on regional affairs and strategies for advocacy. As a participant, you will also have the opportunity to connect, share experiences and collaborate on digital rights initiatives across the region. These are just some of the topics you will hear about and gain both theoretical and practical knowledge!
This program is organised by SHARE Foundation, European Digital Rights (EDRi) and Digital Freedom Fund – it offers a unique opportunity to learn from leading experts and network with other professionals in the field. Join us for an engaging program in the beautiful setting of Perast. Accepted applicants will be provided with travel and accommodation during their stay.
April donosi pregled povreda digitalnih prava i sloboda zabeleženih početkom nove godine, odnosno od januara do marta. Posebno ističemo post-izborne tenzije, dipfejk pornografske sadržaje u školama, curenje podataka EPS-a, kao i kontinuirane pretnje predstavnicima Nezavisnog društva novinara Vojvodine.
Koji slučajevi su obeležili prvi kvartal monitoringa → SHARE Fondacija
Ova godina je veoma značajna u pogledu izbora i demokratskih procesa širom sveta, naročito kada se uzmu u obzir izbori za Evropski parlament i predsednički izbori u SAD. Instagram je nedavno promenio opciju za prikazivanje političkih i društveno angažovanih sadržaja, što u značajnoj meri utiče na vidljivost objava naloga koje korisnici ne prate.
Teodora Uzelac je sa još nekoliko devojaka iz Batajnice godinama trpela seksualno zlostavljanje i uznemiravanje preko mreže anonimnih onlajn naloga. Osumnjičeni je krajem prošle godine napokon uhvaćen i procesuiran, a nakon ogromnih količina lažnog uznemirujućeg sadržaja, duboka trauma koja ostaje je itekako stvarna.
U poslednjih nedelju dana, kompanija Meta izložena je kritikama sa raznih strana zbog svoje odluke da ograniči politički sadržaj na platformama Instagram i Threads. Postoji nekoliko razloga zbog kojih je ova odluka izazvala negativne reakcije i u cilju boljeg razumevanja ovog poteza važno je proći kroz svaki od njih.
Prema najskorijim istraživanjima, Instagram ima dve milijarde aktivnih mesečnih korisnika, odnosno skoro 40% svetske populacije koja koristi internet, što ga čini četvrtom najpopularnijom društvenom mrežom, iza Facebook-a, YouTube-a i WhatsApp-a.
Koga sve pogađa ovakva odluka?
Za početak, Metina definicija “političkog”, koja se u ovom kontekstu odnosi na političke ali i društvene sadržaje, sama po sebi je dosta nejasna, jer je teško definisati šta sve spada u sporan sadržaj. Iz kompanije su takođe naglasili da su definicije ograničenog sadržaja otvorene za promene u skladu sa kompleksnim svetskim izazovima sa kojima se suočavamo. Ovo naravno platformama daje odrešene ruke da u bilo kom trenutku prilagode svoja pravila u odnosu na teme koje smatraju nepogodnim ili čiju vidljivost žele da smanje. Iako je za segment definicije koji se odnosi na politički sadržaj, objašnjeno da se prevashodno misli na informacije koje se tiču zakona ili izbornih procesa, društveni sadržaji predstavljaju mnogo veći izazov.
Društveno jeste političko isto onoliko koliko je i političko društveno, pa samim tim ovakva distinkcija i nejasna postavka može biti jako opasna, pogotovo kada razmišljamo o sadržaju koji se može odnositi na socijalno ugrožene i marginalizovane grupe. Ženske, LGBTQ+, ekološke i druge društveno svesne i odgovorne organizacije lako mogu potpasti pod ova ograničenja, iako su upravo te organizacije one kojima su društvene mreže nekada najrelevantniji, ako ne i jedini kanal komunikacije.
Pokušaj ograničavanja ovakvih sadržaja predstavlja direktnu pretnju po slobodu izražavanja i pravo na pristup informacijama, a ljudemože (još) dublje zatvoriti u njihove informativne mehure. Ako do korisnica i korisnika ne dopiru sadržaji koji ukazuju na društveno-političke probleme, osim ako direktno ne prate ove stranice, postavlja se pitanje šta to znači za takozvanu ideju ‘umreženog društva’ koju ove platforme tvrde da neguju od svog osnivanja.
Cenzura u doba izbora i rata
Sledeće važno pitanje je – zašto sada? Tokom 2024. godine, skoro 50 odsto svetske populacije trebalo bi da izađe na birališta – od SAD i izbora za Evropski parlament, preko Turske i Tajvana, pa sve do Meksika i Južne Afrike – što godinu čini istorijskom. Nakon žestokih kritika s kojima je Meta bila suočena prethodnih godina, pogotovo kada je u pitanju kasna reakcija na širenje dezinformacija po njihovim platformama, propagiranja govora mržnje koji je doprineo genocidu nad Rohinjama u Mjanmaru i pristrasnog promovisanja određenih vrsta vesti i medija, ovakav potez može se tumačiti kao preventivno ‘saniranje štete’. Nažalost, odluka može imati veoma dalekosežne i negativne posledice na sam izborni proces kao i na rezultate izbora, jer korisnicama i korisnicima daje nepotpunu sliku potencijalnih problema i glasova koji se o tim izborima pitaju.
Uz to, drugi veliki razlog predstavlja trenutni genocid koji se sprovodi u Gazi nad Palestincima. Imajući u vidu da će ovakva ograničenja na sadržaj imati najviše uticaja na izbore u Americi i izbore za Evropski parlament, jasno je da je sklanjanje fokusa sa događanja u Gazi direktan pokušaj relativizacije ove teme kao jedne od najvažnijih za glasače. Očigledno je da se usled značajno pristrasnog izveštavanja o ovom konfliktu od strane nekih od najvećih medija u svetu, mnogo ljudi okrenulo društvenim mrežama u potrazi za neposrednim izvorima informacija o tome šta se dešava. Porast građanskog novinarstva znatno se osetio na društvenim mrežama i služi kao vitalni kanal za pravovremeno informisanje.
Već mesecima unazad svedočimo raznim metodama ućutkivanja palestinskih glasova na svim društvenim mrežama. Istraživanja su pokazala da Instagram sistemski cenzuriše objave koje se tiču Palestine, dok su korisnici iz Palestine takođe ukazali na to da su njihove objave često ostale nevidljive za sve osim za one koji ih postavljaju (shadowbanning). Zbog svega ovoga, sporna Metina odluka samo daje legitimitet ovakvim praksama, dok ih oslobađa odgovornosti i potrebe da pravdaju svoje poteze. Sadržaj koji potiče direktno iz Palestine bio je od presudnog značaja za mnoge ljude da situaciju sagledaju iz različitih uglova i, u nekim slučajevima, promene mišljenje, kako o svojem okruženju tako i o svojim izabranim političarima.
Genocid u Gazi neminovno će predstavljati veliko pitanje za glasače na predstojećim izborima širom sveta, pa nije nerazumno zaključiti da suzbijanje ovakvog sadržaja može da ima dalekosežne posledice na izborne procese. Naročito imajući u vidu zabrinjavajuće trendove opadanja sloboda u gotovo svim zemljama u poslednje dve decenije, povećanog broja nepouzdanih izvora informacija, kao i sadržaja kreiranog posredstvom generativne veštačke inteligencije, trenutno su provereni i transparentni izvori koji se bave društvenim i političkim pitanjima potrebniji nego ikada. I među tim izvorima, kao i među primaocima takvih informacija, pretežno se nalazi se mlađa populacija čiji se najveći deo informativne dijete sastoji od informacija dobijenih preko društvenih mreža. Stoga, ako takvi sadržaji ostanu nevidljivi baš tu, veća je verovatnoća da mogu proći ispod radara.
Sistem ‘odustajanja’ (opting-out) i moderacija kroz algoritam
Još jedna posebno sporna stvar jeste sam način uvođenja promena, koji je kompanija zasnovala na principu odbijanja pristanka (opt-out). Meta je odlučila da podrazumevana postavka bude da se ova promena uvede svima, a da oni koji žele (i znaju) kako da je izmene to mogu da učine. Iako deluje da se na ovaj način korisnicima pruža mogućnost izbora, i da su oni ti koji mogu da odluče da li žele ovakvu promenu da prihvate, ostaje činjenica da je ograničenje sadržaja dato kao podrazumevana postavka. To znači da je odluka ipak doneta, smišljeno i prikriveno, da najveći broj korisnika neće na nju ni obratiti pažnju niti se interesovati. Iako ne postoji ništa sporno u ideji da su korisnici ti koji sami odlučuju koje vrste sadržaja žele da vide, neodgovorno je da platforme na korisnike prebacuju teret odlučivanja. Ne bi trebalo da se podrazumeva da se promene uvode bez obaveštenja i podrobnog objašnjenja i da se očekuje reakcija, već da sami korisnici biraju da li takvu promenu žele da naprave nakon što im se ona na adekvatan način obrazloži.
Takođe je sporna i metodologija koju je Meta primenila u definisanju političkog sadržaja. Ovo svakako nije prvi put da kompanije na netransparentan način odlučuju da se postave u ulogu moderatora; slična situacija dogodila se i pre nekoliko godina, kada je Tviter odlučio da u određenim zemljama sveta, uključujući i Srbiju, obeležava naloge medija koji su bliski ili sarađuju sa vlastima. Donošenje ovakvih odluka iza zatvorenih vrata i bez adekvatnog komuniciranja može se ispostaviti kao veoma štetno za korisnike.
Većina algoritama koji pokreću velike platforme, funkcionišu po principu preporuke. To znači da sadržaji i nalozi sa kojima korisnici već imaju interakciju određuju buduće sadržaje i naloge sa kojima mogu doći u dodir, kao i sa potencijalnim sadržajem koji se takođe bave sličnim temama. Onog trenutka kada se takva opcija ukine, ili po Metinim rečima ‘ograniči’, automatski se drastično smanjuje slobodan pristup informacijama i znanju. Ovi algoritmi operišu pod velom tajne, ali ono što znamo jeste da je Meta poslednjih godina već uvodila promene koje smanjuju količinu informative i umesto toga prioritizuju takozvane zabavne sadržaje. Međutim, sve preko toga samo je spekulacija kada se u pitanje dovodi logika iza sistema po kojem oni rade.
Šta može da se uradi?
Ohrabrujuća je činjenica da je najnovija odluka Mete izazvala lavinu reakcija i da se puno autora društveno-političkog sadržaja, aktivistkinja i aktivista brzo mobilisalo da prošire poruku o tome šta se dešava i kako korisnice i korisnici mogu da se odupru ovakvim uslovima. U Srbiji, veliki broj Instagram stranica odmah je postavio detaljna uputstva za svoje korisnike kako mogu da onesposobe ovu promenu, kao i koje su potencijalne opasnosti takve fragmentacije informativnog prostora na mrežama. To samo ukazuje na činjenicu da je raste svest korisnika i tvoraca sadržaja i da će teže biti da se ovakve promene uvode na mala vrata u nadi da ih niko neće zapaziti. Naravno, veliki problem ostaje kako skrenuti pažnju onima koji ovakve sadržaje svakako ne prate, pa možda nisu ni obavešteni da je do ove promene došlo. To je, međutim, šire pitanje tehnološke pismenosti koje se ne može rešavati samo u okvirima društvenih mreža, već zahteva ozbiljnu inicijativu onih koji imaju društvenu odgovornost, kao što su različite nadležne institucije u obrazovanju, pravosuđu, i drugim oblastima, pa i sama ministarstava.
Mila Bajić je glavna istraživačica SHARE Fondacije sa fokusom na odnos novih medija, tehnologije i privatnosti.
