SHARE Fondacija objavila je Uvod u digitalna prava – priručnik za snalaženje u internet prostoru. U priručniku su predstavljeni neki od osnovnih pojmova iz oblasti ljudskih prava u digitalnom okruženju, ilustrovani praktičnim primerima iz regiona Zapadnog Balkana. Publikacija je takođe dostupna na albanskom, makedonskom i engleskom jeziku.
Iako su internet tehnologije otvorile mnoge nove i zanimljive načine za izražavanje ideja, razmenu informacija, udruživanje, proteste i druge aktivnosti koje se nalaze pod univerzalnom zaštitom kao temeljna prava svih ljudi, digitalizacija svakodnevnih poslova i komunikacije omogućila je i zloupotrebe i kršenje prava. Svesno ili iz neznanja, vođeni komercijalnim interesima ili namerom da uspostave kontrolu, različiti akteri – države, korporacije, političke i druge organizacije – često su na internetu vinovnici cenzure, narušavanja privatnosti građana i diskriminacije po različitim osnovama.
Ovaj priručnik fokusira se na tri oblasti – zaštitu podataka o ličnosti, digitalnu bezbednost i slobodu izražavanja. U svakoj oblasti predstavljeni su primeri povreda, posledice koje te povrede mogu da izazovu pojedincu i društvu, kao i mehanizmi zaštite digitalnih prava.
Da li su lajk na Tviteru, šerovanje na Fejsbuku ili metapodaci o pretrazi na Guglu – podaci o ličnosti? Kada ograničavanje pristupa nekom sajtu prerasta u cenzuru? Koja su ljudska prava ugrožena prilikom masovne obrade biometrijskih podataka u pametnim sistemima? Može li biti diskriminacije u procesu automatizovanog algoritamskog odlučivanja? Ovo su samo neka od pitanja na koja su eksperti SHARE Fondacije pokušali da daju što konkretnije i sažetije odgovore.
Društvene mreže odavno ne predstavljaju samo skrolovanje kroz galerije fotografija sa letovanja ili porodičnih okupljanja. Uz sve pogodnosti koje nam pružaju, društveni mediji nose velike rizike za svoje korisnike.
Kako se nositi sa uznermiravanjem na internetu, koje su posledice a koji koraci u cilju zaštite, saznajte u videu naše produkcije. → SHARE Fondacija/YouTube
Nije svaka agresija nasilje, a ova napomena važi i za fizički i za onlajn prostor u kom se ispoljava. Za nasilje je potrebno nešto više od impulsivne reakcije: namera da se drugome nanese povreda ili šteta. Kad se ta nasilnička namera sprovodi kontinuirano, sa ciljem zastrašivanja, ponižavanja ili potčinjavanja, nad objektivno slabijom osobom – u očiglednoj neravnoteži fizičke snage ili društvene moći – psiholozi počinju da govore o pojavi koja se na engleskom zove „bullying“.
Šta predstavlja cyberbullying, kako se i gde vrši i šta može da prouzrokuje. → SHARE Fondacija
Pored informacija u vezi sa digitalnom bezbednošću, rešenja za probleme sa sajtom, presretanjem komunikacije, pretnjama i pritiscima, Alati za digitalnu bezbednost naše fondacije nude i savete u slučaju da se suočavate sa cyberbullying-om.
Ukoliko trpite neki vid nasilja, proganjanja, govora mržnje i slično, konsultujte poglavlje o uznemiravanju. → toolkit.sharecert.rs
Nije svaka agresija nasilje, kažu psiholozi, a ova napomena važi i za fizički i za onlajn prostor u kom se ispoljava. Psovke, uvrede, prostakluci, pa čak i verbalne pretnje izrečene / napisane u trenucima besa i frustracije nesumnjivo su izlivi agresije, ali im je za nasilje potrebno nešto više od impulsivne reakcije: namera da se drugome nanese povreda ili šteta. Možda zvuči nevažno, ali ako se odmeravaju pravne ili psihološke posledice, finese su od presudnog značaja.
Kad se ta nasilnička namera sprovodi kontinuirano, sa ciljem zastrašivanja, ponižavanja ili potčinjavanja, nad objektivno slabijom osobom – u očiglednoj neravnoteži fizičke snage ili društvene moći – psiholozi počinju da govore o pojavi koja se na engleskom zove „bullying“. Usled posebne pažnje koja se pridaje toj vrsti nasilja u školi, među đacima, kod nas se ustalio izraz „vršnjačko nasilje“ što je koncept koji bi trebalo da obuhvati i slične oblike nasilja među hijerarhijski relativno jednakim radnicima u istoj firmi, na primer.
Razlike je lako zamisliti. Odrasli su uglavnom dovoljno svesni granice koja socijalizovano nasilje među jednakima razdvaja od krivičnog dela i veštije ga prikrivaju šalom. S druge strane, što su mete nasilnika mlađe, to dublje i tragičnije doživljavaju uporno ponižavanje ili zastrašivanje, posebno zato što mu svedoči čitavo društveno okruženje kojem žele da pripadaju.
Kad se dešava među đacima, psiholozima je jasno da i jednoj i drugoj strani urgentno treba pomoć. Kad je nasilnik odrasla osoba, a nasilje pređe granice zakona, od pomoći mu je na raspolaganju advokat koji mu se može dodeliti po službenoj dužnosti, dok eventualna presuda može obuhvatiti i obavezno psihijatrijsko lečenje.
Ciljano, kontinuirano ponižavanje i zastrašivanje dešava se i u onlajn okruženju, na bezbednoj distanci od suočavanja licem u lice sa ljudskim bićem koje trpi nasilje. Istraživanja u američkim školama govore da je u đačkom uzrastu tzv. cyberbullying zapravo ređe zastupljen i uglavnom je tek prateći aspekt dominacije kroz ponižavanje slabijeg u fizičkom prostoru. Slučajevi nasilja među decom i mladima koje se prelilo i na onlajn mreže, a koji su okončani samopovređivanjem ili samoubistvom mete ponižavanja, međutim, privlače više pažnje medija u često senzacionalističkom tonu. Zahtevi za strožim zakonima, ograničavanje ili zabranu korišćenja internet platformi ubrzo utihnu, između ostalog i zato što se pojedinačni incidenti ne rešavaju opštim zabranama. Dobra zakonodavna rešenja, međutim, obuhvataju podizanje odgovornosti škola i srodnih struktura za sprovođenje edukativnih i preventivnih programa, praćenje ponašanja, prepoznavanje vršnjačkog nasilja, znakova depresije i slično.
Sa odraslima stvari stoje bitno drugačije, zato što su pravno odgovorni za svoje postupke, ali i jer se namera da se drugom nanese povreda ili šteta može jasnije utvrditi. U svetu odraslih, zapravo, cyberbullying obično sa sobom povlači neko od već propisanih krivičnih dela zlostavljanja, proganjanja, zloupotrebe ličnih podataka, polnog uznemiravanja ili kršenja ljudskih prava po osnovu ličnih svojstava (roda, porekla, statusa). Za proganjanje koje za posledicu ima smrt osobe koja se proganja, predviđena je kazna zatvorom od jedne do deset godina.
U slučaju kad siledžija ne prekorači pravne barijere, rešenje nije u dodatnom sužavanju zakonom dozvoljenog ponašanja koje bi sankcionisalo svaku psovku ili impulsivnu, nerealnu pretnju. U zoni regulisanja društveno nepoželjnog ponašanja, zajednica je ta na kojoj leži odgovornost da stane u zaštitu osoba koje trpe kontinuirano ponižavanje i zastrašivanje, kao i da bojkotom i osudom ograniči nasilniku prostor za nasilje.
U vreme kada svoj onlajn život provodimo u sve sitnije fragmentisanim mehurovima, nije uvek lako povesti široku diskusiju o društvenim patologijama, ali to nam je, kao civilizaciji koja je nekako dogurala do 21. veka, možda i poslednja šansa.
SHARE Fondacija razvila je jednostavan alat za unapređenje digitalne bezbednosti – portal na kom se mogu naći odgovori za razne vrste nedoumica o ličnoj bezbednosti na internetu, od tehničkih do pravnih.
Milica Jovanović je samostalna novinarka i urednica.
Često pričamo o dobrim i o lošim stvarima na internetu, ali retko se pitamo kakvo je generalno stanje digitalnog prostora u Srbiji. Da li je zdrav, slobodan i bezbedan, ili je postao isuviše kontrolisan i maliciozan? Koliko se zaista koristi za nadzor, manipulaciju društvom i pojedincima, širenje dezinformacija, botovanje, uvrede, pretnje? Da li je moguće sačuvati dostojanstvo onlajn i odupreti se državi, korporacijama i random trolovima?
Gosti sedme, specijalne epizode serijala Cyberama su Jelisaveta i Viktor iz ekipe NJUZ.NET, koji će iz pozicije bezmalo prosečnih korisnika interneta u Srbiji pokušati da odgovore na neka od ovih naizgled lakih pitanja.
Često pričamo o dobrim i o lošim stvarima na internetu, ali retko se pitamo kakvo je generalno stanje digitalnog prostora u Srbiji. Da li je zdrav, slobodan i bezbedan, ili je postao isuviše kontrolisan i maliciozan? Koliko se zaista koristi za nadzor, manipulaciju društvom i pojedincima, širenje dezinformacija, botovanje, uvrede, pretnje? Da li je moguće sačuvati dostojanstvo onlajn i odupreti se državi, korporacijama i random trolovima?
Gosti sedme, specijalne epizode serijala Cyberama su Jelisaveta i Viktor iz ekipe Njuz.net, koji će iz pozicije bezmalo prosečnih korisnika interneta u Srbiji pokušati da odgovore na neka od ovih naizgled lakih pitanja.
Budi onlajn u sredu 24. novembra u 20h na ovom YT linku. Registracija nije obavezna, ali je korisna: dobićeš podsetnik sa linkom za strim.
S obzirom na sve veći značaj moderiranja onlajn sadržaja u javnom diskursu, važno je sagledati drugačiju perspektivu kako bi se razumelo funkcionisanje algoritamske moderacije. Suprotno popularnoj pretpostavci koja odvaja mašinsku i ljudsku moderaciju, trenutno stanje predstavlja mešavinu uloga mašine i čoveka. Drugim rečima, ljudi su prilično uključeni u proces.
Više o moderaciji onlajn sadržaja i kako ona funkcioniše u gostujućem tekstu Ilje Lobanova. → SHARE Fondacija
Često pričamo o dobrim i o lošim stvarima na internetu, ali retko se pitamo kakvo je generalno stanje digitalnog prostora u Srbiji. Da li je zdrav, slobodan i bezbedan, ili je postao isuviše kontrolisan i maliciozan? Koliko se zaista koristi za nadzor, manipulaciju društvom i pojedincima, širenje dezinformacija, botovanje, uvrede, pretnje? Da li je moguće sačuvati dostojanstvo onlajn i odupreti se državi, korporacijama i random trolovima?
Gosti sedme, specijalne epizode serijala Cyberama su Jelisaveta i Viktor iz ekipe Njuz.net, koji će iz pozicije bezmalo prosečnih korisnika interneta u Srbiji pokušati da odgovore na neka od ovih naizgled lakih pitanja.
Budi onlajn u sredu 24. novembra u 20h na ovom YT linku. Registracija nije obavezna, ali je korisna: dobićeš podsetnik sa linkom za strim.
Cyberama je livestream serijal o aktuelnim temama iz oblasti društva, tehnologije i sajber-prostora. Zajedno sa gostima u studiju i zajednicom na četu, svake poslednje srede u mesecu analiziramo vesti, društvene fenomene i odgovaramo na pitanja relevantna za pojedinca i društvo u 21. veku.
Kako je frilenserka iz Beograda za dlaku izbegla finansijsku prevaru i šta vas savetuje da (ne) uradite ukoliko se nađete u sličnoj situaciji
Preko LinkedIn-a me je kontaktirao headhunter. Bila je subota prepodne. Retko odlazim na LinkedIn, ali se dešavalo da vidim poruke tek posle par meseci pa sam odlučila da proverim da li ponuda za posao važi i dalje. Treba probati i proveriti o čemu se radi, zar ne?
Pošto sam samostalna grafička dizajnerka, svaka nova ponuda za posao je dobrodošla.
Ušli smo u konverzaciju i rekao mi je da ponuda i dalje važi, da se traži grafički dizajner za logo, banere i ostale kreativne zadatke za potrebe klijenta. Rekao mi je da instaliram Microsoft Teams i da mu pošaljem moj mail preko koga će me naći CEO te kompanije. Usput mi je poslao link ka „kompaniji“ u oblasti digitalnog marketinga koja je delovala interesantno za saradnju. Zamolila sam ga da intervju bude u ponedeljak pošto je subota. Napisao je da će me odmah danas kontaktirati i da ne može u ponedeljak, jer je stvar hitna.
Kada sam instalirala Microsoft Teams, stigla mi je poruka od CEO-a koji me je upoznao sa svojom velikom kompanijom za štampu. Dok sam ja pokušavala da razumem sa kim uopšte pregovaram, CEO mi je tražio podatke i rekao da će da pripremi ugovor i sporazum o poverljivosti (NDA) što pre, da bih ga potpisala u toku dana, a da će me u međuvremenu kontaktirati njegov menadžer koji se bavi procesom intervjua za posao.
Menadžer se odmah javio i tražio moj portfolio i, dok je to gledao, počeo je da mi postavlja pitanja vezana za stresne situacije, kako reagujem na tesne rokove i kako se odnosim prema poslu kada ima previše zadataka. Na svaki moj odgovor on je brzo postavljao novo pitanje. Na kraju me je pitao da li sam instalirala Google Cloud platformu i zamolio da to uradim to što pre. Pitala sam ga oko uslova posla, šta su tačni zadaci i ponovo sam naglasila da mogu da radim samo pola radnog vremena. On je rekao da se radi o određenoj plati i da je puno radno vreme, ali da ako uspem da uradim to za pola radnog vremena, onda je to isto ok. Istog momenta su me pitali da li mogu da krenem da radim već sledećeg dana, odgovorila sam da mogu u ponedeljak i spustila laptop da pokušam da iskoristim vikend koji je mi je preostao.
U ponedeljak su me sačekala upustva za platforme koje moram da instaliram jer se preko njih čuvaju i šalju fajlovi. Rečeno mi je da otvorim novi poseban mejl koji ću koristiti za njih i da napravim naloge za Google Cloud Platform, Amazon Web Services i Microsoft Azure. Da bi ovi nalozi bili aktivirani bilo je potrebno uneti svoju karticu. Pošto me je menadžer požurivao, a ja sam želela samo da završim sa ovim procesom koji mi je već uzeo previše vremena i više ličio na onboarding nego na pregovore za posao, prilično mehanički sam napravila te naloge na brzinu, unela karticu i poslala skrinšotove nazad da potvrdim aktivaciju.
Zatim mi je menadžer tražio kredencijale i šifre tih naloga sa platformi, da bi zamenio moju karticu, uneo svoju i kupio veći plan za rad.
U tom momentu još uvek nisam videla nikakav ugovor i menadžer me je pitao kada mi je rođendan. Ne znam zašto bi mu bila potrebna ta informacija. Već sam uveliko radila na drugom projektu koji je za par sati trebalo da se isporuči.
Nešto kasnije, konačno sam dobila informaciju šta je zapravo ponuda: čist tehnički posao koji zahteva da se mnogo digitalnih formata izbaci u jednom danu. Nije bilo moguće da se uradi za pola radnog vremena, a predviđeni su penali ako se kasni i ako se platforma koristi za bilo šta drugo.
Nisam prihvatila posao i zaboravila sam na čitav taj slučaj koji se, kako sam mislila, pokazao kao gubljenje vremena.
Mesec dana kasnije, probudio me je poziv iz banke. Neko je pokušao da naplati određenu sumu sa moje kartice, a isto je pokušao pre dve nedelje. Srećom, kartica koju koristim za internet je kartica na kojoj držim jako malo novca, za svakodnevne troškove. Objasnila sam banci da neko pokušava da zloupotrebi moju karticu jer ja nisam napravila taj dug, da ću proveriti šta se dešava i da mi blokiraju karticu do daljeg.
Tokom istraživanja gde je moja kartica zloupotrebljena, shvatila sam da je to povezano sa potencijalnim klijentom koji je zahtevao da napravim naloge na raznim platformama.
Proverila sam mejl koji sam otvorila samo za platforme da bih videla da su nalozi imali blokadu zbog zloupotrebe i da su ugašeni zbog sumnjivih aktivnosti na njima. Jedna od tih platformi je pokušala da naplati dug. Kontaktirala sam banku i potvrdila sam da je došlo do zloupotrebe i da je neko drugi napravio dug na mojoj kartici. Dala sam dozvolu za gašenje kartice i izdavanje nove.
Konverzacija na Microsoft Teams-u je bila blokirana, pošto su me izbacili iz konverzacije sa menadžerom i CEO-om. Nisam imala pristup tim ljudima kao ni informacijama ko su oni i njihova kompanija.
Moja pretpostavka je da su nastavili da koriste platformu o mom trošku i da su zloupotrebili moje lične podatke na taj način.
Ovakva situacija je dobar nauk da treba pažljivo ulaziti u nove poslove.
Tokom pregovora ne treba davati osetljive informacije potencijalnom poslodavcu, treba prvo istražiti ko su oni, da li imaju legitiman sajt kao i klijente.
Nemojte pregovore sa novim klijentima da vodite u brzini i kao sporedan posao.
Ukoliko vam zahtevaju da napravite naloge na svoje ime, a za njihove potrebe, ispitajte detaljno situaciju i zahtevajte da klijent obezbedi ove stvari umesto vas.
Nikada ne ustupajte pristupne parametre za vaše lične naloge.
I na kraju, za internet transakcije ne koristite kartice koje su direktno povezane sa računima sa kojih se može povući veća suma. Mene je ova poslednja stvar sačuvala od ozbiljne štete.
U protekloj deceniji, moderacija sadržaja na onlajn platformama često je glavna tema vesti i komentara o rasprostranjenom onlajn uznemiravanju i govoru mržnje, armijama botova koji šire dezinformacije kao sredstvo ometanja političkih izbora, ultradesničarskoj propagandi i konfuziji koja se širi lažnim vestima o kovidu-19. Novija runda ove rasprave usledila je nakon suspenzije Tviter naloga bivšeg američkog predsednika Donalda Trampa u januaru 2021. posle napada na Kapitol. Kontroverzna odluka Tvitera da najpre ograniči interakcije, zatim i da pokrije sadržaj Trampovih postove, uoči konačne suspenzije njegovog naloga, doneta je na nivou upravnog odbora kompanije. Međutim, kad je u pitanju moderacija sadržaja, ne poklanja se svakom korisniku platforme jednaka pažnja. Zbog velikog obima podataka, moderaciju vrše sistemi zasnovani na mašinskom učenju. Ljudski moderatori su zaduženi samo za reviziju odluka mašina u slučajevima kada korisnici ulože žalbu ili kada algoritmi za mašinsko učenje označe određeni slučaj kao sporan.
Zabrinut zbog mogućih posledica koje algoritamska moderacija može imati po slobodu izražavanja, Dejvid Kej, bivši specijalni izvestilac UN-a za promociju i zaštitu prava na slobodu misli i govora, zatražio je od onlajn platformi da se „[postaraju] da svaka primena automatizacije ili alata veštačke inteligencije [u ovom konkretnom slučaju, za sprovođenje pravila o govoru mržnje] ima čoveka kao kariku u lancu odlučivanja“. Mada je zabrinutost zbog implikacija algoritamske moderacije na slobodu izražavanja opravdana, zapravo se može reći da ljudi nikad nisu bili izostavljeni iz procesa moderacije sadržaja.
Termin „human-in-the-loop“ ili ljudska karika u lancu, odnosi se na potrebu za ljudskom interakcijom sa sistemima mašinskog učenja da bi se unapredio njihov učinak. Zaista, sistemi algoritamske moderacije ne mogu da funkcionišu bez ljudi koji ih opslužuju. Mašina treba da se dizajnira, napravi, održava i neprestano hrani novim podacima za učenje, što zahteva kompleksan lanac ljudskog rada.
S obzirom na sve veću ulogu moderacije sadržaja u javnom diskursu, važno je zauzeti perspektivu orijentisanu na rad da bi se razumelo kako funkcioniše algoritamska moderacija. Nasuprot popularnoj zabludi koja razlikuje mašinsku od ljudske moderacije sadržaja, praksa moderacije zapravo predstavlja mešavinu ljudi i mašina. Drugim rečima, ljudi su već prilično „u lancu“.
Vizuelni prikaz ukupnog učešća ljudi u procesu:
Karike ljudskog rada uključene u lanac algoritamske moderacije sadržaja
Odbori platformi
Algoritamska moderacija počinje od članova odbora platformi i zaposlenih konsultanata koji odlučuju o opštim pravilima moderacije. Ta pravila su prvenstveno proizvod potrebe za upravljanjem eksternim rizicima. Među rizicima kojima se mora upravljati su pritisci civilnog društva, regulatora i kompanija koje kontrolišu protok informacija na internetu.
Na primer, prvobitna politika Fejsbuka podrazumevala je uklanjanje fotografija dojenja. Platforma se pozivala na opštu politiku zabrane golotinje koju krši prizor otkrivenih grudi. Tek 2014, nakon višegodišnjih pritisaka aktivista pokreta Free the Nipple, Fejsbuk je dozvolio slike žena koje „aktivno doje“. Među ostalim dostignućima civilnog društva bilo je pooštravanje politike većine platformi prema govoru mržnje poput mizoginije, rasizma i eksplicitnih pretnji silovanjem i nasiljem.
Brojne, etabliranije grupe civilnog društva takođe predlažu rešenja za moderaciju na osnovu svojih etičkih principa ili ona koja su izvedena iz postojećih normi nacionalnog i međunarodnog prava. Međuvladine organizacije poput OEBS-a, Saveta Evrope i Ujedinjenih nacija imaju svoje projekte posvećene zaštiti slobode govora, uz poštovanje postojećih normi međunarodnog prava.
Pritisak regulatora najvidljiviji je u usvojenim pravilima i praksama za suzbijanje širenja terorističkog sadržaja i lažnih vesti. Ovaj drugi problem, o kome je počelo naširoko da se raspravlja nakon navodnog mešanja ruske vlade u američke izbore, privukao je dodatnu pažnju zbog biopolitičkih pitanja pokrenutih u pandemiji kovida-19.
Kada je reč o pritiscima kompanija koje upravljaju ptorokom informacija na internetu, najslikovitiji je primer društvene mreže Parler. Mreža je prestala da postoji pošto joj je Amazon obustavio cloud usluge pod izgovorom nedovoljne moderacije, dok su dve glavne distributivne platforme App Store i Google Play suspendovale aplikacije za Parler. Na sličan način, Tumblr će zabraniti golotinju, što je izazvalo masovni egzodus korisnika, nakon što je Apple izbacio aplikaciju ove platforme sa iOS App Store zbog navoda o dečijoj pornografiji. Takođe, izvršni direktor Telegrama Pavel Durov objasnio je da je odluku o gašenju kanala na kojima se objavljuju lični podaci policajaca odgovornih za brutalno rasterivanje učesnika mitinga u Rusiji, iznudila kompanija: naime, on je tvrdio da Apple nije dozvolio da apdejt za iOS aplikaciju bude dostupan dok se takvi kanali ne uklone. Tokom ruskih parlamentarnih izbora 2021, Apple i Google, pod pritiskom ruske vlade, zahtevali su da Telegram suspenduje četbota povezanog sa projektom Smart Voting koji vode saveznici osuđenog političara Alekseja Navaljnog. Četbot je ruskim glasačima pružao preporuke kandidata koje treba podržati kako predstavnici vladajuće partije ne bi osvojili mandate.
Ne pribegavaju svi izvršni direktori platformi sistemima algoritamske moderacije kao rešenju, ili bar to ne saopštavaju javno. Moderacija na mreži Clubhouse, na primer, funkcioniše bez algoritama za mašinsko učenje. Razgovore snima i čuva Agora, kompanija sa sedištem u Šangaju, koja pruža bekend usluge za ovu mrežu. U slučaju žalbe korisnika ili neke vlade, platforma analizira snimak i donosi odluku.
Odluku o tome da li da se svim ovim rizicima upravlja uz pomoć algoritamske moderacije, uvek donose članovi odbora platforme. Odbori kreiraju pravila, inženjeri pronalaze načine da ih nametnu – mada ova granica nije uvek jasna, budući da su izvršni direktori često i sami inženjeri i takođe mogu direktno učestvovati u dizajniranju arhitekture sistema.
Inženjeri
Za izbor algoritma koji će se primeniti u moderaciji sadržaja, dizajn i održavanje izabranog algoritma, zaduženi su inženjeri koji će raditi i nanjegovom unapređenju ili zameni.
Inženjeri biraju između dve glavne kategorije algoritama koje se obično koriste za moderaciju sadržaja.
Jedna grupa algoritama usmerena je na utvrđivanje delimičnih sličnosti (perceptual hashing) novih objava sa postojećom bazom neprikladnog sadržaja. Ovaj model je, recimo, efikasan u sprečavanju deljenja viralnih video snimaka masovnih pucnjava, ekstremističkih tekstova ili filmova i pesama zaštićenih autorskim pravima. Najpoznatiji primer je baza Shared Industry Hash Database (SIHD) koju koriste Google, Facebook, Microsoft, LinkedIn i Reddit. Napravljena 2017, ova baza ima sadržaje u vezi sa terorizmom, a kritikovana je zbog nedostatka transparentnosti.
Druga kategorija obuhvata algoritme koji predviđaju (machine learning) da li je sadržaj neprikladan. Tehnologije mašinskog učenja kao što su prepoznavanje govora i kompjuterski vid, efikasne su u klasifikovanju korisničkog sadržaja koji krši uslove korišćenja (ToS) platformi. Ova tehnologija je, međutim, izazvala kritike zbog diskriminacije određenih grupa, kao u slučaju prekomerne moderacije tvitova napisanih na crnačkom engleskom. Nije algoritam taj koji generiše pristrasnost, već se ona formira usled neadekvatno kompajliranih datasetova za obuku.
Vođeni naredbama upravljačkih bordova platforme, inženjeri su u stalnoj potrazi za novim skupovima podataka kako bi unapredili rad svojih algoritama. Ove datasetove ručno obeležavaju ljudski moderatori, autsorsovani saradnici na označavanju podataka i redovni korisnici.
Ljudski moderatori
Osnovna uloga ljudskih moderatora jeste da pregledaju žalbe korisnika na određene odluke koje su donele mašine i da rešavaju sporove u onim slučajevima kada je nivo sigurnosti koji prijavi algoritam nizak. Moderatori često rade za autsorsovane kompanije sa sedištem na globalnom jugu, dok su uslovi u kojima rade posebna tema za aktiviste za ljudska prava. Osim što se obično nalaze u ekonomski prekarnom položaju, moderatori trpe ogroman psihološki pritisak jer se svakodnevno bave veoma osetljivim sadržajem kao što su video prenosi samoubistava.
Posao moderatora nije ograničen na rešavanje sporova između korisnika i platforme. Ako ljudski moderatori potvrde da neka objava krši ToS platforme, taj sadržaj će, sa stručnom verifikacijom, biti priključen skupu podataka koji se koristi za algoritamsku obuku.
Uobičajena praksa pretpostavlja anonimnost moderatora. Pionirski pristup preduzeo je Fejsbuk kada je, u pokušaju da zadovolji zahtev za većom transparentnošću i unapredi legitimitet kompanije, bord kompanije uveo sistem koji u velikoj meri podseća na konstitutivnu podelu vlasti u državama. Ideja o stvaranju kvazi-legalnog pravosudnog tela u okviru Fejsbuka koje bi se bavilo pitanjima moderacije sadržaja, potekla je od Noe Feldmana, profesora prava sa Harvarda koji je učestvovao u izradi prelaznog iračkog ustava.
Platforma je 2020. uspostavila nadzorni odbor (Oversight Board, OB) koji komentatori zovu Fejsbukov Vrhovni sud. Ovaj odbor čini dvadeset članova kojima se „isplaćuju šestocifrene plate za oko petnaest radnih sati nedeljno“, a među kojima su poznati aktivisti za ljudska prava, novinari, akademici, advokati, kao i bivše sudije i političari. Do oktobra 2021, OB je usvojio 18 odluka, od kojih su neke poništile prvobitnu odluku anonimnih ljudskih moderatora ili samog odbora. Među odlukama koje je odbor podržao najznačajnija je suspenzija Trampovog naloga. Prilikom odlučivanja, OB se poziva i na smernice za zajednicu na platformi i na međunarodne standarde ljudskih prava, odnosno na odredbe Međunarodnog pakta o građanskim i političkim pravima. Budući da dvadeset članova odbora nije u stanju da pregleda sve slučajeve žalbi, njihov cilj je ograničen na reviziju najreprezentativnijih, po izaboru kompanije, kako bi dali savetodavne preporuke za politike i stvorili presedane na koje se ljudski moderatori mogu osloniti u praksi. Kompanija navodi da njihovi „timovi takođe razmatraju odluke odbora kako bi ustanovili gde se ove odluke još mogu primeniti na identičan ili sličan sadržaj“.
Kraudsorsovane oznake
Skupove za obuku algoritama obično sastavljaju klasifikatori sadržaja koji to rade za malu finansijsku nadoknadu, preko platformi kao što su Amazonov Mechanical Turk (Mturk) ili Jandeksova Toloka. Na ovoj drugoj platformi, klasifikatori su zaduženi da raspoređuju slike u sledećih šest kategorija: „pornografija“, „nasilje“, „perverzija“, „nagoveštaj“, „ne sadrži pornografiju“, „ne prikazuje se“. Leva slika u nastavku, preuzeta iz tutorijala, označena je da „ne sadrži pornografiju“, dok su druge dve slike klasifikovane kao „nagoveštaj“. Znaci za objašnjenje govore da srednja slika prikazuje „očigledan fokus u zoni genitalija“, dok desna slika pruža anatomski prikaz genitalija. Ove poverljive skupove podataka Jandeks najverovatnije koristi za moderaciju svojih platformi društvenih medija kao što su Messenger i Zen. Ovaj drugi uživa relativnu popularnost u ruskom segmentu interneta. Istovremeno, eksplicitno normativan način na koji se ovi skupovi podataka kompajliraju, precizno ilustruje zapažanje da je „skup podataka za obuku kulturološki konstrukt, a ne samo tehnički“.
Korisnici
Redovni korisnici onlajn platformi takođe učestvuju u obuci algoritama ili ažuriranju baza podataka za algoritme koji pretražuju sličnosti, tako što prijavljuju sadržaje koje smatraju neprikladnim. Dok je za same korisnike to način da stave platformi svoje mišljenje do znanja , za platformu je prijava dragocena jer je svaka povratna informacija i neplaćeni rad na mapiranju skupova podataka za obuku prediktivnih algoritama.
Jednom kada određen broj korisnika prijavi neki sadržaj ne ispunjava uslove platforme, sadržaj se šalje ljudskim moderatorima na dalji pregled. Ako moderator potvrdi da sadržaj krši ToS, korisnici koji su ga prijavili očigledno su doprineli poboljšanju algoritama.
Zaključak
Dok su aktuelni mejnstrim pristupi analizi automatizovanih sistema moderacije fokusirani isključivo na tehničke detalje rada algoritama, ljudski učesnici u tom procesu ostaju nevidljivi. Ovaj tekst odaje počast ljudima čiji rad, izgubljen u lažnoj dihotomiji čovek-mašina, omogućava automatizovanu moderaciju, jer trenutna praksa moderacije sadržaja zapravo predstavlja isprepletanu saradnju ljudi i mašina.
Ilja Lobanov je nezavisni istraživač iz Sankt Peterburga, koji trenutno živi u Beču. Njegova interesovanja obuhvataju političku ekonomiju digitalnog kapitalizma, urbane politike i istoriju uma.
Link sa aktuelnim domaćim filmom kruži internetom. Producenti agresivnom kampanjom dezinformacija zastrašuju građane tražeći prijave svakome ko je pogledao film van bioskopa. Da li smo svi pirati, ili je Robin Hud u priči? U šestoj epizodi serijala Cyberama demistifikujemo naša prava pri deljenju i skidanju sadržaja sa interneta, pričamo o značaju otvorene kulture, ali i tražimo rešenja za konflikte zakona, tehnologije i ljudske prirode.
– Jelena Jovanović, nekadašnja članica Piratskog pokreta – Nikola Kliska, advokat za intelektualnu svojinu
Kako sastaviti jaku lozinku bez pamćenja i zapisivanja? Na koji način dodatno zaštititi naloge i kako saznati koje podatke aplikacije koje koristite prikupljaju? Pogledajte naš booklet povodom meseca digitalne bezbednosti.
Ukoliko želite više da naučite ili imate tehnički problem poslužite se našim Alatom za digitalnu bezbednost. → toolkit.sharecert.rs
Link sa aktuelnim domaćim filmom kruži internetom. Producenti agresivnom kampanjom dezinformacija zastrašuju građane tražeći prijave svakome ko je pogledao film van bioskopa. Da li smo svi pirati, ili je Robin Hud u priči? U šestoj epizodi serijala Cyberama demistifikujemo naša prava pri deljenju i skidanju sadržaja sa interneta, pričamo o značaju otvorene kulture, ali i tražimo rešenja za konflikte zakona, tehnologije i ljudske prirode.
Gosti u studiju su Jelena Jovanović, nekadašnja članica Piratskog pokreta, i Nikola Kliska, advokat za intelektualnu svojinu.
Budi onlajn u sredu 27. oktobra u 20h na ovom YT linku. Registracija nije obavezna, ali je korisna: dobićeš podsetnik sa linkom za strim.
Novim presekom stanja povreda digitalnih prava za period od jula do septembra utvrđen je najveći broj pritisaka zbog izražavanja i aktivnosti na internetu, kao i manipulacija i propagande u digitalnom okruženju.
Ipak, najteži incident koji je zabeležen bilo je curenje podataka sa veb aplikacije Privredne komore Srbije. VIše o ovom incidentu i ostalim nalazima u tekstu naše fondacije. → SHARE Fondacija
Digitalne tehnologije sve brže i intenzivnije prodiru u procese produkcije medijskih i umetničkih sadržaja, ali i komuniciranja, informisanja i zabave. Istovremeno, poslovno okruženje i tržište se menjaju vrtoglavom brzinom.
Ako verujete da je digitalna transformacija jedan od ključnih faktora današnjice i želite da aktivno učestvujete u stvaranju jednog potpuno novog, digitalnog okruženja u kom svi živimo i radimo, prijavite se na master program Digitalna transformacija medija i kulture na FDU!
Prijavite se za onlajn konsultacije 22. i 29. oktobra mejlom na [email protected]. Više o samom programu → FDU Beograd
PLUS:
Da li novosadske pijace dobijaju kamere sa tehnologijom prepoznavanja lica? → Radio 021
Demistifikovanje klikbejt naslova o procurelom filmu “Toma” i zatvorskim kaznama → Raskrinkavanje.ba
Ko se sa Balkana našao na procureloj Fejsbukovoj listi opasnih pojedinaca i organizacija → Radio Slobodna Evropa
Svetski dan enkripcije – pređite na enkriptovane servise → Make the Switch
Izveštaj: napadi špijunskim softverom na aktivistu u Zapadnoj Africi → Amnesty International
Ugovor umesto pristanka korisnika: pokušaj Fejsbuka da zaobiđe GDPR u Irskoj → Noyb.eu
Ukradena baza podataka nacionalnog identifikacionog sistema u Argentini → The Record
