Vesti

Nova AI strategija: Rizici u drugom planu

SHARE Fondacija je institucijama nadležnim za sprovođenje javne rasprave dostavila komentare na Predlog Strategije razvoja veštačke inteligencije u Republici Srbiji za period 2024-2030. godine. Novi Predlog donet je pre isteka važeće Strategije, što govori o brzini razvoja oblasti veštačke inteligencije i potrebe da pravni okvir što bolje isprati ovaj razvoj.

komentarima smo predložili da se Strategija više fokusira na etički razvoj i bezbednu primenu veštačke inteligencije, gde je čovek u centru svih AI procesa, na način koji će promovisati i štititi osnovna ljudska prava i slobode. U postojećem Predlogu Strategije, naime, fokus je na tehnološkom razvoju, dok se zaštita ljudskih prava i sloboda pominje tek na nekoliko mesta, a u nešto većoj meri i Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije. Međutim, posebno je problematična činjenica da ni u jednom delu Strategije ne postoji objašnjenje šta su to Etičke smernice, niti zašto su one važne. Strategija se može značajno poboljšati jasnijim predstavljanjem Etičkih smernica, ali i eksplicitnijim pozivanjem na Povelju Ujedinjenih nacija i druge relevantne nacionalne i međunarodne dokumente koji se bave zaštitom osnovnih ljudskih prava i sloboda.

Predložena Strategija detaljno opisuje prednosti koje veštačka inteligencija može doneti, ali smatramo da je takav prikaz potrebno izbalansirati predstavljanjem potencijalnih rizika. Građani moraju biti obavešteni o potencijalnim rizicima i načinima njihovog prevazilaženja, kao i o mogućnostima pravne pomoći u slučajevima kada primena veštačke inteligencije negativno utiče na prava i slobode građana.

Predlažemo da se u Strategiji posebna pažnja posveti pitanjima ravnopravnosti i zaštite od diskriminacije u oblasti razvoja i primene veštačke inteligencije. To je naročito važno usled rastućeg rizika s kojim se suočavaju ranjive društvene grupe, kao što je pokazao slučaj sa dipfejk video snimcima, čije su žrtve najčešće devojčice i žene.

Na kraju, predlažemo veću transparentnost u prikupljanju i upotrebi ličnih i drugih podataka prilikom razvoja i primene veštačke inteligencije. Strategija treba da bude konzistentna sa Etičkim smernicama, ali i drugim zakonima i propisima koji uređuju zaštitu podataka, te da jasno predstavi koji podaci će se koristiti i za koju svrhu, kao i kakve pravne zaštite građani uživaju.

Ministarstvo nauke, tehnološkog razvoja i inovacija dobro je prepoznalo sve veći značaj veštačke inteligencije i potrebu da se ova oblast reguliše, ali je neophodno da se u Strategiji obrati veća pažnja na zaštitu ljudskih prava i sloboda, kao i etičku i bezbednu primenu veštačke inteligencije.

Komentari SHARE Fondacije na Predlog strategije (.pdf)


Povezani sadržaj

Civilno društvo predlaže da Nevena Ružić rukovodi institucijom Poverenika

Više od 70 organizacija civilnog društva, medija, predstavnika stručne i naučne zajednice poziva narodne poslanike da podrže Nevenu Ružić kao kandidatkinju za novog Poverenika za informacije od javnog značaja i zaštitu podataka o ličnosti. Čvrsto smo uvereni da Nevena Ružić poseduje stručnost, iskustvo i integritet koji su neophodni za rukovođenje institucijom Poverenika. Nevena Ružić već […]

Lažni profili, neautentično ponašanje i rodno zasnovano onlajn nasilje

Prvi monitoring izveštaj 2023. godine predstavljamo sa fokusom na novu revidiranu metodologiju, koja nam je omogućila da pređemo kroz celu bazu slučajeva od njenog početka 2014. do kraja 2022. godine i prekategorišemo ih. Trenutna verzija metodologije (2023) nastala je kao najskoriji pokušaj da se preispita način na koji pratimo, beležimo i kategorišemo povrede prava u […]

Život posle Instagrama

Nisam optimista u pogledu naše budućnosti na Inѕtаgrаmu i uopšte ne znam ima li života posle Instagrama. Ono što sigurno znam jeste da se naša sećanja skladište u hladnim, tamnim data centrima, koji bi jednog dana mogli da postanu njihove grobnice čekajući nekog novog Indijanu Džounsa da zarobljene oslobodi kletve. Sedim u jednom kafiću u centru Berlina, […]