Vesti

Nova AI strategija: Rizici u drugom planu

SHARE Fondacija je institucijama nadležnim za sprovođenje javne rasprave dostavila komentare na Predlog Strategije razvoja veštačke inteligencije u Republici Srbiji za period 2024-2030. godine. Novi Predlog donet je pre isteka važeće Strategije, što govori o brzini razvoja oblasti veštačke inteligencije i potrebe da pravni okvir što bolje isprati ovaj razvoj.

komentarima smo predložili da se Strategija više fokusira na etički razvoj i bezbednu primenu veštačke inteligencije, gde je čovek u centru svih AI procesa, na način koji će promovisati i štititi osnovna ljudska prava i slobode. U postojećem Predlogu Strategije, naime, fokus je na tehnološkom razvoju, dok se zaštita ljudskih prava i sloboda pominje tek na nekoliko mesta, a u nešto većoj meri i Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije. Međutim, posebno je problematična činjenica da ni u jednom delu Strategije ne postoji objašnjenje šta su to Etičke smernice, niti zašto su one važne. Strategija se može značajno poboljšati jasnijim predstavljanjem Etičkih smernica, ali i eksplicitnijim pozivanjem na Povelju Ujedinjenih nacija i druge relevantne nacionalne i međunarodne dokumente koji se bave zaštitom osnovnih ljudskih prava i sloboda.

Predložena Strategija detaljno opisuje prednosti koje veštačka inteligencija može doneti, ali smatramo da je takav prikaz potrebno izbalansirati predstavljanjem potencijalnih rizika. Građani moraju biti obavešteni o potencijalnim rizicima i načinima njihovog prevazilaženja, kao i o mogućnostima pravne pomoći u slučajevima kada primena veštačke inteligencije negativno utiče na prava i slobode građana.

Predlažemo da se u Strategiji posebna pažnja posveti pitanjima ravnopravnosti i zaštite od diskriminacije u oblasti razvoja i primene veštačke inteligencije. To je naročito važno usled rastućeg rizika s kojim se suočavaju ranjive društvene grupe, kao što je pokazao slučaj sa dipfejk video snimcima, čije su žrtve najčešće devojčice i žene.

Na kraju, predlažemo veću transparentnost u prikupljanju i upotrebi ličnih i drugih podataka prilikom razvoja i primene veštačke inteligencije. Strategija treba da bude konzistentna sa Etičkim smernicama, ali i drugim zakonima i propisima koji uređuju zaštitu podataka, te da jasno predstavi koji podaci će se koristiti i za koju svrhu, kao i kakve pravne zaštite građani uživaju.

Ministarstvo nauke, tehnološkog razvoja i inovacija dobro je prepoznalo sve veći značaj veštačke inteligencije i potrebu da se ova oblast reguliše, ali je neophodno da se u Strategiji obrati veća pažnja na zaštitu ljudskih prava i sloboda, kao i etičku i bezbednu primenu veštačke inteligencije.

Komentari SHARE Fondacije na Predlog strategije (.pdf)


Povezani sadržaj

ChatGPT: Intervju sa robotom

“Ovaj tekst nisam napisao/la ja, već ChatGPT” – već mesecima se ova napomena ponavlja u medijskim izveštajima o najnovijem proizvodu kompanije OpenAI, čiji je prototip pušten u svet 30. novembra prošle godine. Novinari, tviteraši, istraživači i teoretičari zavera svakodnevno zasipaju četbota pitanjima i zadacima, da provere da li komunikacija s njim stvarno tako savršeno liči […]

Digitalna prava u regionu tokom političkih i društvenih nemira

SHARE Fondacija i Balkanska istraživačka mreža – BIRN, koji od 2019. godine prate stanje digitalnih prava u Bosni i Hercegovini, Hrvatskoj, Mađarskoj, Severnoj Makedoniji, Rumuniji i Srbiji, objavili su izveštaj o povredama ljudskih prava u digitalnom okruženju u kontekstu društveno-političkih previranja i nemira. U periodu od avgusta 2019. do decembra 2020, regionalnim monitoringom zabeleženo je više od 800 kršenja […]

Novi oblici oglašavanja na internetu – mogu li se influenseri uvesti u zakonske okvire?

Listajući sadržaje na Instagramu, naišli ste na fotografiju omiljene glumice koja koristi novu hidratantnu kremu poznatog brenda. Da li biste takav sadržaj okarakterisali kao reklamu za kremu? Komercijalne poruke i oglašavanje postali su neizostavan deo društvenih mreža i drugih onlajn platformi na kojima korisnici provode sate svakog dana. Posledično, kreira se veliki broj onlajn sadržaja […]