Vesti

Nova AI strategija: Rizici u drugom planu

SHARE Fondacija je institucijama nadležnim za sprovođenje javne rasprave dostavila komentare na Predlog Strategije razvoja veštačke inteligencije u Republici Srbiji za period 2024-2030. godine. Novi Predlog donet je pre isteka važeće Strategije, što govori o brzini razvoja oblasti veštačke inteligencije i potrebe da pravni okvir što bolje isprati ovaj razvoj.

komentarima smo predložili da se Strategija više fokusira na etički razvoj i bezbednu primenu veštačke inteligencije, gde je čovek u centru svih AI procesa, na način koji će promovisati i štititi osnovna ljudska prava i slobode. U postojećem Predlogu Strategije, naime, fokus je na tehnološkom razvoju, dok se zaštita ljudskih prava i sloboda pominje tek na nekoliko mesta, a u nešto većoj meri i Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije. Međutim, posebno je problematična činjenica da ni u jednom delu Strategije ne postoji objašnjenje šta su to Etičke smernice, niti zašto su one važne. Strategija se može značajno poboljšati jasnijim predstavljanjem Etičkih smernica, ali i eksplicitnijim pozivanjem na Povelju Ujedinjenih nacija i druge relevantne nacionalne i međunarodne dokumente koji se bave zaštitom osnovnih ljudskih prava i sloboda.

Predložena Strategija detaljno opisuje prednosti koje veštačka inteligencija može doneti, ali smatramo da je takav prikaz potrebno izbalansirati predstavljanjem potencijalnih rizika. Građani moraju biti obavešteni o potencijalnim rizicima i načinima njihovog prevazilaženja, kao i o mogućnostima pravne pomoći u slučajevima kada primena veštačke inteligencije negativno utiče na prava i slobode građana.

Predlažemo da se u Strategiji posebna pažnja posveti pitanjima ravnopravnosti i zaštite od diskriminacije u oblasti razvoja i primene veštačke inteligencije. To je naročito važno usled rastućeg rizika s kojim se suočavaju ranjive društvene grupe, kao što je pokazao slučaj sa dipfejk video snimcima, čije su žrtve najčešće devojčice i žene.

Na kraju, predlažemo veću transparentnost u prikupljanju i upotrebi ličnih i drugih podataka prilikom razvoja i primene veštačke inteligencije. Strategija treba da bude konzistentna sa Etičkim smernicama, ali i drugim zakonima i propisima koji uređuju zaštitu podataka, te da jasno predstavi koji podaci će se koristiti i za koju svrhu, kao i kakve pravne zaštite građani uživaju.

Ministarstvo nauke, tehnološkog razvoja i inovacija dobro je prepoznalo sve veći značaj veštačke inteligencije i potrebu da se ova oblast reguliše, ali je neophodno da se u Strategiji obrati veća pažnja na zaštitu ljudskih prava i sloboda, kao i etičku i bezbednu primenu veštačke inteligencije.

Komentari SHARE Fondacije na Predlog strategije (.pdf)


Povezani sadržaj

“Beazley Designs of the Year 2019” nagrada za Anatomiju AI sistema

Esej Anatomija AI sistema Vladana Jolera i Kejt Kroford osvojio je “Beazley Design of the Year” nagradu za dizajn godine. Dodela nagrada i prateća ceremonija održavaju se u londonskom Muzeju dizajna svake godine, a imaju za cilj da predstave originalne i inovativne dizajne u različitim oblastima. Izabrano je još pobednika iz šest kategorija: proizvodi, transport, grafika, moda, digitalna umetnost […]

Izjava o zabrani korišćenja podataka na društvenim mrežama nema efekta

Na Instagramu se prethodnih dana dele objave u kojima korisnici toj kompaniji i povezanim organizacijama „ne dozvoljavaju“ korišćenje njihovih fotografija, podataka, poruka ili objava. Navodno, davanjem takve izjave Instagramu je zabranjeno da distribuira i kopira sadržaje ili preduzima bilo kakve postupke protiv korisnika na osnovu sadržaja profila, pozivajući se na „Rimski statut“. Istom objavom se […]

Aplikacija za COVID-19 kontakte: preduslovi i prepreke

Tekst je nastao na osnovu policy brief-a autorki koji je dostupan na sajtu Centra za evropske politike. Od izbijanja pandemije novog koronavirusa, vlade u svetu sve više koriste digitalne alate za praćenje širenja infekcije kao ključne mere prevencije. Među najpopularnijim rešenjima izdvajaju se aplikacije za mobilne uređaje, namenjene praćenju s kim su inficirani ljudi dolazili u […]