Vesti

Nova AI strategija: Rizici u drugom planu

SHARE Fondacija je institucijama nadležnim za sprovođenje javne rasprave dostavila komentare na Predlog Strategije razvoja veštačke inteligencije u Republici Srbiji za period 2024-2030. godine. Novi Predlog donet je pre isteka važeće Strategije, što govori o brzini razvoja oblasti veštačke inteligencije i potrebe da pravni okvir što bolje isprati ovaj razvoj.

komentarima smo predložili da se Strategija više fokusira na etički razvoj i bezbednu primenu veštačke inteligencije, gde je čovek u centru svih AI procesa, na način koji će promovisati i štititi osnovna ljudska prava i slobode. U postojećem Predlogu Strategije, naime, fokus je na tehnološkom razvoju, dok se zaštita ljudskih prava i sloboda pominje tek na nekoliko mesta, a u nešto većoj meri i Etičke smernice za razvoj, primenu i upotrebu pouzdane i odgovorne veštačke inteligencije. Međutim, posebno je problematična činjenica da ni u jednom delu Strategije ne postoji objašnjenje šta su to Etičke smernice, niti zašto su one važne. Strategija se može značajno poboljšati jasnijim predstavljanjem Etičkih smernica, ali i eksplicitnijim pozivanjem na Povelju Ujedinjenih nacija i druge relevantne nacionalne i međunarodne dokumente koji se bave zaštitom osnovnih ljudskih prava i sloboda.

Predložena Strategija detaljno opisuje prednosti koje veštačka inteligencija može doneti, ali smatramo da je takav prikaz potrebno izbalansirati predstavljanjem potencijalnih rizika. Građani moraju biti obavešteni o potencijalnim rizicima i načinima njihovog prevazilaženja, kao i o mogućnostima pravne pomoći u slučajevima kada primena veštačke inteligencije negativno utiče na prava i slobode građana.

Predlažemo da se u Strategiji posebna pažnja posveti pitanjima ravnopravnosti i zaštite od diskriminacije u oblasti razvoja i primene veštačke inteligencije. To je naročito važno usled rastućeg rizika s kojim se suočavaju ranjive društvene grupe, kao što je pokazao slučaj sa dipfejk video snimcima, čije su žrtve najčešće devojčice i žene.

Na kraju, predlažemo veću transparentnost u prikupljanju i upotrebi ličnih i drugih podataka prilikom razvoja i primene veštačke inteligencije. Strategija treba da bude konzistentna sa Etičkim smernicama, ali i drugim zakonima i propisima koji uređuju zaštitu podataka, te da jasno predstavi koji podaci će se koristiti i za koju svrhu, kao i kakve pravne zaštite građani uživaju.

Ministarstvo nauke, tehnološkog razvoja i inovacija dobro je prepoznalo sve veći značaj veštačke inteligencije i potrebu da se ova oblast reguliše, ali je neophodno da se u Strategiji obrati veća pažnja na zaštitu ljudskih prava i sloboda, kao i etičku i bezbednu primenu veštačke inteligencije.

Komentari SHARE Fondacije na Predlog strategije (.pdf)


Povezani sadržaj

Halo

Građani Srbije u razgovoru sa operaterima SNS-a. SHARE_BBS na Telegramu: t.me/share_bbsMuzika: Regis Izvori: Ko sve (ni)je na listi SNS i odakle naprednjacima podaci građana? | Razgovarao sam sa SNS operaterkom | SNS zove gradjane za izbore | Marko Bastać – Mene ste našli

Kakva nam je digitalna higijena i kako je unaprediti

Tokom dvonedeljne kampanje sa upitnicima o digitalnoj higijeni, pokušali smo da saznamo nešto više o navikama naših pratilaca na Tviteru i Instagramu, ali i da samim pitanjima i ponuđenim odgovorima ukažemo na ponašanje koje utiče na privatnost i bezbednost na internetu. Za rezultate posetite Tviter niz ili izdvojeno ‘higijena’ na našem Instagram nalogu. Više saveta kako da budete […]

MUP i BIA nezakonito upadaju u telefone aktivista i novinara

Dokazana upotreba špijunskog softvera i forenzičkih alata mimo zakona Upotreba špijunskih softvera predstavlja ozbiljan napad na ljudska prava, slobodu izražavanja i privatnost građana. U Srbiji, njihovo korišćenje postaje svakodnevna praksa. Novi izveštaj organizacije Amnesty International ukazuje na rasprostranjeno korišćenje špijunskih softvera protiv aktivista, novinara i pripadnika civilnog društva od strane policije i Bezbednosno-informativne agencije (BIA) u Srbiji. […]