Nalaganje ...
Projekti / Programi vir: ARIS

Človekove pravice in regulacija umetne inteligence vredne zaupanja

Raziskovalna dejavnost

Koda Veda Področje Podpodročje
5.07.00  Družboslovje  Kriminologija in socialno delo   

Koda Veda Področje
S160  Družboslovje  Kriminologija 

Koda Veda Področje
5.05  Družbene vede  Pravo 
Ključne besede
etična umetna inteligenca, upravljanje, človekove pravice, pravo,algoritmična pravičnost, avtomatiziran sistem odločanja, transparentnost, odgovornost
Vrednotenje (pravilnik)
vir: COBISS
Raziskovalci (12)
št. Evidenčna št. Ime in priimek Razisk. področje Vloga Obdobje Štev. publikacijŠtev. publikacij
1.  54925  Ana Babnik  Pravo  Tehnični sodelavec  2020  11 
2.  33448  Barbara Bizilj    Tehnični sodelavec  2019 - 2020  24 
3.  51937  Marko Drobnjak  Pravo  Mladi raziskovalec  2019 - 2021  47 
4.  55009  Lara Dular  Pravo  Raziskovalec  2020 - 2021 
5.  11843  dr. Matjaž Jager  Kriminologija in socialno delo  Raziskovalec  2019 - 2021  234 
6.  38465  Primož Križnar  Kriminologija in socialno delo  Raziskovalec  2019 - 2021  30 
7.  38045  dr. Karmen Lutman  Pravo  Raziskovalec  2020 - 2021  141 
8.  06979  dr. Renata Salecl  Kriminologija in socialno delo  Raziskovalec  2019 - 2020  868 
9.  38170  dr. Katja Simončič  Kriminologija in socialno delo  Raziskovalec  2019 - 2021  48 
10.  50631  dr. Pika Šarf  Pravo  Mladi raziskovalec  2019 - 2021  82 
11.  16302  dr. Ljupčo Todorovski  Računalništvo in informatika  Raziskovalec  2019 - 2021  443 
12.  26029  dr. Aleš Završnik  Kriminologija in socialno delo  Vodja  2019 - 2021  502 
Organizacije (2)
št. Evidenčna št. Razisk. organizacija Kraj Matična številka Štev. publikacijŠtev. publikacij
1.  0504  Inštitut za kriminologijo pri Pravni fakulteti v Ljubljani  Ljubljana  5051525000  4.585 
2.  0106  Institut "Jožef Stefan"  Ljubljana  5051606000  90.987 
Povzetek
Umetna inteligenca (UI) prinaša številne prednosti za posameznike, podjetja in države. Primeri segajo od situacij, ko družbena omrežja priporočajo prijatelje, algoritmi, ki osmišljajo veliko podatkovje opravijo del transakcij na borzah ali pa organom odkrivanja in pregona pokažejo, kje in kdaj naj bi se zgodil prihodnji zločin oziroma ko vojski pomagajo iskati potencialne teroriste ter starejšim priskočijo na pomoč pri vsakodnevnih opravilih. Evropska unija je z vseevropsko pobudo o sodelovanju na področju umetne inteligence, ki se ji je pridružila tudi Slovenija začrtala prizadevanja, da je smiselno, da z velikim podatkovjem, strojnim učenjem oz. UI poskušamo reševati tudi številne družbene probleme: revščino, klimatske spremembe, družbeno neenakost in kriminaliteto. Nujno pa je, da se tehnološki razvoj UI odvija v ustreznem pravno-etičnim okvirju, ki bo okrepil obstoječe ravni spoštovanja človekovih pravic in temeljnih svoboščin vsakega posameznika, ranljivih družbenih skupin in utrdil legitimne demokratične procese.  V prvem delu, Atlas uporabe UI, bo projekt analiziral številne domene in družbene podsisteme, v katerih se UI že uporablja s ciljem osnovanja pregleda avtomatizacije in umetne UI. Analiza se bo nanašala na različne rabe v družbenih domenah in družbenih podsistemih, kjer UI lahko vpliva na temelje demokratične družbene ureditve in pravne države, ki sloni na spoštovanju temeljnih človekovih pravic. Atlas avtomatizacije in umetne inteligence bo služil kot prvi epistemološki rez pri analizah raznoterih rab UI in avtomatizacije. Poseben del prvega dela se bo nanašal na analizo obstoječih uporab UI v javni politikah, ki naj krepijo socialno in pravno državo ter omogočajo dvig kakovosti življenja celotnega prebivalstva. Na podlagi študij primerov dobrih praks uporabe AI pri javnih politikah v tujini in analize znanja iz že obstoječih platform in zagonskih podjetij bomo v okviru projekta analizirali kako te dobre prakse in znanja uspešno prenesti in implementirati v sfero javnih politik. V drugem delu projekta, Učinki UI na človekove pravice in posameznika, bodo oblikovane kvalitativne analize in ocene rab UI v predhodno prepoznanih domenah. Oblikovani bodo zaključki glede rabe UI v specifičnih družbenih domenah in javnih politikah za prihodnost, ki bodo podani na konkretnih primerih uporabe UI. Dva ključna učinka UI, ki jih projekt naslavlja, sta vplivi UI na temeljne človekove pravice (pravni vidiki) ter vplivi na človekovo subjektivnost (nepravni oz. psiho-socialni vidiki). Izhodišče projekta je, da mora vpeljava UI temeljiti na spoštovanju temeljnih človekovih pravic in temeljnih svoboščin, demokracije, pravne države in zagotavljanu gospodarske in politične stabilnosti. Raznoliki primeri obstoječe uporabe UI kažejo, da ob številnih koristih novi sistemi okrepljeni z UI lahko vodijo tudi v kršitve temeljnih človejkovih pravic, kot so kodificirane v temeljnih aktih in sprejetih mednarodnih sporazumih. Grožnje so specifične za posamično domeno – npr. zavarovalniško, bančno, sodno, policijsko – nekatere pa so skupne delovanju UI. Primeri uporabe UI kažejo, da ta prinaša številne pravne in etične izzive. Na mikro ravni UI uporabljena v sistemih odločanja o posameznikovih pravicah in obveznostih vpliva na številne individualne človekove pravice, na primer na zasebnost in varstvo osebnih podatkov, načelo enakosti in socialne pravičnosti, na avtonomijo posameznika in na njegovo dostojanstvo. Na mezo in makro družbeni ravni pa prihaja do vplivov na delovanje demokracije in povečanje ekonomske neenakosti ter vodi v družbeno sortiranje prebivalstva.  UI vstopa v specifičen socialno, kulturno-političen prostor obenem pa je produkt specifične družbeno-ekonomske situacije, ki jo povratno tudi sama pomaga sooblikovati. UI je posledično lahko uporabljena tako za krepitev »negativnih« družbenih sprememb, npr. povečevanje ekonomske neenakosti na globalni ravni, širitev družbeno razdiralnih in sovražnih politik kot tudi sredstv
Pomen za razvoj znanosti
Raziskovalni projekt bo pripomogel k poglabljanju znanja na področju UI v Sloveniji in tako pripomogel k temu, da se Slovenija na globalni ravni pozicionira kot ena izmed vodilnih držav na področju UI na globalni ravni. Vsled interdisciplinarne sestave raziskovalcev, ki sodelujejo pri izvedbi raziskovalnega projekta, bodo obogatene številne znanstvene discipline, predvsem kriminologija, pravo, filozofija, psihologija, javna uprava, globalno upravljanje, mednaroni odnosi ter računalništvo in informatika. Poleg tega, da bo raziskovalni projekt pripomogel k razvoju navedenih znanstvenih disciplin v Sloveniji, bodo rezultati študije relevantni tudi za evropsko in svetovno akademsko skupnost. Vprašanja, ki jih nameravamo obravnavati so namreč globalnega pomena. Naš cilj je, da članki, conference, jesenska šola, objavljena monografija in ostali rezultati raziskave pripomorejo k izmenjavi in diseminaciji znanja na širši ravni. Obenem želimo z diseminacijo objavljenih člankov, udeležbo na mednarodnih konferencah ter organizacijo mednarodne conference in jesenske šole prispevati h krepitvi mednarodnega sodelovanja med slovenskimi in mednarodnimi strokovnjaki. Mreženje in vzdrževanje mednarodnih znanstvenih mrež sta pomembna pri iskanju partnerjev za sodelovanje v konzorcijih pri prijavah na projekte COST, Horizon 2020 in podobno. Prav tako nameravamo pridobljeno znanje prenesti na naše študente v Sloveniji in v tujini, kjer izvajamo predavanja, t.j., na pravnih fakultetah, filozofski fakulteti, fakuleteti za socialno delo, fakulteti za javno upravo in fakulteti za varnostne vede.  Z mapiranjem uporabe in razvoja UI v Sloveniji v okviru DS2 (“Uporaba UI v različnih domenah”), kjer bo naš cilj pokazati na možne pravne trke na številnih ločenih pravnih disciplinah ter preizprašati primernost večih pravnih režimov: pravo varstva konkurence, pravo zasebnosti in varstva osebnih podatkov, potrošniško pravo davčno pravo, kazensko in policijsko pravo, volilno pravo, bomo prispevali k pravnemu znanju v okviru kriminologije in navedenih pravnih ved. V DS3 (“Analiza uporabe UI v javnih politikah s študijskimi primeri”) želimo prispevati k naboru znanstvenih dognanj na področju javne uprave s prepoznavanjem rešitev s področja UI, ki bodo okrepile pravno in socialno državo ter pripomogle k dvigu kakovosti življenja slovenskih državljanov. Ob tem se želimo osredotočiti na iskanje trajnostnih rešitev, ki temeljijo na UI in iskanje pametnih rešitev, ki omogočajo vključevanje ranljivih skupin prebivalstva kot tudi na študije primerov dobrih praks uporabe UI v javnih politikah v tujini, v okviru obstoječih platform in zagonskih podjetjih. V okviru DS4 (“Vpliv UI na človekove pravice”) bomo k znanosti prispevali z analizo nasprotij med obstoječimi pravnimi koncepti in doktrinami ter človekovimi pravicami ter z iskanjem odgovora na vprašanje ali obstajajo nad-domenske skupne problematične značilnosti uporabe UI v odločevalskih procesih, kot so netransparentnost osnovnih parametrov odločanja; pristranosti podatkov, ki so vrednostno, interesno neizogibno kontaminirani; black-boxing učinki; samouresničujoče se prerokbe in nastanek začaranega kroga pri UI napovedovanju; težave s primeri, ki izstopajo iz povprečja (angl. outliers); nevarnosti podatkovnega maksimiranja (vis-a-vis temeljnemu načelu minimiziranja, ki velja v režimu varstva osebnih podatkov); težave povezane z nepravilnimi podatki; nesorazmerje moči, ki nastaja zaradi uporabe UI; nevarnosti podatkovnega determinizma in diskriminacije; zastraševalni učinek na pravice (angl. Chilling effect); ustvarjanje »eho soban« (angl. Echo chambers) pri personaliziranih storitvah. Raziskovalno delo v okviru DS5 (“Psihološke zagate UI”) se bo osredotočalo na iskanje odgovora na vprašanje kako lahko UI uporabimo za izboljšanje človekovega psihičnega počutja ter kakšni so načrti za njegovo uporabo v poklicih, ki se ukvarjajo z duševnim zdravjem, s čimer bomo prispevali k bogatenju znanja na področju psiholo
Pomen za razvoj Slovenije
Konkurenčnost na svetovnem trgu   Sistemi UI so danes sposobni zmanjšati človeška prizadevanja na številnih področjih, zato se jih za optimizacijo delovanja svojih dejavnosti poslužujejo številna podjetja. Podjetja se nadejajo, da bodo s pomočjo UI zmanjšala človeška prizadevanja, dobila natančnejše, bolj učinkovite in hitrejše rezultate ter zmanjšala nevarnosti napak. Če slovenska podjetja želijo ostati konkurenčna na globalnem trgu je ključnega pomena, da obstoječi in potencialni podjetniki razumejo priložnosti, ki jih UI prinaša, obenem pa tudi škodo, ki jo lahko nove tehnologije povzročajo. V okviru DS2 bomo analizirali vpliv UI na podjetja, javni sektor in posameznike, pri čemer bomo poskušali identificirati tudi priložnosti, ki se za te akterje odpirajo. Osredotočali se bomo predvsem na naslednje gospodarske sektorje: analitika v bančnem sektorju, tvegane terjatve, tvegani komitenti; analitika v zavarovalnem sektorju, analitika zavarovalnih goljufij (predvidevamo sodelovanje s programskim podjetjem Optilab); analitika v poslovnih procesih.   UI se v veliki meri že uporablja v bančnih in finančnih sistemih pri vlaganju denarja v delnice, investiranju, izvajanju finančnih operacij, upravljanju z lastnino. Nove tehnologije prav tako vplivajo na poslovanje težkih industrij, ki UI uporabljajo za oblikovanje produktov, za premikanje predmetov iz enega konca na drugega kot tudi za vodenje podjetij na splošno, ki s pomočjo UI shranjujejo podatke, jih brez težav pridobijo ter najdejo vrzeli v organizaciji podjetja. Na področju zračnega prometa, naprimer, UI nadzira veliko število upravljalskih procesov, obenem pa je tudi rezervacijo letalskih kart ter upravljanje letov mogoče racionalizirati z uporabo UI. V zabavni industriji lahko posameznik igra računalniške igrice z boti in se udejstvuje v virtualni resničnosti. V številnih sektorjih se bodo podjetja morala prilagoditi in rezultati raziskave izvedene v okviru tega projekta jim bodo v pomoč pri prepoznavanju priložnosti, ki se odpirajo za vzpostavljanje UI vredne zaupanja ter pasti novih tehnologij, ki niso etično skladne z vrednotami družbe kot so zapisane v našem ustavnem pravnem okviru. Ena izmed pozitivnih posledic implementacije UI na katero podjetja računajo je izboljšanje učinkovitosti delovanja podjetja. Postavitev temeljev za mapiranje stanja in razvoja UI v Sloveniji, kar želimo doseči v okviru DS9, bo za doseganje cilja izboljšanja učinkovitosti podjetij nedvomno koristno. V okviru DS2 bomo organizirali tudi predstavitev kataloga indikatorjev, ki bodo osnova za načrt informacijskega vira, ki bo ponujal vpogled v stanje razvitosti UI v Sloveniji za načrtovalce nacionalnih strategij na Ministrstvu za javno upravo ter za gospodarstvenike in vodilne kadre v slovenski industriji na Gospodarski zbornici Slovenije. Raziskavi, ki ju bomo izvedli v okviru DS2 in DS9 bosta raznovrstnim podjetjem pomagali pri prepoznavanju priložnosti na področju UI, ki v Sloveniji obstajajo in ki se jih lahko poslužijo, obenem pa bosta podjetjem, ki se ukvarjajo specifično s tehnološkimi rešitvami lahko pokazali na še neizčrpane poslovne priložnosti, ki jih lahko izkoristijo.   Pravna ureditev UI   Področje UI je še vedno relativno novo, zato pravni režimi ki urejajo vprašanja UI niso niti ustrezni niti dosledni. Eden izmed ciljev raziskovalnega projekta bo pokazati na potencialne pravne trke (DS4 in DS7) do katerih lahko pride v številnih pravnih disciplinah obenem pa bo cilj tudi prespraševati primernost naslednjih pravnih režimov glede na novo nastale potrebe UI: konkurenčno pravo, pravo varstva zasebnosti, pravo vasrtva osebnih podatkov, vasrtvo potrošnikov, kazensko in policijsko pravo ter pravo na področju volilne zakonodaje. Poznavanje zakonskih vrzeli pri ureditvi UI ter izzivov s katerimi se zakonodajalci soočajo je izrednega pomena za obstoječa podjetja kot tudi za potencialne nove podjetnike, da se zavejo na kaj morajo biti pozorni ter kje se lahko srečajo z morebitnimi težavami.
Najpomembnejši znanstveni rezultati Letno poročilo 2019, 2020
Najpomembnejši družbeno–ekonomsko in kulturno relevantni rezultati Letno poročilo 2019, 2020
Zgodovina ogledov
Priljubljeno