Nalaganje ...
Projekti / Programi vir: ARIS

Avtomatizirana pravičnost: družbeni, etični in pravni vidiki

Raziskovalna dejavnost

Koda Veda Področje Podpodročje
5.07.00  Družboslovje  Kriminologija in socialno delo   

Koda Veda Področje
S160  Družboslovje  Kriminologija 

Koda Veda Področje
5.05  Družbene vede  Pravo 
Ključne besede
Kazenskopravni sistem, človekove pravice, avtomatizacija, algoritmi, umetna inteligenca, veliko podatkovje, izvajanje zakona, odmera sankcij
Vrednotenje (pravilnik)
vir: COBISS
Raziskovalci (14)
št. Evidenčna št. Ime in priimek Razisk. področje Vloga Obdobje Štev. publikacijŠtev. publikacij
1.  54925  Ana Babnik  Pravo  Tehnični sodelavec  2020 - 2021  11 
2.  33443  dr. Vasja Badalič  Kriminologija in socialno delo  Raziskovalec  2018 - 2021  200 
3.  33448  Barbara Bizilj    Tehnični sodelavec  2018 - 2020  24 
4.  55009  Lara Dular  Pravo  Raziskovalec  2020 - 2021 
5.  25831  dr. Primož Gorkič  Kriminologija in socialno delo  Raziskovalec  2018 - 2020  335 
6.  36378  dr. Miha Hafner  Pravo  Raziskovalec  2018 - 2020  106 
7.  38465  Primož Križnar  Kriminologija in socialno delo  Raziskovalec  2018 - 2021  30 
8.  38045  dr. Karmen Lutman  Pravo  Raziskovalec  2020 - 2021  144 
9.  29615  dr. Mojca Mihelj Plesničar  Kriminologija in socialno delo  Raziskovalec  2018 - 2021  300 
10.  06979  dr. Renata Salecl  Kriminologija in socialno delo  Raziskovalec  2018 - 2021  869 
11.  21845  dr. Liljana Selinšek  Pravo  Raziskovalec  2019 - 2021  261 
12.  38170  dr. Katja Simončič  Kriminologija in socialno delo  Raziskovalec  2020  48 
13.  50631  dr. Pika Šarf  Pravo  Mladi raziskovalec  2018 - 2021  82 
14.  26029  dr. Aleš Završnik  Kriminologija in socialno delo  Vodja  2018 - 2021  502 
Organizacije (1)
št. Evidenčna št. Razisk. organizacija Kraj Matična številka Štev. publikacijŠtev. publikacij
1.  0504  Inštitut za kriminologijo pri Pravni fakulteti v Ljubljani  Ljubljana  5051525000  4.607 
Povzetek
V zadnjem desetletju je uporaba algoritmov, velikega podatkovja in umetne inteligence povzročila nastanek različnih »avtonomnih sistemov«, ki so namenjeni nadomeščanju ljudi na številnih področjih. Vendar posebej na področju mednarodne in nacionalne pravičnosti, povečana zmožnost avtonomnih sistemov za samostojno ravnanje brez ali z omejenim človeškim nadzorom vzbuja pomembne pravne in etične skrbi. Splošni cilj predlagane raziskave je raziskati, kako se pravosodni sistemi na nacionalni in mednarodni ravni spreminjajo s povečano uporabo avtonomnih sistemov. Naš cilj je analizirati, kako bi lahko bila avtomatizacija po eni strani koristna in po drugi strani kakšna tveganja za človekove pravice in druge temeljne vrednote prinaša. Primeri takšnega razvoja so številni in raznoliki, vendar smo se odločili, da se osredotočimo na področja poklicnega odločanja, kjer so vplivi izreno vidni in pomembni. Tako se bomo osredotočili na štiri konkretna vprašanja mednarodnega in nacionalnega zagotavljanja pravičnosti, ki so se pomembno spremenila s procesom avtomatizacije. Prvič, umetna inteligenca, veliko podatkovje in algoritmi so uporabljeni za manipulacijo javnega mnenja in obnašanja celotnega prebivalstva, kar ima pomemben učinek na demokracijo (kot je bilo opaziti na nedavnih volitvah v VB in ZDA). Prvi delovni sklop se bo osredotočil na analizo sprememb političnega demokratičnega okvirja, ki jih je povzročila uporaba velikih zbirk osebnih podatkov, algoritmičnega podatkovenga rudarjenja in napovedne moči digitalnih platform. Drugič, avtonomni sistemi, npr. kaznovalna orodja, so privedli do pomembnih sprememb v kazenskem pravosodnem sistemu z namenom pospešitve postopkov in večjo objektivnostjo. Drugi delovni sklop bo najprej preučil razlike med načeli, ki urejajo avtomatizirano pravičnost in tradicionalnimi načeli kazenskega prava (npr. domnevo nedolžnosti) in razmislil o njihovi združljivosti. Nadalje bomo raziskali, kako bi se z algoritmi spodbujene rešitve, ki se rutinsko uporabljajo v ZDA, prilegale kontinentalnim pravnim sistemom držav EU, vključno s Slovenijo. Na koncu bomo poskušali zgraditi algoritmiziran model za sprejemanje odločitev, ki bi bil lahko uporabljen pri odločanju o kaznovanju na slovenskih sodiščih, pri čemer se bomo osredotočili na ocenjevanje procesa in korakov pri izdelavi takšnega orodja in njegovih potencialnih prednosti in slabosti. Tretjič, avtonomni orožni sistemi se uporabljajo v oboroženih spopadih, in sprožajo številna pravna vprašanja v ureditvi jus in bello in jus ad bellum. V naši tretji programski skupini bomo analizirali neskladnost avtonomnih orožnih sistemov z zahtevami mednarodnega humanitarnega prava, zlasti z načeloma razlikovanja in sorazmernosti, in preučili možnosti nadaljnjega razvoja, ki bi to lahko spremenil. Četrtič, avtomatizirani sistemi za spremljanje, ki vključujejo satelite in druge naprave za spremljanje v zraku in na zemlji, so uporabljeni za napovedovanje naravnih nesreč, spremljanje degradacije okolja in vplivanje na oblikovanje okoljske politike. Naš zadnji delovni sklop si bo prizadeval odgovoriti, kako preprečiti spore glede suverenosti držav, ki lahko izhajajo iz uporabe tovrstnih avtonomnih sistemov za spremljanje, posebej kadar pride do kršitev suverenosti držav in zlorabe podatkov, pridobljenih s takšnimi sistemi. Na splošno bo projekt zagotovil celovito in poglobljeno analizo vplivov avtonomnih sistemov na izbrana vprašanja mednarodnega in nacionalnega zagotavljanja pravičnosti. Prizadevali si bomo za razumevanje dinamike nastalih sprememb, jih združevali z relevantnimi teoretičnimi koncepti, razvijali nove in razširili naše razumevanje avtomatizacije. Poleg tega nam bo postopek razvoja kaznovalnega modela omogočil razumeti težave povezane z njegovo zasnovo in razločevati potencialne ranljivosti v njegovem razvoju, kot tudi zagotoviti akademski skupnosti, političnim odločevalcem in splošni javnosti predloge, kako se spopasti s tveganji avtomatizacije.
Pomen za razvoj znanosti
V post-moderni dobi se zdi tehnološki napredek samoumeven, a razmišljanja o njegovem vplivu na različna področja človeškega življenja običajno zaostajajo. Ta projekt bo prispeval k razvoju kriminoloških in pravnih znanosti, ki je nujen zaradi novodobne tehnološke revolucije. Sodelovanje s strokovnjakom iz računalništva nam bo omogočilo preizkusiti in razviti prihodnja skupna prizadevanja na tem področju. Rezultati bodo koristni za slovensko, evropsko in globalno akademsko skupnost. Vprašanja, ki jih bomo obravnavali, pa tudi znanje, ki ga bomo pridobili, so globalna. Spodbudili bomo izmenjavo in diseminacijo rezultatov projekta prek mednarodnih akademskih sodelovanj, kot so publikacije in dogodki. Poleg tega bo projekt omogočil boljše sodelovanje slovenskih in mednarodnih strokovnjakov, tako da bo pomagal vzdrževati obstoječe raziskovalne mreže, zlasti z namenom, da se predložijo skupne vloge za financiranje v okviru programov Horizon 2020, COST in DG Justice and Consumers. V času raziskave bomo rezultate prenesli na naše študente na univerzah doma in v tujini, kjer izvajamo predavanja (vse ravni prava, kriminološke in varnostne študije). Če smo natančnejši, prvič, s preučevanjem groženj demokraciji v DS2 bomo prispevali k razvoju študij družbenega nadzora in razvoja ustavnega prava. Poleg tega bodo rezultati raziskave spodbudili širše razprave v politični znanosti in pravni teoriji. Drugič, v okviru DS3 bo raziskava prispevala k razvoju kazenskega prava, tako da bo ponudila ponovno presojo in potencialno redefinicijo načel kazenskega prava, ki izhajajo iz 19. stoletja. Poleg tega bomo ponudili odgovore na širok spekter vprašanj o izvedljivosti in zakonitosti uporabe avtomatizirane pravičnosti (z uporabo algoritmov) v celinskih evropskih sistemih. V DS3 bomo na podlagi akademskega pristopa tudi poskusili ustvariti algoritmičen model odločanja. Celoten postopek izdelave bo podvržen stalnemu opazovanju vseh faz, ki so vključene v izdelavo. Raziskali bomo potencialne koristi uporabe takega orodja pri podajanju kazenskih sankcij in tudi potencialne pomanjkljivosti, kar se precej redko dogaja v neakademskih, komercialnih projektih, kjer se takšna orodja običajno razvijajo. Tretjič, v DS4 bomo pridobili novo znanje o stopnjah samostojnosti najsodobnejših avtonomnih oboroženih sistemov, o mejah človeškega nadzora nad takimi sistemi in o omejitvah takih sistemov, da delujejo v skladu z mednarodnim humanitarnim pravom. Zagotovili bomo tudi nove smernice za izboljšanje regulacije takšnih oboroženih sistemov. Nenazadnje, DS5 bo zagotovil nove vpoglede v malo raziskana vprašanja o uporabi avtomatiziranih sistemov spremljanja in njihovem vplivu na načelo državne suverenosti. To bo eden od prvih projektov, ki se bo osredotočil na te težave.
Pomen za razvoj Slovenije
Technological advancement is taken for granted in our post-modern era, however, reflections on its impact on various areas of human life typically lag behind. This project will contribute to the up-to-date evolution of criminological and legal science that is highly needed due to the ongoing technological revolution. The collaboration with computer science will allow us to test and develop future common endeavours in the field. The results will be beneficial to the Slovenian, European and global academic context. The questions we will address as well as the knowledge we will produce, are inherently global. We will further the exchange and dissemination of the project’s insights via international academic collaborations, such as publications and events. Moreover, the project will allow for an improved collaboration of Slovenian and international scholars via fostering existing research networks, in particular with a view to submit joint applications for grants in the Horizon 2020 perspective, COST Actions and for DG Justice and Consumers calls. Throughout the research we will transfer findings to our students at universities home and abroad where we conduct courses (all levels law, criminology and security studies). More specifically, firstly, in by examining threats to democracy in WP2, we will contribute to the development of studies of social control and to the development of constitutional law. Moreover, the outcomes will foster broader discussions in political science and legal theory. Secondly, our research in WP3 will contribute to the development of criminal law and a reassessment and potential redefinition of criminal law principles originating in the 19th century. Moreover, we will offer answers to a broad array of questions of feasibility and legal applicability of algorithm-assisted automated justice in continental European systems. Finally, in WP3 we will attempt an academic approach towards building an algorithmic model of decision making with constant observations of the phases involved in its creation. We will explore the potential benefits of using such a tool in sentencing, as well as its potential weaknesses, which is rather unlikely to be accounted for in non-academic, commercial projects where such tools are typically developed. Thirdly, in WP4 will provide new knowledge on the degrees of autonomy of the most advanced autonomous weapons systems, the limits of meaningful human control over such systems, and the limitations of such systems to comply with international laws of conflict. In particular, we will provide new guidelines on how to improve the regulation of such weapons systems. Finally, the WP5 will provide new insights into the under-researched issues surrounding the use of automated monitoring systems and their impact on the principle of state sovereignty. This will be one of the first projects focusing on these issues.
Najpomembnejši znanstveni rezultati Vmesno poročilo
Najpomembnejši družbeno–ekonomsko in kulturno relevantni rezultati Vmesno poročilo
Zgodovina ogledov
Priljubljeno