Projekti / Programi
Avtomatizirana pravičnost: družbeni, etični in pravni vidiki
| Koda |
Veda |
Področje |
Podpodročje |
| 5.07.00 |
Družboslovje |
Kriminologija in socialno delo |
|
| Koda |
Veda |
Področje |
| S160 |
Družboslovje |
Kriminologija |
| Koda |
Veda |
Področje |
| 5.05 |
Družbene vede |
Pravo |
Kazenskopravni sistem, človekove pravice, avtomatizacija, algoritmi, umetna inteligenca, veliko podatkovje, izvajanje zakona, odmera sankcij
Raziskovalci (14)
Organizacije (1)
Povzetek
V zadnjem desetletju je uporaba algoritmov, velikega podatkovja in umetne inteligence povzročila nastanek različnih »avtonomnih sistemov«, ki so namenjeni nadomeščanju ljudi na številnih področjih. Vendar posebej na področju mednarodne in nacionalne pravičnosti, povečana zmožnost avtonomnih sistemov za samostojno ravnanje brez ali z omejenim človeškim nadzorom vzbuja pomembne pravne in etične skrbi. Splošni cilj predlagane raziskave je raziskati, kako se pravosodni sistemi na nacionalni in mednarodni ravni spreminjajo s povečano uporabo avtonomnih sistemov. Naš cilj je analizirati, kako bi lahko bila avtomatizacija po eni strani koristna in po drugi strani kakšna tveganja za človekove pravice in druge temeljne vrednote prinaša.
Primeri takšnega razvoja so številni in raznoliki, vendar smo se odločili, da se osredotočimo na področja poklicnega odločanja, kjer so vplivi izreno vidni in pomembni. Tako se bomo osredotočili na štiri konkretna vprašanja mednarodnega in nacionalnega zagotavljanja pravičnosti, ki so se pomembno spremenila s procesom avtomatizacije. Prvič, umetna inteligenca, veliko podatkovje in algoritmi so uporabljeni za manipulacijo javnega mnenja in obnašanja celotnega prebivalstva, kar ima pomemben učinek na demokracijo (kot je bilo opaziti na nedavnih volitvah v VB in ZDA). Prvi delovni sklop se bo osredotočil na analizo sprememb političnega demokratičnega okvirja, ki jih je povzročila uporaba velikih zbirk osebnih podatkov, algoritmičnega podatkovenga rudarjenja in napovedne moči digitalnih platform. Drugič, avtonomni sistemi, npr. kaznovalna orodja, so privedli do pomembnih sprememb v kazenskem pravosodnem sistemu z namenom pospešitve postopkov in večjo objektivnostjo. Drugi delovni sklop bo najprej preučil razlike med načeli, ki urejajo avtomatizirano pravičnost in tradicionalnimi načeli kazenskega prava (npr. domnevo nedolžnosti) in razmislil o njihovi združljivosti. Nadalje bomo raziskali, kako bi se z algoritmi spodbujene rešitve, ki se rutinsko uporabljajo v ZDA, prilegale kontinentalnim pravnim sistemom držav EU, vključno s Slovenijo. Na koncu bomo poskušali zgraditi algoritmiziran model za sprejemanje odločitev, ki bi bil lahko uporabljen pri odločanju o kaznovanju na slovenskih sodiščih, pri čemer se bomo osredotočili na ocenjevanje procesa in korakov pri izdelavi takšnega orodja in njegovih potencialnih prednosti in slabosti. Tretjič, avtonomni orožni sistemi se uporabljajo v oboroženih spopadih, in sprožajo številna pravna vprašanja v ureditvi jus in bello in jus ad bellum. V naši tretji programski skupini bomo analizirali neskladnost avtonomnih orožnih sistemov z zahtevami mednarodnega humanitarnega prava, zlasti z načeloma razlikovanja in sorazmernosti, in preučili možnosti nadaljnjega razvoja, ki bi to lahko spremenil. Četrtič, avtomatizirani sistemi za spremljanje, ki vključujejo satelite in druge naprave za spremljanje v zraku in na zemlji, so uporabljeni za napovedovanje naravnih nesreč, spremljanje degradacije okolja in vplivanje na oblikovanje okoljske politike. Naš zadnji delovni sklop si bo prizadeval odgovoriti, kako preprečiti spore glede suverenosti držav, ki lahko izhajajo iz uporabe tovrstnih avtonomnih sistemov za spremljanje, posebej kadar pride do kršitev suverenosti držav in zlorabe podatkov, pridobljenih s takšnimi sistemi.
Na splošno bo projekt zagotovil celovito in poglobljeno analizo vplivov avtonomnih sistemov na izbrana vprašanja mednarodnega in nacionalnega zagotavljanja pravičnosti. Prizadevali si bomo za razumevanje dinamike nastalih sprememb, jih združevali z relevantnimi teoretičnimi koncepti, razvijali nove in razširili naše razumevanje avtomatizacije. Poleg tega nam bo postopek razvoja kaznovalnega modela omogočil razumeti težave povezane z njegovo zasnovo in razločevati potencialne ranljivosti v njegovem razvoju, kot tudi zagotoviti akademski skupnosti, političnim odločevalcem in splošni javnosti predloge, kako se spopasti s tveganji avtomatizacije.
Pomen za razvoj znanosti
V post-moderni dobi se zdi tehnološki napredek samoumeven, a razmišljanja o njegovem vplivu na različna področja človeškega življenja običajno zaostajajo. Ta projekt bo prispeval k razvoju kriminoloških in pravnih znanosti, ki je nujen zaradi novodobne tehnološke revolucije. Sodelovanje s strokovnjakom iz računalništva nam bo omogočilo preizkusiti in razviti prihodnja skupna prizadevanja na tem področju.
Rezultati bodo koristni za slovensko, evropsko in globalno akademsko skupnost. Vprašanja, ki jih bomo obravnavali, pa tudi znanje, ki ga bomo pridobili, so globalna. Spodbudili bomo izmenjavo in diseminacijo rezultatov projekta prek mednarodnih akademskih sodelovanj, kot so publikacije in dogodki. Poleg tega bo projekt omogočil boljše sodelovanje slovenskih in mednarodnih strokovnjakov, tako da bo pomagal vzdrževati obstoječe raziskovalne mreže, zlasti z namenom, da se predložijo skupne vloge za financiranje v okviru programov Horizon 2020, COST in DG Justice and Consumers. V času raziskave bomo rezultate prenesli na naše študente na univerzah doma in v tujini, kjer izvajamo predavanja (vse ravni prava, kriminološke in varnostne študije).
Če smo natančnejši, prvič, s preučevanjem groženj demokraciji v DS2 bomo prispevali k razvoju študij družbenega nadzora in razvoja ustavnega prava. Poleg tega bodo rezultati raziskave spodbudili širše razprave v politični znanosti in pravni teoriji. Drugič, v okviru DS3 bo raziskava prispevala k razvoju kazenskega prava, tako da bo ponudila ponovno presojo in potencialno redefinicijo načel kazenskega prava, ki izhajajo iz 19. stoletja. Poleg tega bomo ponudili odgovore na širok spekter vprašanj o izvedljivosti in zakonitosti uporabe avtomatizirane pravičnosti (z uporabo algoritmov) v celinskih evropskih sistemih. V DS3 bomo na podlagi akademskega pristopa tudi poskusili ustvariti algoritmičen model odločanja. Celoten postopek izdelave bo podvržen stalnemu opazovanju vseh faz, ki so vključene v izdelavo. Raziskali bomo potencialne koristi uporabe takega orodja pri podajanju kazenskih sankcij in tudi potencialne pomanjkljivosti, kar se precej redko dogaja v neakademskih, komercialnih projektih, kjer se takšna orodja običajno razvijajo. Tretjič, v DS4 bomo pridobili novo znanje o stopnjah samostojnosti najsodobnejših avtonomnih oboroženih sistemov, o mejah človeškega nadzora nad takimi sistemi in o omejitvah takih sistemov, da delujejo v skladu z mednarodnim humanitarnim pravom. Zagotovili bomo tudi nove smernice za izboljšanje regulacije takšnih oboroženih sistemov. Nenazadnje, DS5 bo zagotovil nove vpoglede v malo raziskana vprašanja o uporabi avtomatiziranih sistemov spremljanja in njihovem vplivu na načelo državne suverenosti. To bo eden od prvih projektov, ki se bo osredotočil na te težave.
Pomen za razvoj Slovenije
Technological advancement is taken for granted in our post-modern era, however, reflections on its impact on various areas of human life typically lag behind. This project will contribute to the up-to-date evolution of criminological and legal science that is highly needed due to the ongoing technological revolution. The collaboration with computer science will allow us to test and develop future common endeavours in the field.
The results will be beneficial to the Slovenian, European and global academic context. The questions we will address as well as the knowledge we will produce, are inherently global. We will further the exchange and dissemination of the project’s insights via international academic collaborations, such as publications and events. Moreover, the project will allow for an improved collaboration of Slovenian and international scholars via fostering existing research networks, in particular with a view to submit joint applications for grants in the Horizon 2020 perspective, COST Actions and for DG Justice and Consumers calls. Throughout the research we will transfer findings to our students at universities home and abroad where we conduct courses (all levels law, criminology and security studies).
More specifically, firstly, in by examining threats to democracy in WP2, we will contribute to the development of studies of social control and to the development of constitutional law. Moreover, the outcomes will foster broader discussions in political science and legal theory. Secondly, our research in WP3 will contribute to the development of criminal law and a reassessment and potential redefinition of criminal law principles originating in the 19th century. Moreover, we will offer answers to a broad array of questions of feasibility and legal applicability of algorithm-assisted automated justice in continental European systems. Finally, in WP3 we will attempt an academic approach towards building an algorithmic model of decision making with constant observations of the phases involved in its creation. We will explore the potential benefits of using such a tool in sentencing, as well as its potential weaknesses, which is rather unlikely to be accounted for in non-academic, commercial projects where such tools are typically developed. Thirdly, in WP4 will provide new knowledge on the degrees of autonomy of the most advanced autonomous weapons systems, the limits of meaningful human control over such systems, and the limitations of such systems to comply with international laws of conflict. In particular, we will provide new guidelines on how to improve the regulation of such weapons systems. Finally, the WP5 will provide new insights into the under-researched issues surrounding the use of automated monitoring systems and their impact on the principle of state sovereignty. This will be one of the first projects focusing on these issues.
Najpomembnejši znanstveni rezultati
Vmesno poročilo
Najpomembnejši družbeno–ekonomsko in kulturno relevantni rezultati
Vmesno poročilo
