Nalaganje ...
Projekti / Programi vir: ARIS

Deidentifikacija obrazov z globokimi generativnimi modeli (FaceGEN)

Raziskovalna dejavnost

Koda Veda Področje Podpodročje
2.06.02  Tehnika  Sistemi in kibernetika  Znanja o sistemih in vodenju sistemov 

Koda Veda Področje
P175  Naravoslovno-matematične vede  Informatika, teorija sistemov 

Koda Veda Področje
2.02  Tehniške in tehnološke vede  Elektrotehnika, elektronika in informacijski inženiring 
Ključne besede
deidentifikacija, globoko učenje, generativni modeli, umetna inteligenca, sinteza obrazov, varstvo zasebnosti
Vrednotenje (pravilnik)
vir: COBISS
Raziskovalci (15)
št. Evidenčna št. Ime in priimek Razisk. področje Vloga Obdobje Štev. publikacijŠtev. publikacij
1.  22472  dr. Borut Batagelj  Računalništvo in informatika  Raziskovalec  2019 - 2022  193 
2.  54426  Tea Brašanac  Računalništvo in informatika  Raziskovalec  2020 - 2021 
3.  11805  dr. Simon Dobrišek  Računalništvo in informatika  Raziskovalec  2019 - 2022  284 
4.  53820  dr. Žiga Emeršič  Računalništvo in informatika  Raziskovalec  2019 - 2022  86 
5.  38118  dr. Klemen Grm  Sistemi in kibernetika  Raziskovalec  2019 - 2022  45 
6.  31985  dr. Janez Križaj  Sistemi in kibernetika  Raziskovalec  2019 - 2022  39 
7.  19226  dr. Peter Peer  Računalništvo in informatika  Raziskovalec  2019 - 2022  417 
8.  51910  Martin Pernuš  Računalništvo in informatika  Mladi raziskovalec  2019 - 2022  15 
9.  21310  dr. Janez Perš  Sistemi in kibernetika  Raziskovalec  2019 - 2022  244 
10.  53724  Peter Rot  Računalništvo in informatika  Raziskovalec  2019 - 2022  21 
11.  39512  Robert Sedevčič    Tehnični sodelavec  2019 - 2020 
12.  09581  dr. Franc Solina  Računalništvo in informatika  Raziskovalec  2019 - 2022  642 
13.  28458  dr. Vitomir Štruc  Sistemi in kibernetika  Vodja  2019 - 2022  369 
14.  11380  dr. Mario Žganec  Meroslovje  Raziskovalec  2019 - 2022  98 
15.  12000  dr. Jerneja Žganec Gros  Računalništvo in informatika  Raziskovalec  2019 - 2022  290 
Organizacije (3)
št. Evidenčna št. Razisk. organizacija Kraj Matična številka Štev. publikacijŠtev. publikacij
1.  1538  Univerza v Ljubljani, Fakulteta za elektrotehniko  Ljubljana  1626965  27.989 
2.  1539  Univerza v Ljubljani, Fakulteta za računalništvo in informatiko  Ljubljana  1627023  16.686 
3.  1986  ALPINEON razvoj in raziskave, d.o.o.  Ljubljana  1820931  387 
Povzetek
Vse večja razpoložljivost mobilnih naprav ter posledičnih zmožnosti zajema slikovnih je spremenila naše navade in pričakovanja glede primerne uporabe slik in videa. V času, ko je izjemno preprosto izvesti video konference, posneti slike in jih objaviti na spletu ali zbrati in obdelati večje količine slikovnih podatkov, je nujno zagotoviti, da zbrani podatki niso zlorabljeni in je zasebnost oseb v njih ustrezno varovana. Še posebej so izpostavljene ranljive demografske skupine, kot so otroci in mladostniki, ki se nevarnosti, povezanih z nepremišljenim deljenjem osebnih podatkov, slik in videa na spletu, pogosto niti ne zavedajo.  Skupaj z razvojem slikovnih in mobilnih tehnologij se torej pojavlja tudi potreba po razvoju mehanizmov, ki zagotavljajo večjo stopnjo zasebnosti. Podobne potrebe je zaznala že Evropska unija, ki je v svoji direktivi o zaščiti podatkov (95/46/EC) izrazila potrebo po ustreznih ukrepih za varovanje osebnih podatkov. Direktivo je leta 2008 dopolnil evropski informacijski pooblaščenec (IP), v letu 2018 pa jo je nadomestila regulativa GDPR, ki še v večji meri poudarja potrebo po tehnologijah, ki prispevajo k varstvu in zaščiti zasebnosti. Vse omenjene pobude kažejo na očitno neskladje med trenutnim stanjem tehnologije in prihajajočimi potrebami znotraj globalnega okolja po tehnologijah, sposobnih zagotavljanja višjih ravni zasebnosti. Kot neposreden odgovor na to neskladje se ponuja proces de-identifikacije, ki je definiran kot postopek prikrivanja identitete oseb v podatkih z namenom zagotavljanja zasebnosti. V slikah in videu je deidentifikacija pogosto povezana z deidentifikacijo obraznih področij, ki predstavljajo najpomembnejše identifikatorje v tej vrsti podatkov. Klasični pristop k problemu obrazne deidentifikacije je prikrivanje identitete z različnimi filtri in maskami, ob predpostavki zadostne ločljivosti slik obrazov, pa tudi z zamenjavo obraznih področij z umetnimi generiranimi obrazi. Čeprav predstavljajo omenjeni pristopi standard na področju obrazne deidentifikacije, pa imajo kar nekaj pomanjkljivosti: 1) v procesu deidentifikacije uničijo tudi informacijo, ki ni povezana z identiteto oseb in tako onemogočijo uporabo podatkov v namene, za katere identiteta oseb v podatkih ni pomembna, 2) delujejo pomanjkljivo na slikah nizke ločljivosti in slabe kakovosti, 3) temeljijo na vrsto med-seboj odvisnih korakov, kar vpliva na robustnost delovanja celotnega procesnega cevovoda, in 4) pogosto temeljijo na nerealnih predpostavkah, ki zavirajo uporabo deidentifikacijske tehnologije v praksi.  V okviru predlaganega temeljnega projekta FaceGEN (ang. Face deidentification with Generative Deep Models) bomo naslovili omenjene pomanjkljivosti in izvajali raziskave na področju obrazne deidentifikacije, s poudarkom na globokem učenju, ki se je v zadnjem času uveljavilo kot izredno učinkovito orodje za različne probleme s področja računalniškega vida in strojnega učenja. Cilj projekta je razviti globoke generativne modele in pristope k sintezi slik obrazov, ki jih je mogoče uporabiti s statičnimi slikami in formalnimi shemami za zaščito zasebnosti, kot je k-anonimnost, a tudi z video sekvencami, kjer se lahko pojavi večje število obrazov v različnih, tipično nenadzorovanih okoljih. Glavni oprijemljivi rezultat projekta bo nova, robustna tehnologija za deidentifikacijo obrazov ter novi generativni globoki modeli in pristopi k sintezi obraznih slik, zmožni foto-realistične deidentifikacije vseh delov obrazov (vključno z mehkimi biometričnimi karakteristikami) in ohranjanja informacije, ki ni povezana z identiteto oseb na slikah, kot je rasna pripadnost, spol, starost, ipd. Pričakujemo, da bodo razviti modeli zagotavljali do sedaj ne-videno učinkovitost deidentifikacije, ki bo delovala naravno in prepričljivo, kar današnja tehnologija še ne omogoča.
Pomen za razvoj znanosti
Cilji projekta, povezani z deidentifikacijsko tehnologijo, se skladajo z EU Direktivo o varstvu podatkov (95/46/EC), dopolnitvami direktive s strani evropskega informacijskega pooblaščenca, nedavno GDPR regulativo, pozivom NISTA in težnjami zasebnih SME za tehnologijami s vgrajeno zasebnostjo. Predlagani projekt bo zagotovil oprijemljivo tehnologijo na teoretično utemeljene postopke, ki se skladajo z napotki in pričakovanji naštetih direktiv in institucij. Zasebnim podjetjem, ki jih zanima tehnologija z vgrajeno zasebnostjo, pa bo s projektom na voljo osnovna tehnologija za razvoj komercialnih produktov, ki jim bodo omogočali vstop na mednarodni trg. Pričakujemo, da bodo cilji projekta, povezani z umetno inteligenco, še bistveno bolj odmevni, saj so generativni modeli uporabni tako v različnih sektorjih (IT, elektronika, zdravstvo, umetnost, itd.), industrijah in aplikacijah (npr., pametni asistenti, samo vozeči avtomobili, IoT, računalniška grafika, mobilne aplikacije), ki jih največja tehnološka podjetja na svetu uvrščajo med ključne tehnologije prihodnosti. Pridobljeno znanje bo pripomoglo k povečanju razvojnih sposobnosti EU v sektorju v visoko dodano vrednostjo. Projekt FaceGEN bo prispeval k napredku znanosti na področju računalniškega vida, strojnega učenja in biometrije z ustvarjanjem ključnih spodbujevalnih tehnologij (an. Key Enabling Technology) z visoko specializiranim raziskovalnim programom. Načrtovane naloge FaceGEN bodo prispevale k napredku na področju de-identifikacijske in generativnih omrežij. Med potencialnimi vplivi raziskav velja izpostaviti, da se pričakuje vpliv vzdolž več relevantnih osi: • Znanstveni vpliv na: o širše področje umetne inteligence in globokega učenja, o nove ideje pri nenadzorovnih problemih računalniškega vida, o razvoj novih raziskovalnih smeri, povezanih z generativnih nevronskih omrežij. • Tehnološki vpliv na:  o razvoj sodobnih deidentifikacijskih postopkov, ki jih je mogoče uporabiti na slikovnih podatkih,  o priporočila za nove standarde, ki urejajo področje de-identifikacije, o nove poglede na sorodna raziskovalna področja, kot so biometrija ali forenzika. • Družbeno-ekonomski vpliv na:  o dostopnost tehnologij z visoko stopnjo varovanja zasebnosti za ranljive demografske skupine kot so otroci in mladostniki, o izboljšanje kvalitete življenja ljudi zaradi tehnologije, ki nudi smiselni kompromis med varovanjem zasebnosti in ohranitvijo namembnosti podatkov, o poslovni sektor, kjer bo postavljena osnova in pridobljeno potrebno znanje za razvoj komercialnih produktov s področja varovanja zasebnosti, o standarde in primere dobre prakse pri načrtovanju (s strani informacijskega pooblaščenca) certificirane tehnologije za varovanje zasebnosti. • Mikro vpliv (na institucionalni ravni) na:  o izobraževanje nove generacije raziskovalcev na aktualnem področju z visoko uporabno vrednostjo in tržno vrednostjo, o dvig ravni znanja sodelujočih in konkurenčnost znotraj Slovenske strategije pametne specializacije in EU razpisov.
Pomen za razvoj Slovenije
The deidentification-related goals of the project are in line with the recent GDPR regulative, the outreach by NIST and efforts from private companies towards privacy enhancing technology. The planned project will provide tangible technology and theoretically well-founded procedures that are in line with the expectations expressed in the listed documents. Private companies interested in PET technologies will have the necessary groundwork for developing commercial products enabling them to compete in the international AI and PET market. The goals related to the deep-learning and AI are expected to be even more far reaching with state-of-the-art generative models being useful across numerous sectors (IT, electronics, medicine, arts, etc.), industries and applications (e.g., smart assistants, self-driving cars, IoT, computer graphics, recognition technologies, mobile applications) that are classified by major companies as crucial for future development. The expertise will contribute to strengthening Europe’s R&D capacities in a critical sector with high added value.  FaceGEN will advance science in the areas of computer vision, machine learning and biometrics by generating Key Enabling Technologies (KETs) with a highly specialized research program. The planned FaceGEN tasks will contribute to progress beyond the state-of-the-art in deidentification and generative networks. Below are a few points where we expect our project to make a lasting impact: • Scientific impact:  o on broader areas of AI and deep learning, o on new ideas in unsupervised vision problems, o on the development of new research directions and new approaches to generative deep models. • Technological impact:  o on the development of contemporary state-of-the-art de-identification techniques for image data, o on guidelines and recommendations for new standards for de-identification, o on the development of standardized evaluation methodologies for de-identification technology,  o on novel ideas in related areas, such as biometrics and forensics. • Socio-economic impact:  o on imminent availability of PET technology for vulnerable demographic groups, o on improvement of quality of life of people due to technology that provides reasonable trade-offs between privacy protection and data utility/usability, o on the business sector by providing the necessary groundwork and ensuring the relevant know-how to develop commercial products capable of privacy – preserving image/video acquisition.   o on standards and examples of good practices in ICO certified technology complying with the principles of privacy-by-design. • Micro impact (at the institutional level): o on training the next generation of researchers in a hot area with a high applicability and potential market value,  o on the expertise of the project partners and competitiveness in Slovenia’s smart specialization strategy and EU funded project on PET technologies.
Zgodovina ogledov
Priljubljeno