Naraščajoča kompleksnost kibernetskih groženj zahteva razvoj avtonomnih in z umetno inteligenco (UI) podprtih rešitev, ki bodo izboljšale varnostne operacije, obveščevalne sisteme o grožnjah in upravljanje incidentov. Tradicionalna avtomatizacija varnosti pogosto primanjkuje transparentnosti, prilagodljivosti in usklajenosti s človekovim odločanjem. Program bo kandidatkam in kandidatom omogočil pridobitev znanja in veščin, potrebnih za razvoj v loveku-usmerjenih in z UI podprtih rešitev za kibernetsko varnost, ki združujejo avtomatizacijo z razložljivostjo, zaupanjem in človeškim nadzorom. Njihove raziskave bodo osredotočene na zasnovo AI-gnanih varnostnih sistemov, ki:
- Krepijo zaupanje in razložljivost: Razvoj modelov razložljive umetne inteligence (XAI) za večjo transparentnost in zaupanje uporabnikov v avtonomne varnostne odločitve.
- Omogočajo sodelovanje med človekom in UI: Implementacija prilagodljivih UI-agentov, ki podpirajo analitike kibernetske varnosti pri sprejemanju odločitev in zmanjšujejo njihovo kognitivno obremenitev v varnostnih operativnih centrov (SOC-ih).
- Izboljšujejo obveščevalne sisteme o grožnjah in odzivanje na incidente: Avtomatizacija analize kibernetskih groženj ob hkratni zagotovitvi človeške potrditve ključnih odločitev.
- Optimizirajo kibernetsko varnost kritične infrastrukture in organizacij: Razvoj UI-podprtih varnostnih arhitektur za industrijske kontrolne sisteme, digitalne dvojčke in IoT okolja.
- Zagotavljajo skladnost z regulativnimi okviri: Uskladitev varnostnih politik UI z veljavnimi predpisi (GDPR, NIS2, Akt o kibernetski odpornosti, Akt o umetni inteligenci EU) za dosego pravnih in etičnih standardov.
Kandidati in kandidatke bodo pri svojem raziskovalnem delu uporabljali multidisciplinarni pristop, ki združuje kibernetsko varnost, umetno inteligenco, interakcijo človek-računalnik, sistemsko zasnovo in regulativne okvire. Nekatere ključne metode bodo vključevale:
- Z UI podprto oblikovanje varnostnih politik: Razvoj UI-modelov, ki dinamično prilagajajo varnostne politike glede na razvijajoče se grožnje in potrebe organizacij.
- Kognitivni in afektivni dejavniki pri avtomatizaciji SOC-ov: Integracija vedenjske analitike in afektivne računalništva za modeliranje odzivov varnostnih analitikov in optimizacijo UI podpore v SOC-ih.
- Federativno in zasebnost-ohranjujoče učenje: Uporaba decentraliziranih UI-tehnik za zaščito občutljivih podatkov o kibernetski varnosti in izboljšanje zaznavanja groženj.
- Simulacija in evalvacija: Testiranje z UI podprtih varnostnih modelov v realističnih okoljih (simulacije SOC, digitalni dvojniki, testiranje vdorov) za merjenje njihove učinkovitosti in uporabnosti.
S tem bodo kandidati prispevali k razvoju naslednje generacije kibernetske varnosti, ki bo uravnotežila avtomatizacijo in človeški nadzor ter izboljšala učinkovitost, odpornost in zanesljivost z UI podprtih varnostnih rešitev. Njihove raziskave bodo neposredno podpirale kritično infrastrukturo, SOC-e in regulativne organe pri sprejemanju strategije kibernetske varnosti, hkrati pa zagotavljale etično UI uporabo.