Kibernetska varnost in veliki jezikovni modeli
Oznaka in naziv projekta
V2-2380 Kibernetska varnost in veliki jezikovni modeli
V2-2380 Cybersecurity and large language models
Logotipi ARIS in drugih sofinancerjev
Sofinancerji: Urad vlade Republike Slovenije za informacijsko varnost
Projektna skupina
Vodja projekta: dr. Tomaž Klobučar
Sodelujoče raziskovalne organizacije: Povezava na SICRIS
Sestava projektne skupine: Povezava na SICRIS
Vsebinski opis projekta
Med novejše tehnologije, ki obetajo učinkovitejše zagotavljanje kibernetske varnosti, prištevamo tudi umetno inteligenco (UI), uporabno zlasti pri analizi in obdelavi velikega števila varnostno relevantnih dogodkov ter odkrivanju groženj in kibernetskih napadov in odzivanju nanje. V zadnjem času so med tehnologijami UI deležni precejšnje pozornosti veliki jezikovni modeli (LLM), ki kažejo potenciale za uporabo tudi na področju kibernetske varnosti. Glavni cilji projekta so:
• pregled stanja na področju uporabe velikih jezikovnih modelov za kibernetsko varnost in identifikacija primerov uporabe te tehnologije za okrepitev varnostnih zmogljivosti,
• lokalna vzpostavitev in evalvacija sistema na podlagi odprtokodnega modela LLM, prilagojenega za potrebe različnih primerov uporabe s področja kibernetske varnosti,
• preučitev možnosti povezave z drugimi orodji in sistemi za zagotavljanje kibernetske varnosti,
• izvoz podatkov iz lokalnega sistema v različne oblike za nadaljnjo uporabo,
• priprava priporočil o uporabi LLM za kibernetsko varnost.
Osnovni podatki sofinanciranja so dostopni na spletni strani SICRIS.
Faze projekta in opis njihove realizacije
1. Obstoječe raziskave in primeri uporabe
2. Načrtovanje sistema
3. Zbiranje in priprava podatkov
4. Izvedba sistema
5. Evalvacija in priprava priporočil