krog
Umetna inteligenca prinaša tudi priložnosti na področju informacijske varnosti
Nova Gorica, 5. septembra - Umetna inteligenca na eni strani prinaša nova tveganja na področju informacijske varnosti, saj lahko napadalci z njeno pomočjo hitreje ustvarjajo nove načine za napad. Vendar po drugi strani predstavlja tudi priložnost za hitrejši razvoj novih načinov zaščite, je bilo slišati na današnji okrogli mizi v okviru konference Infosek v Novi Gorici.
Nova Gorica.
Konferenca o informacijski varnosti Infosek.
Foto: Aljoša Rehar/STA
Arhiv STA
Umetna inteligenca prinaša marsikatera tveganja, saj jo lahko zlonamerni akterji med drugim uporabijo za ustvarjanje lažnih fotografij in posnetkov ter zlonamernih kod, je na okrogli mizi o tveganjih in priložnostih umetne inteligence dejal vodja razvoja poslovanja v podjetju NIL Branko Miličević. Tveganje lahko predstavlja tudi z vidika t. i. haluciniranja oziroma pretiranega zanašanja na umetno inteligenco.
Kljub temu pa predstavlja tudi priložnosti. V primeru kibernetskih napadov lahko pomaga pri predvidevanju in prepoznavanju tveganj, omogoča lahko hitrejše odzivanje na incidente ter ustvarjanje varne kode.
Kot je na okrogli mizi pojasnil Miličević, bodo napadalci s pomočjo umetne inteligence lahko hitreje razvili nove načine za napad, obenem pa bodo lahko v podjetjih z njeno pomočjo hitreje razvili nove načine zaščite.
Poleg Miličevića so na okrogli mizi direktorjev oddelkov za informacijske tehnologije sodelovali še Boris Vardjan (OTP banka), Matej Bregar (BTC), Tomaž Pihlar (Akrapovič), Boštjan Ključevšek (Agencija RS za kmetijske trge in razvoj podeželja) in Benjamin Voglar (Dravske elektrarne Maribor).
Kot so poudarili, tehnologija umetne inteligence ni nekaj novega in jo podjetja uporabljajo že vrsto let, recimo v obliki strojnega učenja. Generativno umetno inteligenco in velike jezikovne modele, kot je ChatGPT, medtem v nekaterih podjetjih uvajajo počasi in z določeno mero previdnosti. Tovrstno obliko umetne inteligence najpogosteje uporabljajo za ustvarjanje povzetkov dokumentov in iskanje po interni dokumentaciji.
Pri tem pozornost namenjajo tudi ozaveščanju zaposlenih. V družbi Dravske elektrarne Maribor so tako na željo poslovodstva izvedli predavanja za zaposlene, na katerih so jim predstavili osnove, prednosti in tudi tveganja, ki jih prinaša ta tehnologija, obenem pa tudi, katere podatke se lahko uporablja in katerih ne.
Nekateri sodelujoči na okrogli mizi in tudi predstavniki občinstva so izrazili pomisleke glede regulacije te tehnologije, kot je evropski akt o umetni inteligenci. Hekerji se je namreč ne bodo držali, zato je bilo slišati pomisleke, ali bodo podjetja lahko ostala korak pred napadalci.
Okrogla miza je potekala v okviru konference o informacijski varnosti Infosek, ki te dni poteka v Novi Gorici.