V veljavi akt o umetni inteligenci

Akt o umetni inteligenci določa harmonizirana pravila za dajanje na trg in za uporabo sistemov umetne inteligence v EU, prepovedi nekaterih praks umetne inteligence, posebne zahteve za visokotvegane sisteme umetne inteligence in obveznosti za operaterje takih sistemov.

Določa tudi harmonizirana pravila o preglednosti za nekatere sisteme umetne inteligence, harmonizirana pravila za dajanje na trg modelov umetne inteligence za splošne namene, pravila o spremljanju trga, nadzoru trga, upravljanju in izvrševanju ter ukrepe v podporo inovacijam s posebnim poudarkom na malih in srednjih podjetjih, vključno z zagonskimi podjetji, so spomnili na ministrstvu.

Cilj akta je po njihovih navedbah izboljšanje delovanja notranjega trga z določitvijo enotnega pravnega okvira, predvsem za razvoj, dajanje na trg, dajanje v uporabo ter za uporabo umetnointeligenčnih sistemov v EU, v skladu z vrednotami EU, da bi spodbujali uvajanje na človeka osredotočene in zaupanja vredne sisteme umetne inteligence in hkrati zagotovili visoko raven varovanja zdravja, varnosti in temeljnih pravic, kot so določene v listini EU o temeljnih pravicah, vključno z demokracijo, pravno državo in varstvom okolja.

Akt poleg zagotovil, da so sistemi umetne inteligence, ki se uporabljajo v EU, varni, pregledni, sledljivi, nediskriminatorni in okolju prijazni, prinaša tudi zaščito pred škodljivimi učinki sistemov umetne inteligence v EU.

"Generativna umetna inteligenca, kot je denimo ChatGPT, bo morala izpolnjevati zahteve po preglednosti, kot so razkritje, da je vsebino ustvarila umetna inteligenca, oblikovanje modela za preprečevanje ustvarjanja nezakonitih vsebin ter objava povzetkov avtorsko zaščitenih podatkov, ki jih uporablja za usposabljanje," so pojasnili na ministrstvu.

Uredba uvaja v prihodnost usmerjeno opredelitev umetne inteligence na podlagi pristopa, ki temelji na varnosti proizvodov in tveganju v EU, pa so danes sporočili iz Bruslja. Prvi pristop je vezan na minimalno tveganje, kamor sodi večina umetnointeligenčnih sistemov. Ti sistemi zaradi minimalnega tveganja za pravice in varnost državljanov nimajo obveznosti v skladu z aktom, podjetja pa lahko prostovoljno sprejmejo dodatne kodekse ravnanja.

Drugi pristop se nanaša na posebno tveganje v zvezi s preglednostjo. Sem sodijo umetnointeligenčni sistemi, kot so klepetalni boti, ki morajo uporabnikom jasno razkriti, da so v stiku s strojem.

Tretji pristop opredeljuje umetnointeligenčne sisteme oz. sisteme velikega tveganja, ki bodo morali izpolnjevati stroge zahteve, vključno s sistemi za zmanjševanje tveganja, visoko kakovostjo naborov podatkov, beleženjem dejavnosti, podrobno dokumentacijo, jasnimi informacijami za uporabnike, človeškim nadzorom ter visoko stopnjo robustnosti, točnosti in kibernetske varnosti.

Četrti pristop pa se dotika umetnointeligenčnih sistemov, ki veljajo za očitno grožnjo temeljnim pravicam ljudi, in bodo prepovedani.

Kot so ob današnji priložnosti zapisali na nevladnem inštitutu Danes je nov dan, so tako kot druge civilnodružbene organizacije razočarani, da EU z aktom ni ubrala pristopa, ki bi bolj temeljil na človekovih pravicah, "a končna verzija po njihovem mnenju kljub temu vsebuje več možnih smeri za pozitivne spremembe".

Akt o umetni inteligenci obljube, da bo v središče postavil ljudi in njihove pravice, po njihovih besedah ne izpolnjuje v celoti, zato bodo v civilnodružbeni koaliciji še naprej delali na čim bolj smotrni implementaciji teh pravil. Nadaljevali bodo s prizadevanji za aktivno vlogo civilne družbe in za vsebinsko vključevanje vseh, ki jih uporaba umetnointeligenčnih sistemov zadeva, še posebej manjšinskih skupin, so napovedali.

Medtem ko se delo na področju umetne inteligence preveša v naslednjo fazo, so odločevalce pozvali, naj zagotovijo robustno in na človekovih pravicah temelječo implementacijo akta na ravni EU in nacionalnih ravneh; proaktivne ukrepe za zapolnitev vrzeli, ki jih pušča akt; dodatne nacionalne prepovedi ali omejitve za nesprejemljivo in škodljivo umetno inteligenco; hitro zaustavitev neskladnih rab umetne inteligence ter "resnično transparentne in vključujoče procese".

Evropska komisija je prvi regulativni okvir za umetno inteligenco predlagala aprila 2021. Akt o umetni inteligenci, 12. julija objavljen v Uradnem listu EU, se bo sicer v celoti začel uporabljati 2. avgusta 2026, pri čemer bodo določbe o priglašenih organih in strukturi upravljanja v uporabi od 2. avgusta 2025.

V premostitvenem obdobju Evropska komisija začenja izvajati pakt za umetno inteligenco, ki razvijalce umetne inteligence poziva, naj prostovoljno sprejmejo ključne obveznosti iz akta pred zakonskimi roki.

Države članice morajo akt v svoje nacionalne zakonodaje implementirati v roku enega leta.