Krmarjenje po aktu o umetni inteligenci

Akt o umetni inteligenci je prvi celovit zakon o umetni inteligenci na svetu. Njegov cilj je obravnavati tveganja za zdravje, varnost in temeljne pravice. Namen uredbe je tudi zaščititi demokracijo, pravno državo in okolje. 

Uvajanje umetnointeligenčnih sistemov in umetnointeligenčnih modelov za splošne namene ima velik potencial, da prinese družbene koristi in gospodarsko rast ter okrepi inovacije EU in svetovno konkurenčnost. Vendar lahko v nekaterih primerih posebne značilnosti nekaterih umetnointeligenčnih sistemov in umetnointeligenčnih modelov za splošne namene ustvarijo nova tveganja, povezana z varnostjo uporabnikov, vključno s fizično varnostjo, in temeljnimi pravicami. Nekateri modeli umetne inteligence za splošne namene, najnaprednejši, bi lahko pomenili celo tako imenovana „sistemska tveganja“.

To povzroča pravno negotovost in potencialno počasnejše uvajanje tehnologij umetne inteligence s strani javnih organov, podjetij in državljanov zaradi pomanjkanja zaupanja. Različni regulativni odzivi nacionalnih organov bi lahko povzročili razdrobljenost notranjega trga.

V odziv na te izzive so bili potrebni zakonodajni ukrepi za zagotovitev dobro delujočega notranjega trga umetnointeligenčnih sistemov in umetnointeligenčnih modelov za splošne namene, na katerem se ustrezno obravnavajo tveganja in upoštevajo koristi.

Pravni okvir se uporablja za javne in zasebne akterje v EU in zunaj nje, ki dajo umetnointeligenčni sistem ali model umetne inteligence za splošne namene na trg EU ali dajo umetnointeligenčni sistem v uporabo ali ga uporabljajo v EU. 

Obveznosti se med drugim uporabljajo za ponudnike (npr. razvijalca orodja za pregledovanje življenjepisov) in uvajalce umetnointeligenčnih sistemov (npr. banko, ki uporablja to orodje za pregledovanje) ter ponudnike umetnointeligenčnih modelov za splošne namene. Uredba vsebuje nekatere izjeme. Ta uredba ne velja za dejavnosti raziskav, razvoja in izdelave prototipov, ki se izvajajo pred dajanjem umetnointeligenčnega sistema ali modela na trg. Izvzeti so tudi umetnointeligenčni sistemi, ki so zasnovani izključno za vojaške ali obrambne namene ali namene nacionalne varnosti, ne glede na vrsto subjekta, ki izvaja te dejavnosti.

Akt o umetni inteligenci uvaja enoten pristop k umetni inteligenci, ki temelji na tveganju,v vseh državah članicah EU.

Prepovedani umetnointeligenčni sistemi

 Omejen sklop posebej škodljivih uporab umetnointeligenčnih sistemov je prepovedan, saj so v nasprotju z vrednotami EU, saj kršijo temeljne pravice: 

• Izkoriščanje ranljivosti oseb, manipulacija in uporaba subliminalnih tehnik
• Socialno točkovanje za javne in zasebne namene
• Individualno napovedno policijsko delo, ki temelji izključno na profiliranju ljudi
• Neciljno strganje po internetu ali CCTV za podobe obraza za vzpostavitev ali razširitev podatkovnih zbirk
• Priznavanje čustev na delovnem mestu in v izobraževalnih ustanovah, razen iz zdravstvenih ali varnostnih razlogov (tj. spremljanje stopnje utrujenosti pilota)
• Biometrična kategorizacija fizičnih oseb za sklepanje ali sklepanje o njihovi rasi, političnem prepričanju, članstvu v sindikatu, verskem ali filozofskem prepričanju ali spolni usmerjenosti. Označevanje ali filtriranje naborov podatkov in kategorizacija podatkov bosta še vedno mogoča
• Biometrične identifikacije na daljavo v realnem času v javno dostopnih prostorih za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj, ob upoštevanju ozkih izjem (glej spodaj)
• Nudifikacijske aplikacije ali umetnointeligenčni sistemi, ki ustvarjajo spolno eksplicitne in intimne vsebine brez privolitve ali posnetke spolne zlorabe otrok 

Komisija je izdala smernice o prepovedanih praksah umetne inteligence in smernice o opredelitvi umetnointeligenčnega sistema iz akta o umetni inteligenci. V njih so navedena pravna pojasnila in praktični primeri za pomoč deležnikom pri izpolnjevanju teh pravil. 

Umetnointeligenčni sistemi velikega tveganja

V aktu o umetni inteligenci je omejeno število umetnointeligenčnih sistemov obravnavano kot sistemi velikega tveganja, saj lahko negativno vplivajo na varnost ljudi ali njihove temeljne pravice (kot so zaščitene z Listino EU o temeljnih pravicah). Aktu so priloženi seznami umetnointeligenčnih sistemov velikega tveganja, ki jih je mogoče pregledati, da se uskladijo z razvojem primerov uporabe umetne inteligence. 

Umetnointeligenčni sistemi velikega tveganja vključujejo na primer umetnointeligenčne sisteme, ki ocenjujejo, ali je nekdo sposoben prejeti določeno zdravljenje, dobiti določeno službo ali posojilo za nakup stanovanja. Drugi umetnointeligenčni sistemi velikega tveganja so tisti, ki jih policija uporablja za oceno tveganja storitve kaznivega dejanja (razen če so prepovedani v skladu s členom 5).

Umetnointeligenčni sistemi velikega tveganja vključujejo tudi varnostne komponente proizvodov, zajetih v sektorski zakonodaji Unije, ali umetnointeligenčne sisteme, ki sami sestavljajo take proizvode. Pri ugotavljanju skladnosti s strani tretjih oseb v skladu z navedeno sektorsko zakonodajo se bodo vedno šteli za visoko tvegane. To bi lahko na primer vključevalo umetnointeligenčne sisteme, ki upravljajo robote, brezpilotne zrakoplove ali medicinske pripomočke.

Zahteve glede preglednosti za nekatere umetnointeligenčne sisteme

Za spodbujanje zaupanja je pomembno zagotoviti preglednost v zvezi z umetnim izvorom nekaterih vsebin ali interakcij umetne inteligence. Akt o umetni inteligenci zato uvaja posebne zahteve glede preglednosti za ponudnike ali uvajalce nekaterih interaktivnih ali generativnih umetnointeligenčnih sistemov (npr. klepetalnih botov ali globokih ponaredkov). Namen teh zahtev glede preglednosti je obravnavati tveganja napačnih informacij in manipulacij, goljufij, lažnega predstavljanja in zavajanja potrošnikov. 

Umetnointeligenčni sistemi z minimalnim tveganjem

Večino umetnointeligenčnih sistemov je mogoče razviti in uporabljati v skladu z veljavno zakonodajo brez dodatnih pravnih obveznosti. 

Umetnointeligenčni modeli za splošne namene

Akt o umetni inteligenci ureja tudi umetnointeligenčne modele za splošne namene. Uporabljajo se lahko za različne naloge in postajajo podlaga za številne umetnointeligenčne sisteme v EU. Ponudniki umetnointeligenčnih modelov za splošne namene morajo dokumentirati nekatere informacije (razen če izpolnjujejo pogoje za odprtokodno izjemo) in sprejeti ukrepe, s katerimi zagotovijo, da spoštujejo pravo EU o avtorski in sorodnih pravicah.

Najnaprednejši med modeli GPAI bi lahko predstavljali tudi sistemska tveganja. Zmogljivi modeli bi lahko na primer omogočili kemične, biološke, radiološke ali jedrske napade ali obsežne napredne kibernetske napade, se izognili človeškemu nadzoru ali omogočili strateško izkrivljanje človekovega vedenja ali prepričanj. Ponudniki umetnointeligenčnih modelov za splošne namene s sistemskimi tveganji morajo poleg tega oceniti in zmanjšati sistemska tveganja.

Akt o umetni inteligenci vzpostavlja pravni okvir, ki se odziva na nov razvoj, ga je enostavno in hitro prilagoditi ter omogoča pogosto ocenjevanje. Uredba določa zahteve in obveznosti, usmerjene v rezultate, vendar prepušča konkretne tehnične rešitve in operacionalizacijo industrijskim standardom in kodeksom ravnanja, ki so prožni, da jih je mogoče prilagoditi različnim primerom uporabe in omogočiti nove tehnološke rešitve. 

Akt o umetni inteligenci se lahko spremeni z delegiranimi in izvedbenimi akti, na primer za pregled seznama primerov uporabe z visokim tveganjem iz Priloge III. Pogosto se bodo ocenjevali nekateri deli akta o umetni inteligenci in sčasoma celotna uredba, s čimer se bo zagotovila opredelitev morebitne potrebe po reviziji in spremembah. 

V skladu z aktom o umetni inteligenci bodo za umetnointeligenčne sisteme velikega tveganja veljale posebne zahteve. Evropski harmonizirani standardi bodo zagotovili podrobne specifikacije za izvajanje in skladnost z zahtevami z visokim tveganjem. Za ponudnike, ki razvijajo umetnointeligenčni sistem velikega tveganja v skladu s harmoniziranimi standardi, bo veljala domneva o skladnosti. 

Evropska komisija je maja 2023 evropski organizaciji za standardizacijo CEN in CENELEC pooblastila za razvoj standardov za te zahteve z visokim tveganjem. Ta mandat je bil spremenjen junija 2025, da bi se uskladil s končnim besedilom akta o umetni inteligenci. CEN in CENELEC standardov nista mogla razviti v zahtevanem časovnem okviru iz avgusta 2025. Delo na področju standardizacije še poteka.

Standardi so prostovoljni, vendar odločilni za pravno varnost. Podjetjem pomagajo razumeti, kaj morajo storiti, organi pa vedo, kaj morajo preveriti. Zapoznela razpoložljivost standardov ogroža uspešen začetek uporabe pravil o visokem tveganju 2. avgusta 2026. Zbirni akt o umetni inteligenci zato podaljšuje časovni okvir do 2. decembra 2027 za umetnointeligenčne sisteme velikega tveganja in do 2. avgusta 2028 za umetno inteligenco, vgrajeno v proizvode, da se omogoči več časa za učinkovito izvajanje pravil z jasnimi standardi (glej predlog omnibus za digitalno tehnologijo). 

Priložnosti in učinki umetne inteligence presegajo meje. Izzivi so globalni, zato je sodelovanje pomembno in potrebno. Urad za umetno inteligenco vodi mednarodno sodelovanje Komisije na področju umetne inteligence na podlagi akta o umetni inteligenci in usklajenega načrta za umetno inteligenco. EU si prizadeva:

• voditi svetovna prizadevanja na področju umetne inteligence s podpiranjem inovacij, vzpostavitvijo ustreznih zaščitnih ukrepov za umetno inteligenco in razvojem globalnega upravljanja umetne inteligence; 
• Spodbujanje odgovornega upravljanja in dobrega upravljanja umetne inteligence
• Zagotovitev, da so mednarodni sporazumi usklajeni z našim pristopom 

Ker se svetovno okolje spreminja, je proaktivno sodelovanje na področju umetne inteligence, ki je tesno usklajeno z našimi zavezniki, postalo bistvena in vse večja prednostna naloga. EU je proaktivna, kooperativna in zanesljiva partnerica, ki daje zgled in sodeluje na mednarodni ravni, hkrati pa ščiti svoje interese, varnost in vrednote.

Dvostransko in večstransko si prizadeva za spodbujanje zaupanja vredne umetne inteligence, osredotočene na človeka. EU dvostransko sodeluje z vse večjim številom držav in regij, kot so Kanada, ZDA, Indija, Japonska, Republika Koreja, Singapur, Avstralija, Združeno kraljestvo, regija Latinske Amerike in Karibov, Afrika itd. Večstransko sodeluje v ključnih forumih in pobudah, na katerih se razpravlja o umetni inteligenci, zlasti v okviru skupin G7, G20, OECD in svetovnega partnerstva za umetno inteligenco, Sveta Evrope, Mednarodne mreže za napredno merjenje, ocenjevanje in znanost na področju umetne inteligence, pa tudi v okviru Združenih narodov.

EU gradi na strateških prednostih in prednostih, kot so talenti, raziskave, industrijska moč in velik enotni trg z enotnimi pravili, ter jih mednarodno uveljavlja kot del tehnološke ponudbe EU za vzpostavitev vzajemno koristnih partnerstev in zavezništev po vsem svetu.

Akt o umetni inteligenci določa trdno metodologijo za razvrstitev umetnointeligenčnih sistemov med sisteme velikega tveganja. Namen tega je zagotoviti pravno varnost za podjetja in druge subjekte.

Razvrstitev glede na tveganje temelji na predvidenem namenu umetnointeligenčnega sistema v skladu z veljavno zakonodajo EU o varnosti proizvodov. To pomeni, da je razvrstitev odvisna od funkcije, ki jo opravlja umetnointeligenčni sistem, ter od posebnega namena in načinov, za katere se sistem uporablja.

Umetnointeligenčni sistemi se lahko razvrstijo kot sistemi velikega tveganja v dveh primerih: 

• če je umetnointeligenčni sistem vgrajen kot varnostna komponenta v proizvode, zajete v obstoječi zakonodaji o proizvodih (Priloga I), ali sam predstavlja take proizvode. To bi lahko bila na primer medicinska programska oprema, ki temelji na umetni inteligenci. 
• Če je umetnointeligenčni sistem predviden za uporabo v primeru velikega tveganja iz Priloge III k aktu o umetni inteligenci. Seznam vključuje primere uporabe na področjih, kot so izobraževanje, zaposlovanje, kazenski pregon ali migracije. Komisija ga vsako leto pregleda in ga lahko posodobi.

Komisija pripravlja smernice za razvrstitev glede na visoko tveganje, ki bodo objavljene pred datumom začetka uporabe teh pravil.

Priloga III k aktu o umetni inteligenci zajema osem področij, na katerih je lahko uporaba umetne inteligence še posebej občutljiva, in navaja konkretne primere uporabe za vsako področje. Umetnointeligenčni sistem se razvrsti kot sistem velikega tveganja, če je namenjen uporabi v enem od teh primerov uporabe. Nekaj primerov:

• umetnointeligenčni sistemi, ki se uporabljajo kot varnostne komponente v nekaterih kritičnih infrastrukturah. Na primer na področju cestnega prometa ter oskrbe z vodo, plinom, ogrevanjem in električno energijo.
• umetnointeligenčni sistemi, ki se uporabljajo za nekatere naloge v izobraževanju in poklicnem usposabljanju. Npr. za ocenjevanje učnih rezultatov ter usmerjanje učnega procesa in spremljanje goljufanja.
• umetnointeligenčni sistemi, ki se uporabljajo za nekatere naloge pri zaposlovanju in upravljanju delavcev ter dostopu do samozaposlitve. Npr. objavljanje ciljno usmerjenih oglasov za delovna mesta, analiziranje in filtriranje prijav za zaposlitev ter ocenjevanje kandidatov.
• umetnointeligenčni sistemi, ki se uporabljajo pri dostopu do bistvenih zasebnih in javnih storitev in koristi (npr. zdravstvenega varstva), oceni kreditne sposobnosti fizičnih oseb ter oceni tveganja in oblikovanju cen v zvezi z življenjskim in zdravstvenim zavarovanjem.
• umetnointeligenčni sistemi, ki se uporabljajo za nekatere naloge na področju preprečevanja, odkrivanja in preiskovanja kaznivih dejanj, migracij in nadzora meja, če še niso prepovedani, ter pri izvajanju sodne oblasti in demokratičnih procesov.
• umetnointeligenčni sistemi, ki se uporabljajo za biometrično identifikacijo, biometrično kategorizacijo in prepoznavanje čustev, če niso prepovedani.

Ponudniki morajo za umetnointeligenčni sistem velikega tveganja, preden ga dajo na trg EU ali kako drugače v uporabo, opraviti ugotavljanje skladnosti. To jim bo omogočilo, da dokažejo, da njihov sistem izpolnjuje obvezne zahteve za zaupanja vredno umetno inteligenco (npr. obvladovanje tveganja, kakovost podatkov, dokumentacija in sledljivost, preglednost, človeški nadzor, točnost, kibernetska varnost in robustnost). To oceno je treba ponoviti, če se sistem ali njegov namen bistveno spremeni. Glede na vrsto umetnointeligenčnega sistema velikega tveganja bo morda moral ugotavljanje skladnosti izvesti neodvisni organ za ugotavljanje skladnosti. Ponudniki umetnointeligenčnih sistemov velikega tveganja bodo morali izvajati tudi sisteme upravljanja kakovosti, da bi zagotovili njihovo skladnost z novimi zahtevami ter čim bolj zmanjšali tveganja za uporabnike in prizadete osebe v celotnem življenjskem ciklu umetnointeligenčnega sistema.

Da bi omogočili nadzor in zagotovili javno preglednost, morajo ponudniki umetnointeligenčnih sistemov velikega tveganja sistem registrirati v javni podatkovni zbirki EU.

Ponudniki umetnointeligenčnih sistemov velikega tveganja so še naprej odgovorni za varnost in skladnost sistema v njegovem celotnem življenjskem ciklu. Po potrebi morajo poročati o resnih zapletih in se nanje odzvati, v primeru ugotovljenih tveganj ali neskladnosti sprejeti popravne ukrepe, zagotoviti informacije in sodelovati z organi za nadzor trga.

Kot izhodišče morajo uvajalci umetnointeligenčni sistem velikega tveganja uporabljati v skladu z navodili za uporabo in v ta namen uporabiti vsa tehnična sredstva. Uvajalci umetnointeligenčnih sistemov velikega tveganja morajo na podlagi navodil za uporabo spremljati delovanje umetnointeligenčnega sistema in ukrepati v zvezi z ugotovljenimi tveganji ali resnimi incidenti. Uvajalci morajo človeški nadzor dodeliti osebi v svoji organizaciji. Ta(-e) oseba(-e) mora(-jo) biti ustrezno opremljena(-e) in sposobna(-e) izvajati človeški nadzor. Kadar uvajalec zagotavlja vhodne podatke za umetnointeligenčni sistem velikega tveganja, akt o umetni inteligenci zahteva, da morajo biti vhodni podatki ustrezni in dovolj reprezentativni za predvideni namen umetnointeligenčnega sistema.

Uvajalci, ki so javni organi ali zagotavljajo javne storitve, morajo pred prvo uporabo izvesti oceno učinka na temeljne pravice.

Poleg tega ima lahko uvajalec obveznosti obveščanja: 

• Umetnointeligenčni sistemi velikega tveganja, ki jih uvajajo javni organi ali subjekti, ki delujejo v njihovem imenu, bodo morali biti registrirani v javni podatkovni zbirki EU, razen umetnointeligenčnih sistemov velikega tveganja za kritično infrastrukturo. Umetnointeligenčni sistemi, ki se uporabljajo za preprečevanje, odkrivanje in preiskovanje kaznivih dejanj ter migracije, morajo biti registrirani v nejavnem delu podatkovne zbirke, ki bo dostopen le ustreznim nadzornim organom.
• Če se umetnointeligenčni sistem velikega tveganja uvede na delovnem mestu, morajo uvajalci o tem predhodno obvestiti prizadete zaposlene in predstavnike delavcev. To dopolnjuje pravila o posvetovanju z delavci, ki se morda že uporabljajo. 
• Če je umetnointeligenčni sistem velikega tveganja zasnovan za sprejemanje odločitev ali pomoč pri sprejemanju odločitev o fizičnih osebah, mora uvajalec o tem obvestiti zadevno osebo.

Akt o umetni inteligenci uvaja tudi pravico fizičnih oseb do pojasnila. To velja, kadar je bil rezultat umetnointeligenčnega sistema velikega tveganja uporabljen za sprejetje odločitve o fizični osebi in ima ta odločitev pravne učinke. Uvajalci umetnointeligenčnih sistemov velikega tveganja morajo to možnost upoštevati ter v primeru zahteve prizadeti osebi zagotoviti jasno in smiselno razlago.

Preskušanje umetnointeligenčnih sistemov velikega tveganja v resničnem svetu se lahko izvaja največ 6 mesecev (to obdobje se lahko podaljša za nadaljnjih 6 mesecev). Pred preskušanjem je treba pripraviti načrt in ga predložiti organu za nadzor trga, ki mora načrt in posebne pogoje preskušanja odobriti s privzetim tihim soglasjem, če v 30 dneh ni odgovora. Preskušanje lahko organ nenapovedano pregleda.

Testiranje v resničnem svetu se lahko izvaja le ob posebnih zaščitnih ukrepih, npr. uporabniki sistemov, ki se testirajo v resničnem svetu, morajo zagotoviti informirano privolitev, testiranje ne sme imeti negativnega učinka nanje, rezultati morajo biti reverzibilni ali neupoštevni, njihove podatke pa je treba po zaključku testiranja izbrisati. Posebno zaščito je treba zagotoviti ranljivim skupinam, npr. zaradi njihove starosti, telesne ali duševne prizadetosti.

Umetnointeligenčni sistemi ne ustvarjajo ali reproducirajo pristranskosti. Če so umetnointeligenčni sistemi ustrezno zasnovani in uporabljeni, lahko prispevajo k zmanjšanju pristranskosti in obstoječe strukturne diskriminacije ter tako vodijo k pravičnejšim in nediskriminatornim odločitvam (npr. pri zaposlovanju).

V ta namen bodo veljale nove obvezne zahteve za vse umetnointeligenčne sisteme velikega tveganja. Umetnointeligenčni sistemi morajo biti tehnično zanesljivi, da se zagotovi, da ustrezajo svojemu namenu in ne dajejo pristranskih rezultatov, kot so lažno pozitivni ali negativni rezultati, ki nesorazmerno vplivajo na marginalizirane skupine, vključno s tistimi, ki temeljijo na rasi ali narodnosti, spolu, starosti in drugih zaščitenih značilnostih.

Sisteme z visokim tveganjem bo treba usposobiti in preskusiti tudi z dovolj reprezentativnimi nabori podatkov, da se čim bolj zmanjša tveganje nepravične pristranskosti, ki je vgrajena v model, in zagotovi, da jih je mogoče obravnavati z ustreznimi ukrepi za odkrivanje in odpravljanje pristranskosti ter drugimi blažilnimi ukrepi. Prav tako morajo biti sledljivi in preverljivi , pri čemer je treba zagotoviti, da se hrani ustrezna dokumentacija, vključno s podatki, uporabljenimi za učenje algoritma, ki bi bil ključen pri naknadnih preiskavah.

Sisteme skladnosti je treba redno spremljati in takoj obravnavati morebitna tveganja, in sicer pred dajanjem na trg in po njem.

Biometrična identifikacija ima lahko različne oblike. Biometrična avtentikacija in preverjanje, tj. za odklepanje pametnega telefona ali preverjanje/avtentikacijo na mejnih prehodih za preverjanje identitete osebe v njenih potnih listinah (ena proti ena), ostajata neregulirana, ker ne predstavljata znatnega tveganja za temeljne pravice.

Nasprotno pa lahko biometrična identifikacija na daljavo (npr. za identifikacijo ljudi v množici) znatno vpliva na zasebnost v javnem prostoru. Na natančnost sistemov za prepoznavanje obrazov lahko pomembno vplivajo številni dejavniki, kot so kakovost kamere, svetloba, razdalja, podatkovna zbirka, algoritem in etnična pripadnost subjekta, starost ali spol. Enako velja za prepoznavanje hoje in govora ter druge biometrične sisteme. 

Medtem ko se lahko 99-odstotna stopnja natančnosti na splošno zdi dobra, je precej tvegana, če lahko rezultat privede do suma nedolžne osebe. Tudi 0,1-odstotna stopnja napake ima lahko znaten vpliv, če se uporablja za velike populacije, na primer na železniških postajah.

Uporaba biometrične identifikacije na daljavo v realnem času v javno dostopnih prostorih (tj. prepoznavanje obrazov z uporabo CCTV) za namene preprečevanja, odkrivanja in preiskovanja kaznivih dejanj je prepovedana. Države članice lahko z zakonom uvedejo izjeme, ki bi omogočale uporabo biometrične identifikacije na daljavo v realnem času v naslednjih primerih:

• Dejavnosti kazenskega pregona v zvezi s 16 opredeljenimi zelo hudimi kaznivimi dejanji
• Ciljno usmerjeno iskanje določenih žrtev, ugrabitev, trgovine z ljudmi in spolnega izkoriščanja ljudi ter pogrešanih oseb
• Preprečevanje ogrožanja življenja ali fizične varnosti oseb ali terorističnega napada

Vsaka izjemna uporaba bi morala biti potrebna in sorazmerna ter bi jo moral predhodno odobriti sodni ali neodvisni upravni organ, katerega odločitev je zavezujoča. V nujnih primerih se lahko zahteva odobritev v 24 urah. Če se avtorizacija zavrne, je treba izbrisati vse podatke in rezultate uporabe.

O uporabi biometrične identifikacije na daljavo v realnem času bi bilo treba uradno obvestiti ustrezni organ za nadzor trga in organ za varstvo podatkov. 

Uporaba umetnointeligenčnih sistemov za naknadno biometrično identifikacijo na daljavo (identifikacija oseb v predhodno zbranem gradivu) preiskovanih oseb ni prepovedana, vendar je zanjo potrebno predhodno dovoljenje pravosodnega ali upravnega organa ter uradno obvestilo ustreznemu organu za varstvo podatkov in nadzor trga.

Na ravni EU in držav članic že obstaja močno varstvo temeljnih pravic in nediskriminacije, vendar lahko kompleksnost in nepreglednost nekaterih aplikacij umetne inteligence („črne skrinjice“) pomenita težavo.

Pristop k umetni inteligenci, osredotočen na človeka, pomeni zagotoviti, da so aplikacije umetne inteligence skladne z zakonodajo o temeljnih pravicah. Z vključitvijo zahtev glede odgovornosti in preglednosti v razvoj umetnointeligenčnih sistemov velikega tveganja in izboljšanjem zmogljivosti izvrševanja lahko zagotovimo, da bodo ti sistemi že od samega začetka zasnovani ob upoštevanju pravne skladnosti. Kadar pride do kršitev, bodo take zahteve nacionalnim organom omogočile dostop do informacij, potrebnih za preiskavo, ali je uporaba umetne inteligence v skladu s pravom EU.

Akt o umetni inteligenci zahteva, da nekateri uvajalci umetnointeligenčnih sistemov velikega tveganja izvedejo oceno učinka na temeljne pravice. 

Ponudniki umetnointeligenčnih sistemov velikega tveganja morajo izvesti oceno tveganja in sistem zasnovati tako, da so tveganja za zdravje, varnost in temeljne pravice čim manjša.

Vendar je mogoče nekatera tveganja za temeljne pravice v celoti opredeliti le ob poznavanju konteksta uporabe umetnointeligenčnega sistema velikega tveganja. Kadar se umetnointeligenčni sistemi velikega tveganja uporabljajo na posebej občutljivih področjih morebitne asimetrije moči, so potrebni dodatni premisleki o takih tveganjih.

Zato uvajalci, ki so organi javnega prava ali zasebni operaterji, ki zagotavljajo javne storitve, ter operaterji, ki zagotavljajo umetnointeligenčne sisteme velikega tveganja ter izvajajo ocene kreditne sposobnosti ali cene in tveganja na področju življenjskega in zdravstvenega zavarovanja, izvedejo oceno učinka na temeljne pravice in nacionalni organ uradno obvestijo o rezultatih.

V praksi bodo morali številni uvajalci izvesti tudi oceno učinka v zvezi z varstvom podatkov. Da bi se izognili vsebinskemu prekrivanju v takih primerih, se ocena učinka na temeljne pravice izvede v povezavi s to oceno učinka v zvezi z varstvom podatkov.

Umetnointeligenčni modeli za splošne namene, vključno z generativnimi umetnointeligenčnimi modeli, se lahko uporabljajo za različne naloge. Lahko se vključijo v veliko število umetnointeligenčnih sistemov.

Ponudnik umetnointeligenčnega sistema, ki vključuje umetnointeligenčni model za splošne namene, mora imeti dostop do potrebnih informacij za to in zagotoviti, da je sistem skladen z aktom o umetni inteligenci. Akt o umetni inteligenci ponudnike takih modelov zavezuje, da dokumentirajo tehnične informacije o modelih in nekatere informacije razkrijejo ponudnikom sistemov nižje v prodajni verigi. Takšna preglednost omogoča boljše razumevanje teh modelov.

Ponudniki modelov morajo imeti vzpostavljene politike za zagotavljanje skladnosti z zakonodajo EU o avtorskih in sorodnih pravicah. Zlasti za opredelitev in upoštevanje pridržkov v zvezi s pravicami v okviru izjeme glede besedilnega in podatkovnega rudarjenja. Ponudniki morajo objaviti tudi povzetek vsebine, uporabljene za učenje modela, na podlagi predloge urada za umetno inteligenco.

Najnaprednejši od teh modelov bi lahko pomenil sistemska tveganja. Trenutno se domneva, da umetnointeligenčni modeli za splošne namene, naučeni z uporabo skupne količine računalniških virov, ki presega 10 ^ 25 FLOP (operacije s plavajočo vejico), predstavljajo sistemska tveganja. Komisija lahko ta prag posodobi glede na tehnološki razvoj. Komisija lahko na zahtevo ponudnika ovrže tudi domnevo, da model, ki presega prag FLOP, predstavlja sistemsko tveganje, če se model ne šteje za enega najnaprednejših. Komisija lahko modele pod pragom FLOP določi tudi kot umetnointeligenčne modele za splošne namene s sistemskim tveganjem na podlagi meril iz Priloge XIII k aktu o umetni inteligenci.

Ponudniki modelov s sistemskim tveganjem morajo ta tveganja oceniti in ublažiti, tudi z izvajanjem najsodobnejših ocen modelov, poročanjem o resnih incidentih ter zagotavljanjem ustrezne kibernetske varnosti svojih modelov in fizične infrastrukture.

Da bi podprla ponudnike pri izpolnjevanju teh obveznosti, je Komisija olajšala razvoj kodeksa ravnanja za umetno inteligenco za splošne namene. Kodeks ravnanja GPAI je prostovoljno orodje, ki so ga v postopku z več deležniki pripravili neodvisni strokovnjaki in je namenjeno pomoči industriji pri izpolnjevanju obveznosti iz akta o umetni inteligenci za ponudnike umetnointeligenčnih modelov za splošne namene. Kodeks dopolnjujejo smernice Komisije o obsegu obveznosti ponudnikov umetnointeligenčnih modelov za splošne namene v skladu z aktom o umetni inteligenci.

V prvem kodeksu ravnanja za umetno inteligenco za splošne namene so podrobno opisana pravila akta o umetni inteligenci za ponudnike umetnointeligenčnih modelov za splošne namene in umetnointeligenčnih modelov za splošne namene s sistemskimi tveganji. Kodeks ravnanja GPAI je prostovoljno orodje, ki so ga v postopku z več deležniki pripravili neodvisni strokovnjaki in je namenjeno pomoči industriji pri izpolnjevanju obveznosti iz akta o umetni inteligenci za ponudnike umetnointeligenčnih modelov za splošne namene.

Urad za umetno inteligenco je olajšal pripravo kodeksa. Procesu so predsedovali neodvisni strokovnjaki, v njem pa je sodelovalo skoraj 1000 deležnikov, pa tudi predstavniki držav članic EU ter evropski in mednarodni opazovalci. Komisija in Odbor za umetno inteligenco sta potrdila, da je kodeks ustrezno prostovoljno orodje, s katerim lahko ponudniki modelov GPAI dokažejo skladnost z aktom o umetni inteligenci.

Po potrditvi lahko ponudniki modela GPAI, ki ga prostovoljno podpišejo, z upoštevanjem kodeksa dokažejo, da ravnajo v skladu z aktom o umetni inteligenci. To bo zmanjšalo njihovo upravno breme in jim zagotovilo večjo pravno varnost, kot če bi skladnost dokazali z drugimi metodami. Kodeks dopolnjujejo smernice Komisije o ključnih konceptih, povezanih z umetnointeligenčnimi modeli za splošne namene.

Urad za umetno inteligenco bo po potrebi spodbujal in lajšal pregled in prilagoditev kodeksa, da se upoštevata tehnološki napredek in najsodobnejša tehnologija. Ko bo Urad za umetno inteligenco objavil harmonizirani standard in ga ocenil kot primernega za kritje ustreznih obveznosti, bi morala skladnost z evropskim harmoniziranim standardom ponudnikom omogočati domnevo o skladnosti.

Ponudniki umetnointeligenčnih modelov za splošne namene bi morali biti sposobni dokazati skladnost z alternativnimi ustreznimi sredstvi, če kodeksi ravnanja ali harmonizirani standardi niso na voljo ali če se odločijo, da se nanje ne bodo zanašali.

Akt o umetni inteligenci uvaja posebne zahteve glede preglednosti za ponudnike in uvajalce nekaterih interaktivnih ali generativnih umetnointeligenčnih sistemov (vključno s klepetalnimi boti ali globokimi ponaredki). Namen teh zahtev glede preglednosti je obravnavati tveganja napačnih informacij in manipulacij, goljufij, lažnega predstavljanja in zavajanja potrošnikov:

1. Ponudniki umetnointeligenčnih sistemov, ki so v neposredni interakciji s fizičnimi osebami, morajo te sisteme zasnovati in razviti tako, da so zadevne fizične osebe obveščene, da so v interakciji z umetnointeligenčnim sistemom.
2. Ponudniki generativnih umetnointeligenčnih sistemov morajo izhodne podatke o umetni inteligenci označiti v strojno berljivi obliki in zagotoviti, da jih je mogoče zaznati kot umetno ustvarjene ali prirejene. Tehnične rešitve morajo biti učinkovite, interoperabilne, zanesljive in zanesljive, kolikor je to tehnično izvedljivo, ob upoštevanju posebnosti in omejitev različnih vrst vsebin, stroškov izvajanja in splošno priznanega najnovejšega tehnološkega razvoja, kot se lahko odraža v ustreznih tehničnih standardih.
3. Uvajalci sistemov za prepoznavanje čustev ali biometrično kategorizacijo morajo zagotoviti, da so posamezniki, izpostavljeni tem sistemom, obveščeni.
4. Uvajalci generativnih umetnointeligenčnih sistemov, ki ustvarjajo ali manipulirajo slikovno, zvočno ali video vsebino, ki predstavlja globok ponaredek, morajo vidno ugotoviti, da je bila vsebina umetno ustvarjena ali manipulirana. Podobno morajo uvajalci umetnointeligenčnih sistemov, ki ustvarjajo ali manipulirajo z besedilom, objavljenim z namenom obveščanja javnosti o zadevah v javnem interesu, razkriti tudi, da je bilo besedilo umetno ustvarjeno ali manipulirano. 

Za vse navedene obveznosti glede preglednosti veljajo posebne izjeme.

Urad za umetno inteligenco bo izdal smernice za zagotavljanje dodatnih smernic ponudnikom in uvajalcem o obveznostih iz člena 50, ki se bodo začele uporabljati 2. avgusta 2026.

Urad za umetno inteligenco je začel postopek priprave kodeksa ravnanja o preglednosti vsebin, ustvarjenih z umetno inteligenco, da bi pomagal pri izpolnjevanju nekaterih od teh obveznosti glede preglednosti. Kodeks bodo pripravili neodvisni strokovnjaki, ki jih bo imenoval urad za umetno inteligenco, in sicer na podlagi vključujočega postopka. K pripravi kodeksa prispeva več kot 200 deležnikov iz različnih sektorjev. Končni kodeks bo, če ga bo odobrila Komisija, služil kot prostovoljno orodje za ponudnike in uvajalce generativnih umetnointeligenčnih sistemov, da dokažejo izpolnjevanje svojih obveznosti. 

Akt o umetni inteligenci se bo začel uporabljati dve leti po začetku veljavnosti 2. avgusta 2026, razen naslednjih posebnih določb:

• Prepovedi, opredelitve in določbe v zvezi z pismenostjo na področju umetne inteligence se uporabljajo od 2. februarja 2025. Komisija je objavila smernice o prepovedih in opredelitvah, pa tudi živi repozitorij praks opismenjevanja na področju umetne inteligence in posebna pogosta vprašanja.
• Pravila o upravljanju in obveznosti za umetno inteligenco za splošne namene so se začela uporabljati 2. avgusta 2025.
• Pravila za umetnointeligenčne sisteme velikega tveganja se bodo začela uporabljati 2. decembra 2027. Pravila o umetni inteligenci, vgrajeni v fizične proizvode (medicinske naprave, igrače, dvigala itd.), se bodo začela uporabljati 2. avgusta 2028.

Komisija je 19. novembra 2025 v okviru predloga omnibus za digitalno tehnologijo predlagala prilagoditev časovnega okvira za uporabo pravil z visokim tveganjem, tako da se datum začetka uporabe poveže z razpoložljivostjo podpornih ukrepov, kot so harmonizirani standardi, skupne specifikacije ali smernice Komisije.

Digitalni omnibus je začel veljati 27. julija 2026, kar je omogočilo podaljšanje teh rokov in s tem več časa za pripravo standardov in vzpostavitev pristojnih organov v državah članicah EU za nadzor izvajanja. 

Akt o umetni inteligenci vzpostavlja dvostopenjski sistem upravljanja, v katerem so pristojni nacionalni organi odgovorni za nadzor in izvrševanje pravil za umetnointeligenčne sisteme,urad za umetno inteligenco pa je odgovoren za upravljanje in izvrševanje obveznosti ponudnikov umetnointeligenčnih modelov za splošne namene in podskupine nekaterih umetnointeligenčnih sistemov. 

Evropski odbor za umetno inteligenco (v nadaljnjem besedilu: odbor za umetno inteligenco) je bil ustanovljen za zagotavljanje skladnosti in sodelovanja na ravni EU. Sestavljajo ga visoki predstavniki držav članic ter specializirane podskupine za nacionalne regulatorje in druge pristojne organe. 

Akt o umetni inteligenci ustanavlja dva svetovalna organa, ki zagotavljata strokovne prispevke: znanstveni odbor in svetovalni forum. Ti organi bodo ponudili dragocene vpoglede deležnikov in interdisciplinarnih znanstvenih skupnosti, ki bodo prispevali k odločanju in zagotovili uravnotežen pristop k razvoju umetne inteligence. 

Evropski odbor za umetno inteligenco sestavljajo visoki predstavniki držav članic in Evropski nadzornik za varstvo podatkov. Odbor za umetno inteligenco kot ključni svetovalec zagotavlja smernice o vseh zadevah, povezanih s politiko na področju umetne inteligence, zlasti o regulaciji umetne inteligence, politiki inovacij in odličnosti ter mednarodnem sodelovanju na področju umetne inteligence. 

Odbor za umetno inteligenco ima ključno vlogo pri zagotavljanju nemotenega, učinkovitega in usklajenega izvajanja akta o umetni inteligenci. Ima specializirane podskupine, ki jih sestavljajo tehnični strokovnjaki, nacionalni regulatorji in drugi pristojni organi. Odbor je forum, na katerem lahko regulativni organi za umetno inteligenco usklajujejo dosledno uporabo akta o umetni inteligenci. 

Države članice morajo določiti učinkovite, sorazmerne in odvračilne kazni za kršitve pravil za umetnointeligenčne sisteme. Uredba določa pragove, ki jih je treba upoštevati:

• Do 35 milijonov EUR ali 7 % skupnega svetovnega letnega prometa v preteklem poslovnem letu (kar je višje) za kršitve prepovedanih praks ali neskladnosti v zvezi z zahtevami glede podatkov
• Do 15 milijonov EUR ali 3 % skupnega svetovnega letnega prometa v preteklem poslovnem letu zaradi neizpolnjevanja katere koli druge zahteve ali obveznosti iz Uredbe
• Do 7,5 milijona EUR ali 1 % skupnega svetovnega letnega prometa v preteklem proračunskem letu za predložitev nepravilnih, nepopolnih ali zavajajočih informacij priglašenim organom in pristojnim nacionalnim organom v odgovor na zahtevo
• Za vsako kategorijo kršitev bi bil prag nižji od dveh zneskov za MSP in višji za druga podjetja.

Komisija lahko pravila o ponudnikih umetnointeligenčnih modelov za splošne namene izvršuje tudi z globami, pri čemer upošteva prag:

• do 15 milijonov EUR ali 3 % skupnega svetovnega letnega prometa v preteklem proračunskem letu zaradi neizpolnjevanja katere koli obveznosti ali ukrepov, ki jih zahteva Komisija v skladu z Uredbo.

Od institucij, agencij ali organov EU se pričakuje, da bodo dajali zgled, zato bodo zanje veljala tudi pravila in morebitne kazni. Evropski nadzornik za varstvo podatkov (ENVP) jim bo lahko v primeru neskladnosti naložil globe. 

Pakt za umetno inteligenco, ki se je začel izvajati maja 2023, spodbuja sodelovanje med uradom za umetno inteligenco in organizacijami (prvi steber) ter prostovoljno zavezo industrije, da bo začela izvajati zahteve akta o umetni inteligenci pred zakonskim rokom (drugi steber).

V okviru prvega stebra udeleženci prispevajo k oblikovanju sodelovalne skupnosti ter delijo svoje izkušnje in znanje. To vključuje spletne seminarje, ki jih organizira urad za umetno inteligenco in ki udeležencem omogočajo boljše razumevanje akta o umetni inteligenci, njihovih odgovornosti in tega, kako se pripraviti na njegovo izvajanje. Ti spletni seminarji pa uradu za umetno inteligenco omogočajo, da zbere vpogled v najboljše prakse in izzive, s katerimi se soočajo udeleženci.

V okviru stebra II se organizacije spodbuja, naj proaktivno razkrijejo postopke in prakse, ki jih izvajajo, da bi predvidele skladnost, in sicer s prostovoljnimi zavezami (PDF). Zaveze so mišljene kot „izjave o sodelovanju“ in bodo vsebovale ukrepe (načrtovane ali v teku) za izpolnitev nekaterih zahtev akta o umetni inteligenci.

Večina pravil akta o umetni inteligenci (na primer nekatere zahteve za umetnointeligenčne sisteme velikega tveganja) se bo uporabljala ob koncu prehodnega obdobja (tj. med začetkom veljavnosti in datumom začetka uporabe). V zvezi s tem in v okviru pakta za umetno inteligenco je urad za umetno inteligenco vse organizacije pozval, naj proaktivno predvidijo in izvajajo nekatere ključne določbe akta o umetni inteligenci, da bi čim prej zmanjšali tveganja za zdravje, varnost in temeljne pravice.

Na podlagi razpisa, objavljenega novembra 2023, je več kot 3 000 organizacij že izrazilo zanimanje za pridružitev pobudi pakta za umetno inteligenco. Prvo informativno srečanje je potekalo 6. maja prek spleta, udeležilo pa se ga je 300 udeležencev. Prostovoljne zaveze so bile uradno podpisane jeseni 2024, doslej pa jih je podpisalo več kot 230 podjetij. Urad za umetno inteligenco je 15. decembra 2025 zbral zaveze iz pakta za umetno inteligenco, da bi ocenil doseženi napredek.

Komisija je vzpostavila storitveni center za akt o umetni inteligenci in enotno informacijsko platformo. Obe sta bili uvedeni skupaj s strategijo za uporabo umetne inteligence in sta bili napovedani že v akcijskem načrtu za celino umetne inteligence. SIP zagotavlja vse ustrezne informacije, orodja za skladnost in prilagojene smernice o aktu o umetni inteligenci. Ponuja:

• Pogosta vprašanja in viri o aktu o umetni inteligenci
• preverjevalnik skladnosti, orodje, zasnovano za pomoč deležnikom pri ugotavljanju, ali zanje veljajo pravne obveznosti, in razumevanju ukrepov, ki jih morajo sprejeti za izpolnjevanje teh obveznosti;
• raziskovalec akta o umetni inteligenci, spletno orodje, zasnovano za pomoč uporabnikom pri intuitivnem brskanju po različnih poglavjih, prilogah in uvodnih izjavah akta o umetni inteligenci
• spletni obrazec deležnikom omogoča, da vprašanja predložijo storitvenemu centru za akt o umetni inteligenci – skupini strokovnjakov, ki tesno sodelujejo z uradom za umetno inteligenco.

Akt o umetni inteligenci lahko poveča uporabo umetne inteligence na dva načina:

1. Povečanje zaupanja uporabnikov bo povečalo povpraševanje po umetni inteligenci, ki jo uporabljajo podjetja in javni organi
2. z uskladitvijo pravil v vseh državah članicah EU bodo ponudniki umetne inteligence dostopali do večjih trgov s proizvodi, ki jih uporabniki in potrošniki cenijo in kupujejo.

Akt o umetni inteligenci je inovacijam prijazen. Pravila se bodo uporabljala le, kadar bo to nujno potrebno, in na način, ki bo čim bolj zmanjšal breme za gospodarske subjekte, z ohlapnejšo strukturo upravljanja. Akt o umetni inteligenci za MSP predvideva poenostavljene načine zagotavljanja skladnosti za nekatere obremenjujoče obveznosti, kot je tehnična dokumentacija. Da bi inovatorjem pustili prostor, so predvidene izjeme za raziskovalne in razvojne dejavnosti.

Akt o umetni inteligenci nadalje omogoča vzpostavitev regulativnih peskovnikov in  testiranja v resničnem svetu, ki zagotavljajo nadzorovano okolje za testiranje inovativnih tehnologij za omejen čas. Ti ukrepi spodbujajo inovacije podjetij, MSP in zagonskih podjetij ter bodo pomagali vzpostaviti prave okvirne pogoje za razvoj in uvajanje umetne inteligence. Dodatne pobude, ki podpirajo inovacije, vključujejo:

• Mreže centrov odličnosti na področju umetne inteligence
• Javno-zasebno partnerstvo za umetno inteligenco, podatke in robotiko
• Evropska vozlišča za digitalne inovacije
• Objekti za preizkušanje in eksperimentiranje

Cilj akta o umetni inteligenci je obravnavati tveganja za varnost in temeljne pravice, vključno s temeljno pravico do varstva okolja na visoki ravni. Okolje je tudi eden od izrecno navedenih in zaščitenih pravnih interesov.

Komisija namerava leta 2026 od evropskih organizacij za standardizacijo zahtevati, naj pripravijo standardizacijski dokument o postopkih poročanja in dokumentiranja za izboljšanje učinkovitosti virov umetnointeligenčnih sistemov. To vključuje zmanjšanje porabe energije in drugih virov umetnointeligenčnega sistema velikega tveganja v njegovem življenjskem ciklu ter energijsko učinkovit razvoj umetnointeligenčnih modelov za splošne namene.

Komisija je pozvana, naj predloži poročilo o napredku pri razvoju standardizacijskih dokumentov o energetsko učinkovitem razvoju modelov za splošne namene in oceni potrebo po nadaljnjih ukrepih ali dejavnostih (vključno z zavezujočimi). Ta obveznost se začne dve leti po datumu začetka uporabe akta o umetni inteligenci in se nato izvaja vsaka štiri leta.

Ponudniki umetnointeligenčnih modelov za splošne namene, ki se učijo na velikih količinah podatkov in so zato nagnjeni k veliki porabi energije, morajo razkriti porabo energije. V primeru umetnointeligenčnih modelov za splošne namene s sistemskimi tveganji je treba oceniti energijsko učinkovitost.

Komisija je pooblaščena za razvoj metodologije z ustreznim in primerljivim merjenjem za te obveznosti razkritja.