DI aktas

DI aktas (Reglamentas (ES) 2024/1689, kuriuo nustatomos suderintos dirbtinio intelekto taisyklės) yra pirmoji išsami DI teisinė sistema visame pasaulyje. Taisyklių tikslas – skatinti patikimą DI Europoje.

DI akte nustatytos aiškios rizika grindžiamos taisyklės DI kūrėjams ir diegėjams dėl konkrečių DI naudojimo būdų. DI aktas yra platesnio politikos priemonių, kuriomis remiamas patikimo DI plėtojimas, rinkinio, kuris taip pat apima DI inovacijų dokumentų rinkinį, DI fabrikų veiklos pradžią ir  Suderintą DI planą, dalis. Kartu šiomis priemonėmis užtikrinama sauga, pagrindinės teisės ir į žmogų orientuotas DI, taip pat stiprinamas DI įsisavinimas, investicijos ir inovacijos visoje ES.

Siekdama palengvinti perėjimą prie naujos reglamentavimo sistemos, Komisija paskelbė DI paktą – savanorišką iniciatyvą, kuria siekiama remti būsimą įgyvendinimą, bendradarbiauti su suinteresuotaisiais subjektais ir paraginti DI tiekėjus ir diegėjus iš Europos ir kitų šalių iš anksto įvykdyti pagrindines DI akte nustatytas pareigas. 

Kodėl mums reikia dirbtinio intelekto taisyklių?

Dirbtinio intelekto aktu užtikrinama, kad europiečiai galėtų pasitikėti tuo, ką gali pasiūlyti dirbtinis intelektas. Nors dauguma DI sistemų nekelia jokios rizikos ir gali padėti spręsti daugelį visuomenės uždavinių, tam tikros DI sistemos kelia riziką, kurią turime šalinti, kad išvengtume nepageidaujamų pasekmių.

Pavyzdžiui, dažnai neįmanoma išsiaiškinti, kodėl DI sistema priėmė sprendimą arba prognozavo ir ėmėsi konkretaus veiksmo. Taigi gali būti sunku įvertinti, ar asmuo buvo nesąžiningai nepalankioje padėtyje, pavyzdžiui, priimant sprendimą dėl įdarbinimo arba teikiant paraišką dėl viešųjų išmokų sistemos.

Nors galiojančiuose teisės aktuose numatyta tam tikra apsauga, jos nepakanka konkretiems uždaviniams, kuriuos gali sukelti DI sistemos, spręsti.

Rizika grindžiamas požiūris

DI akte apibrėžiami 4 DI sistemų rizikos lygiai:

Nepriimtina rizika

Visos DI sistemos, kurios laikomos keliančiomis akivaizdžią grėsmę žmonių saugumui, pragyvenimo šaltiniams ir teisėms, yra uždraustos. DI aktu draudžiamos aštuonios praktikos, t. y.:

1. žalingas dirbtiniu intelektu grindžiamas manipuliavimas ir apgaulė
2. žalingas dirbtiniu intelektu grindžiamas pažeidžiamumų išnaudojimas
3. Socialiniai reitingai
4. Atskiros nusikalstamos veikos rizikos vertinimas arba prognozė
5. netikslinis interneto ar apsauginės vaizdo stebėjimo sistemos (AVSS) medžiagos nuskaitymas veido atpažinimo duomenų bazėms kurti ar plėsti;
6. emocijų atpažinimas darbo vietose ir švietimo įstaigose;
7. biometrinis skirstymas į kategorijas siekiant nustatyti tam tikras saugomas savybes
8. tikralaikis nuotolinis biometrinis tapatybės nustatymas teisėsaugos tikslais viešosiose erdvėse

Didelė rizika

DI naudojimo atvejai, kurie gali kelti didelę riziką sveikatai, saugai ar pagrindinėms teisėms, priskiriami didelės rizikos atvejams. Šie didelės rizikos naudojimo atvejai apima:

• DI saugos komponentai ypatingos svarbos infrastruktūros objektuose (pvz., transporto), kurių gedimas galėtų kelti pavojų piliečių gyvybei ir sveikatai
• Švietimo įstaigose naudojami DI sprendimai, nuo kurių gali priklausyti galimybė gauti išsilavinimą ir asmens profesinio gyvenimo eiga (pvz., egzaminų vertinimas balais)
• Dirbtiniu intelektu grindžiami produktų saugos komponentai (pvz., dirbtinio intelekto taikymas robotizuotoje chirurgijoje)
• Dirbtinio intelekto priemonės užimtumui, darbuotojų valdymui ir galimybei dirbti savarankiškai (pvz., įdarbinimui skirta gyvenimo aprašymų rūšiavimo programinė įranga)
• Tam tikri DI naudojimo atvejai, kuriais suteikiama prieiga prie pagrindinių privačiųjų ir viešųjų paslaugų (pvz., kredito balai, nesuteikiantys piliečiams galimybės gauti paskolą)
• DI sistemos, naudojamos nuotoliniam biometriniam tapatybės nustatymui, emocijų atpažinimui ir biometriniam kategorizavimui (pvz., DI sistema, skirta krautuvininko tapatybei atgaline data nustatyti)
• DI naudojimo teisėsaugos srityje atvejai, kurie gali pažeisti pagrindines žmonių teises (pvz., įrodymų patikimumo vertinimas)
• DI naudojimo atvejai migracijos, prieglobsčio ir sienų kontrolės valdymo srityse (pvz., automatizuotas prašymų išduoti vizą nagrinėjimas)
• DI sprendimai, naudojami vykdant teisingumą ir demokratinius procesus (pvz., DI sprendimai, skirti teismo sprendimams rengti)

Didelės rizikos DI sistemoms taikomos griežtos pareigos prieš pateikiant jas rinkai:

• tinkamos rizikos vertinimo ir mažinimo sistemos
• aukštos kokybės duomenų rinkiniai, kuriais grindžiama sistema, siekiant kuo labiau sumažinti diskriminacinių rezultatų riziką;
• veiklos registravimas siekiant užtikrinti rezultatų atsekamumą
• išsamūs dokumentai, kuriuose pateikiama visa būtina informacija apie sistemą ir jos paskirtį, kad institucijos galėtų įvertinti jos atitiktį;
• aiški ir tinkama informacija diegėjui
• tinkamos žmogaus vykdomos priežiūros priemonės
• aukštas patikimumo, kibernetinio saugumo ir tikslumo lygis

Ribota rizika

Tai susiję su rizika, susijusia su dirbtinio intelekto naudojimo skaidrumo poreikiu. DI akte nustatytos konkrečios informacijos atskleidimo pareigos siekiant užtikrinti, kad žmonės būtų informuojami, kai to reikia pasitikėjimui išsaugoti. Pavyzdžiui, naudojant DI sistemas, pvz., pokalbių robotus, žmonės turėtų būti informuojami, kad sąveikauja su mašina, kad galėtų priimti informacija pagrįstą sprendimą.

Be to, generatyvinio DI tiekėjai turi užtikrinti, kad DI sukurtas turinys būtų atpažįstamas. Be to, tam tikras DI sukurtas turinys turėtų būti aiškiai ir matomai paženklintas, t. y. sintetinė vaizdakaita ir paskelbtas tekstas, siekiant informuoti visuomenę viešojo intereso klausimais.

Minimali rizika arba jokios rizikos

DI akte nenustatytos taisyklės dėl DI, kuris laikomas minimaliu arba nekeliančiu jokios rizikos. Šiai kategorijai priskiriama didžioji dauguma šiuo metu ES naudojamų DI sistemų. Tai apima programas, pvz., DI valdomus vaizdo žaidimus arba brukalų filtrus.

Kaip visa tai praktiškai veikia didelės rizikos DI sistemų tiekėjams?

Kaip visa tai praktiškai veikia didelės rizikos DI sistemų tiekėjams?

Kai DI sistema pateikiama rinkai, už rinkos priežiūrą yra atsakingos institucijos, diegėjai užtikrina žmogaus vykdomą priežiūrą ir stebėseną, o tiekėjai yra įdiegę stebėsenos po pateikimo rinkai sistemą. Tiekėjai ir diegėjai taip pat praneš apie rimtus incidentus ir veikimo sutrikimus.

Sprendimas dėl patikimo didelių DI modelių naudojimo

Bendrosios paskirties DI modeliai gali atlikti įvairias užduotis ir tampa daugelio DI sistemų ES pagrindu. Kai kurie iš šių modelių gali kelti sisteminę riziką, jei jie yra labai pajėgūs arba plačiai naudojami. Siekiant užtikrinti saugų ir patikimą DI, DI aktu nustatomos taisyklės tokių modelių tiekėjams. Tai apima skaidrumą ir su autorių teisėmis susijusias taisykles. Modelių, kurie gali kelti sisteminę riziką, atveju teikėjai turėtų įvertinti ir sumažinti šią riziką.

DI akto taisyklės dėl bendrosios paskirties DI įsigalios 2025 m. rugpjūčio mėn. DI tarnyba padeda parengti praktikos kodeksą, kuriame būtų išsamiai išdėstytos šios taisyklės. Kodeksas turėtų būti pagrindinė priemonė tiekėjams įrodyti atitiktį DI aktui, apimanti pažangiausią praktiką. 

Valdymas ir įgyvendinimas

Europos DI tarnyba ir valstybių narių institucijos yra atsakingos už DI akto įgyvendinimą, priežiūrą ir vykdymo užtikrinimą. DI valdyba, mokslinė grupė ir patariamasis forumas vadovauja DI akto valdymui ir jį konsultuoja. Daugiau informacijos apie DI akto valdymą ir vykdymo užtikrinimą.  

Tolesni veiksmai

DI aktas įsigaliojo 2024 m. rugpjūčio 1 d. ir bus visapusiškai taikomas po dvejų metų – 2026 m. rugpjūčio 2 d., išskyrus kai kurias išimtis:

• draudimai ir raštingumo DI srityje pareigos pradėti taikyti nuo 2025 m. vasario 2 d.
• bendrosios paskirties DI modelių valdymo taisyklės ir pareigos pradedamos taikyti 2025 m. rugpjūčio 2 d.
• didelės rizikos DI sistemoms, įterptoms į reglamentuojamus gaminius, taikomas pereinamasis laikotarpis pratęstas iki 2027 m. rugpjūčio 2 d.;