ES Taryba ir Parlamentas susitarė dėl pirmųjų pasaulyje DI skirtų taisyklių

Praėjusią savaitę po 3 dienų trukmės „derybų maratono“ Tarybai pirmininkaujanti valstybė narė ir Europos Parlamento derybininkai pasiekė preliminarų susitarimą dėl pasiūlymo dėl suderintų dirbtinio intelekto (DI) taisyklių – vadinamojo dirbtinio intelekto akto. Reglamento projekto tikslas – užtikrinti, kad Europos rinkai pateikiamos ir ES naudojamos DI sistemos būtų saugios ir atitiktų pagrindines teises ir ES vertybes. Šiuo riboženkliniu pasiūlymu taip pat siekiama Europoje stimuliuoti investicijas ir inovacijas DI srityje.

Palyginti su pradiniu Komisijos pasiūlymu, pagrindinius naujus preliminaraus susitarimo elementus galima apibendrinti taip:

• įtrauktos taisyklės dėl didelio poveikio bendrosios paskirties DI modelių, kurie ateityje gali kelti sisteminę riziką, ir dėl didelės rizikos DI sistemų;
• peržiūrėta valdymo sistema, suteikiant tam tikrų ES lygmens vykdymo užtikrinimo įgaliojimų;
• išplėstas draudimų sąrašas, tačiau numatyta galimybė teisėsaugos institucijoms viešosiose erdvėse naudoti nuotolinį biometrinį tapatybės nustatymą, su sąlyga, kad taikomos apsaugos priemonės;
• geriau apsaugomos teisės, įpareigojus didelės rizikos DI sistemų diegėjus prieš pradedant naudoti DI sistemą atlikti poveikio pagrindinėms teisėms vertinimą.

Konkrečiau, preliminarus susitarimas apima šiuos aspektus:

Siekiant užtikrinti, kad DI sistemos apibrėžtyje būtų pateikti pakankamai aiškūs kriterijai, pagal kuriuos DI būtų galima atskirti nuo paprastesnių programinės įrangos sistemų, kompromisiniame susitarime apibrėžtis suderinta su EBPO siūlomu metodu.

Preliminariame susitarime taip pat paaiškinama, kad reglamentas netaikomas sritims, nepatenkančioms į ES teisės taikymo sritį, ir bet kuriuo atveju neturėtų daryti poveikio valstybių narių kompetencijai nacionalinio saugumo srityje arba bet kuriam subjektui, kuriam patikėtos užduotys šioje srityje. Be to, DI aktas nebus taikomas sistemoms, kurios naudojamos išimtinai kariniais arba gynybos tikslais. Panašiai, susitarime numatyta, kad reglamentas nebūtų taikomas DI sistemoms, naudojamoms tik mokslinių tyrimų ir inovacijų tikslais, arba žmonėms, kurie naudojasi DI neprofesiniais tikslais.

Kompromisiniame susitarime numatytas horizontalus apsaugos lygmuo, įskaitant didelės rizikos sistemų klasifikaciją, siekiant užtikrinti, kad nebūtų įtraukiamos DI sistemos, kurios, tikėtina, nesukels šiurkščių pagrindinių teisių pažeidimų ar kitos didelės rizikos. DI sistemoms, keliančioms tik ribotą riziką, būtų taikomi labai lengvi skaidrumo įpareigojimai, pavyzdžiui, būtų privaloma atskleisti, jog turinys buvo sukurtas dirbtinio intelekto, kad naudotojai galėtų priimti informacija pagrįstus sprendimus dėl tolesnio naudojimo.

Įvaĩrios didelės rizikos DI sistemos būtų leidžiamos, tačiau norint patekti į ES rinką joms būtų taikomas reikalavimų ir įpareigojimų rinkinys. Teisės aktų leidėjai šiuos reikalavimus paaiškino ir pakoregavo taip, kad jie būtų techniškai geriau įvykdomi ir kad suinteresuotiesiems subjektams būtų lengviau jų laikytis, pavyzdžiui, kiek tai susiję su duomenų kokybe arba su techniniais dokumentais, kuriuos MVĮ turėtų rengti, kad įrodytų savo didelės rizikos DI sistemų atitiktį reikalavimams.

Kadangi DI sistemos kuriamos ir platinamos kompleksinėse vertės grandinėse, kompromisiniame susitarime padaryta pakeitimų, kuriais paaiškinamas įvairių tų grandinių dalyvių, visų pirma DI sistemų tiekėjų ir naudotojų, atsakomybės ir vaidmenų paskirstymas. Jame taip pat paaiškinamas atsakomybės pagal DI aktą ir atsakomybės, kuri jau numatyta kituose teisės aktuose, pavyzdžiui, atitinkamuose ES duomenų apsaugos ar sektoriniuose teisės aktuose, tarpusavio ryšys.

Kai kuriais DI naudojimo atvejais rizika laikoma nepriimtina, todėl šios sistemos ES bus uždraustos. Pvz., preliminariame susitarime draudžiamas kognityvinis elgesio manipuliavimas, konkrečiu tikslu neapribotas veido atvaizdų iš interneto ar apsauginių vaizdo stebėjimo sistemų įrašų išgavimas ir kaupimas, emocijų atpažinimas darbo vietoje ir švietimo įstaigose, piliečių vertinimas, biometrinis kategorizavimas siekiant išvesti jautrius duomenis, tokius kaip seksualinė orientacija ar religiniai įsitikinimai, ir kai kurie į asmenį nukreipto predikcinio tvarkos palaikymo atvejai.

Atsižvelgiant į teisėsaugos institucijų ypatumus ir poreikį išsaugoti gebėjimą naudotis DI savo gyvybiškai svarbioje veikloje, buvo susitarta dėl kelių Komisijos pasiūlymo pakeitimų, susijusių su DI sistemų naudojimu teisėsaugos tikslais. Su sąlyga, kad taikomos tinkamos apsaugos priemonės, šiais pakeitimais siekiama atsižvelgti į poreikį užtikrinti su jų veikla susijusių neskelbtinų operatyvinių duomenų konfidencialumą. Pavyzdžiui, buvo nustatyta ekstremalios situacijos procedūra, pagal kurią teisėsaugos institucijoms skubos atveju leidžiama panaudoti didelės rizikos DI priemonę, kurios atitikties vertinimo procedūra neatlikta. Tačiau taip pat nustatytas specialus mechanizmas, kuriuo siekiama užtikrinti, kad pagrindinės teisės būtų pakankamai apsaugotos nuo bet kokio galimo netinkamo DI sistemų naudojimo.

Be to, kiek tai susiję su tikralaikio nuotolinio biometrinio tapatybės nustatymo sistemų naudojimu viešai prieinamose erdvėse, preliminariame susitarime paaiškinami tikslai, kuriais toks naudojimas gali būti laikomas griežtai būtinu teisėsaugos tikslais ir dėl kurių teisėsaugos institucijoms turėtų būti išimties tvarka leidžiama naudoti tokias sistemas. Kompromisiniame susitarime numatytos papildomos apsaugos priemonės, o šios išimtys taikomos apsiribojant tik tam tikrų nusikaltimų aukų atvejais, tikrų, esamų ar numatomų grėsmių, pavyzdžiui, teroristinių išpuolių, prevencija ir sunkiausiais nusikaltimais įtariamų asmenų paieška.

Į aktą įtraukta naujų nuostatų siekiant atsižvelgti į situacijas, kai DI sistemos gali būti naudojamos įvairiais tikslais (bendrosios paskirties DI) ir kai bendrosios paskirties DI technologija vėliau integruojama į kitą didelės rizikos sistemą. Preliminariame susitarime taip pat nagrinėjami specialūs bendrosios paskirties dirbtinio intelekto (BPDI) sistemų atvejai.

Taip pat susitarta dėl konkrečių taisyklių, taikomų baziniams modeliams, didelėms sistemoms, gebančioms kompetentingai atlikti platų spektrą atskirų užduočių, pavyzdžiui, generuoti vaizdo įrašus, tekstą, vaizdus, vykdyti lateralinę komunikaciją, kompiuterijos funkcijas arba generuoti kompiuterinį kodą. Preliminariame susitarime numatyta, kad bazinių modelių atžvilgiu turi būti išpildytos konkrečios skaidrumo pareigos prieš juos pateikiant rinkai. „Didelio poveikio“ baziniams modeliams buvo nustatyta griežtesnė tvarka. Tai baziniai modeliai, apmokyti dideliu kiekiu duomenų, turintys pažangų kompleksiškumą, pajėgumus bei veiklos rezultatų galimybes, gerokai viršijančias vidurkį, ir galintys skleisti sisteminę riziką visoje vertės grandinėje.

Atsižvelgiant į naujas taisykles dėl BPDI modelių ir akivaizdų poreikį užtikrinti jų vykdymą ES lygmeniu, Komisijoje įsteigiamas DI biuras, kuriam pavesta prižiūrėti šiuos pažangiausius DI modelius, prisidėti prie standartų ir bandymų praktikos puoselėjimo ir užtikrinti bendrų taisyklių vykdymą visose valstybėse narėse. Nepriklausomų ekspertų mokslinė grupė patars DI biurui dėl BPDI modelių, padėdama rengti bazinių modelių pajėgumų vertinimo metodikas, konsultuodama dėl priskyrimo prie didelio poveikio bazinių modelių, dėl tokių modelių radimosi, taip pat stebėdama galimą materialinę riziką saugai, susijusią su baziniais modeliais.

DI valdyba, kurią sudarytų valstybių narių atstovai, išliks Komisijos koordinavimo platforma bei patariamasis organas ir suteiks valstybėms narėms svarbų vaidmenį įgyvendinant reglamentą, įskaitant bazinių modelių praktikos kodeksų projektavimą. Galiausiai bus įsteigtas suinteresuotųjų subjektų, pavyzdžiui, pramonės atstovų, MVĮ, startuolių, pilietinės visuomenės ir akademinės bendruomenės, patariamasis forumas, skirtas tam, kad DI valdybai būtų teikiamos techninės ekspertinės žinios.

Baudos už dirbtinio intelekto akto pažeidimus buvo nustatytos kaip pažeidimą padariusios įmonės praėjusių finansinių metų globalios metinės apyvartos procentinė dalis arba iš anksto nustatyta suma, atsižvelgiant į tai, kuri suma yra didesnė. Tai sudarytų 35 mln. € arba 7 % už uždraustų DI prietaikų pažeidimus, 15 mln. € arba 3 % už DI akto pareigų pažeidimus ir 7,5 mln. € arba 1,5 % už neteisingos informacijos pateikimą. Tačiau MVĮ ir startuoliams už DI akto nuostatų pažeidimus preliminariame susitarime numatytos proporcingesnės administracinių baudų viršutinės ribos. Kompromisiniame susitarime taip pat aiškiai nurodyta, kad fizinis arba juridinis asmuo gali pateikti atitinkamai rinkos priežiūros institucijai skundą dėl neatitikties DI aktui ir gali tikėtis, kad toks skundas bus nagrinėjamas laikantis specialių tos institucijos procedūrų.

Preliminariame susitarime numatytas poveikio pagrindinėms teisėms vertinimas prieš diegėjams pateikiant rinkai didelės rizikos DI sistemą. Preliminariame susitarime taip pat numatytas didesnis skaidrumas, susijęs su didelės rizikos DI sistemų naudojimu. Visų pirma, kai kurios Komisijos pasiūlymo nuostatos iš dalies pakeistos, kad būtų nurodyta, jog tam tikri didelės rizikos DI sistemos naudotojai, kurie yra viešieji subjektai, taip pat privalės registruotis didelės rizikos DI sistemų ES duomenų bazėje. Be to, naujose nuostatose akcentuojama emocijų atpažinimo sistemos naudotojų pareiga informuoti fizinius asmenis, kai jų atžvilgiu naudojama tokia sistema.

Siekiant sukurti inovacijoms palankesnę teisinę sistemą ir skatinti faktiniais duomenimis grindžiamą mokymąsi reglamentavimo srityje, palyginti su Komisijos pasiūlymu, nuostatos dėl inovacijų rėmimo priemonių buvo iš esmės pakeistos.

Visų pirma patikslinta, kad DI srities apribotose bandomosiose reglamentavimo aplinkose, kuriomis turėtų būti teikiama kontroliuojama aplinka novatoriškoms DI sistemoms kurti, bandyti ir validuoti, taip pat turėtų būti galima novatoriškas DI sistemas išbandyti realiomis sąlygomis. Be to, įtrauktos naujos nuostatos, pagal kurias tam tikromis sąlygomis ir taikant apsaugos priemones DI sistemas leidžiama bandyti realiomis sąlygomis. Galiausiai, kad būtų palengvinta mažesnėms įmonėms tenkanti administracinė našta, preliminariame susitarime pateikiamas veiksmų, kurių turi būti imtasi tokiems veiklos vykdytojams remti, sąrašas ir numatytos kelios ribotos ir aiškiai apibrėžtos nukrypti leidžiančios nuostatos.

Europos Komisijos informacija

• Dirbtinio intelekto aktas, Tarybos bendras požiūris, 2022 m. gruodžio 6 d.
• Dirbtinio intelekto aktas, Komisijos pasiūlymas, 2021 m. balandžio 14 d.
• Europos požiūris į dirbtinį intelektą (Europos Komisijos informacija)
• Skaitmeninė Europos ateitis (bendra informacija)
• Jūsų gyvenimas skaitmeninėje erdvėje: ką ES daro, kad jis būtų lengvesnis ir saugesnis? (teminis pasakojimas)
• Dirbtinis intelektas (bendra informacija)