Tech+Law

EK siūlo naujas su kompetencija ir pasitikėjimu dirbtiniu intelektu susijusias taisykles ir veiksmus

Šiandien Komisija pasiūlė naujas taisykles ir veiksmus, kuriais siekia padėti Europai tapti pasauliniu patikimo dirbtinio intelekto (DI) centru. Pirmoji DI skirta teisinė sistema ir naujas su valstybėmis narėmis suderintas planas drauge padės užtikrinti žmonių ir įmonių saugą bei pagrindines teises ir sykiu visoje ES paspartins DI diegimą, investicijas ir inovacijas. Šis požiūris bus papildytas naujomis mašinoms skirtomis taisyklėmis, kuriomis bus pritaikyti saugos reikalavimai, kad naudotojai labiau pasitikėtų nauja įvairialype gaminių karta.

Nauju DI reglamentu bus siekiama užtikrint, kad europiečiai galėtų pasitikėti dirbtinio intelekto teikiamomis galimybėmis. Proporcingomis ir lanksčiomis taisyklėmis bus sprendžiamas DI sistemų keliamos specifinės rizikos klausimas ir bus nustatyti aukščiausi pasaulyje standartai. Suderintame plane nurodyti valstybių narių politikos pokyčiai ir investicijos, būtini tam, kad būtų galima įtvirtinti Europos lyderystę kuriant į žmogų orientuotą, tvarų, saugų, įtraukų ir patikimą DI.

Naujosios taisyklės bus tiesiogiai ir vienodai taikomos visose valstybėse narėse, remiantis perspektyvia DI apibrėžtimi. Jos parengtos laikantis toliau nurodyto rizika grindžiamo požiūrio.

Nepriimtina rizika. DI sistemos, laikomos keliančiomis akivaizdžią grėsmę žmonių saugai, pragyvenimui ir teisėms, bus draudžiamos. Tai, pavyzdžiui, pasakytina apie DI sistemas arba taikomąsias programas, kuriomis, manipuliuojant žmogaus elgsena, sutrukdoma reikštis laisvai naudotojų valiai (pvz., žaislus, kuriuose naudojami balso asistentai skatina pavojingą nepilnamečių elgesį), ir sistemas, kuriomis naudodamosi vyriausybės gali taikyti socialinio reitingavimo metodą.

Didelė rizika. Labai rizikingomis laikomos DI sistemos apima DI technologijas, naudojamas:

  • ypatingos svarbos infrastruktūros (pvz., transporto) objektuose, galinčiuose kelti pavojų piliečių gyvybei ir sveikatai;
  • vykdant švietimo arba profesinio mokymo veiklą (pvz., vertinant egzaminus), kuri gali nulemti asmens galimybes įgyti išsilavinimą ir jo profesinį gyvenimą;
  • produktų saugos komponentuose (pvz., DI taikomoji programa, padedanti atlikti robotizuotas operacijas);
  • užimtumo, darbuotojų valdymo ir galimybės dirbti savarankiškai srityse (pvz., gyvenimo aprašymams atrinkti skirta programinė įranga, naudojama per įdarbinimo procedūras);
  • teikiant pagrindines privačiąsias ir viešąsias paslaugas (pvz., atliekant kreditingumo vertinimą, dėl kurio piliečiai netenka galimybės gauti paskolą);
  • vykdant teisėsaugos veiklą, kuri gali pažeisti pagrindines žmogaus teises (pvz., vertinant faktinių duomenų patikimumą);
  • migracijos, prieglobsčio ir sienų kontrolės valdymo srityse (pvz., vertinant kelionės dokumentų autentiškumą);
  • vykdant teisingumą ir demokratinius procesus (pvz., taikant įstatymą pagal konkrečias faktines aplinkybes).

Kad galėtų būti pateiktos rinkai, didelę riziką keliančios DI sistemos turės atitikti griežtus reikalavimus:

  • turės būti taikomos tinkamos rizikos vertinimo ir mažinimo sistemos;
  • DI sistemos turės būti grindžiamos aukštos kokybės duomenų rinkiniais, kad būtų galima kuo labiau sumažinti riziką ir kad gauti rezultatai būtų kuo mažiau diskriminuojantys;
  • veikla turės būti registruojama siekiant užtikrinti rezultatų atsekamumą;
  • turės būti pateikti išsamūs dokumentai, kuriuose nurodoma visa būtina informacija apie sistemą ir jos tikslą, kad institucijos galėtų įvertinti, ar sistema atitinka reikalavimus;
  • naudotojui turės būti pateikta aiški ir tinkama informacija;
  • turės būti taikomos tinkamos žmogaus vykdomos priežiūros priemonės, padėsiančios kuo labiau sumažinti riziką;
  • turės būti užtikrintas didelis patikimumassaugumas ir tikslumas.

Didelę riziką keliančiomis visų pirma laikomos visos nuotolinio biometrinio tapatybės nustatymo sistemos – joms taikomi griežti reikalavimai. Iš principo draudžiama jas tiesiogiai naudoti viešose vietose teisėsaugos tikslais, išskyrus kelis griežtai apibrėžtus ir reglamentuotus išimtinius atvejus (pvz., kai tai absoliučiai būtina vykdant dingusio vaiko paiešką, siekiant išvengti konkrečios artėjančios teroristinio išpuolio grėsmės arba išaiškinti ar baudžiamojon atsakomybėn patraukti sunkius nusikaltimus įvykdžiusius asmenis arba įtariamuosius, nustatyti jų buvimo vietą ir tapatybę). Tokia paskirtimi minėtos sistemos gali būti naudojamos tik leidus teisminei ar kitai nepriklausomai institucijai ir laikantis atitinkamų laiko, geografinės aprėpties ir duomenų bazių, kuriose atliekama paieška, apribojimų.

Nedidelė rizika (DI sistemos, kurioms taikomi konkretūs skaidrumo reikalavimai). Naudotojai turėtų žinoti, jog naudodami DI sistemas, pvz., pokalbių robotus, jie bendrauja su mašina, kad galėtų priimti informacija pagrįstą sprendimą, ar jomis naudotis toliau.

Minimali rizika. Siūlomu teisės aktu leidžiama laisvai naudoti tam tikras taikomąsias programas, pvz., DI grindžiamus vaizdo žaidimus arba brukalų filtrus. Šiai kategorijai priskiriama didžioji dauguma DI sistemų. Šios DI sistemos nepatenka į reglamento projekto aprėptį, nes jų keliamas pavojus piliečių teisėms ar saugai yra tik minimalus arba tokio pavojaus visai nėra.

Kalbant apie valdymą, Komisija siūlo, kad nacionalinės kompetentingos rinkos priežiūros institucijos prižiūrėtų, kaip įgyvendinamos naujosios taisyklės. Įsteigus Europos dirbtinio intelekto valdybą bus sudarytos palankesnės sąlygos įgyvendinti tas taisykles ir suteiktas postūmis kurti DI standartus. Be to, siūlomi savanoriški elgesio kodeksai, susiję su nedidelę riziką keliančiu DI, ir apribotos bandomosios reglamentavimo aplinkos, kad būtų galima sudaryti palankesnes sąlygas atsakingoms inovacijoms.

Koordinavimas sustiprins Europos lyderystę į žmogų orientuoto, tvaraus, saugaus, įtraukaus ir patikimo DI srityje. Kad Europa išliktų konkurencinga pasaulyje, Komisija yra įsipareigojusi skatinti DI technologijų plėtros ir naudojimo inovacijas visuose pramonės sektoriuose ir visose valstybėse narėse.

2018 m. pirmą kartą paskelbtu Suderintu DI planu, kuriuo siekta apibrėžti DI plėtros ir diegimo veiksmus ir jų finansavimo priemones, sudarytos sąlygos kurti gyvybingą nacionalinių strategijų ir ES finansavimo, skirto viešojo ir privačiojo sektorių partnerystėms ir mokslinių tyrimų bei inovacijų tinklams, aplinką. Išsamiai atnaujintame Suderintame plane siūlomi konkretūs bendri bendradarbiavimo veiksmai, kuriais siekiama užtikrinti, kad visos pastangos būtų suderintos su Europos dirbtinio intelekto strategija ir Europos žaliuoju kursu, ir kartu atsižvelgiama į naujus koronaviruso pandemijos keliamus iššūkius. Jame pristatoma vizija, kaip paspartinti investicijas į DI, galinčias padėti atgaivinti ekonomiką. Juo taip pat siekiama paspartinti nacionalinių DI strategijų įgyvendinimą, pašalinti fragmentiškumą ir spręsti visuotinius uždavinius.

Įgyvendinant atnaujintą Suderintą planą lėšos, skiriamos pagal Skaitmeninės Europos programą ir programą „Europos horizontas“, taip pat pagal Ekonomikos gaivinimo ir atsparumo didinimo priemonę, kurioje numatyta, kad skaitmenizacijos išlaidos turi siekti 20 proc., ir sanglaudos politikos programas, bus naudojamos siekiant šių tikslų:

  • sudaryti palankias sąlygas plėtoti ir diegti DI keičiantis politikos įžvalgomis, dalijantis duomenimis ir investuojant į lemiamą reikšmę turinčius kompiuterijos pajėgumus;
  • skatinti kompetenciją DI srityje „nuo laboratorijos iki rinkos“, t. y. užmegzti viešojo ir privačiojo sektorių partnerystę, kurti ir telkti mokslinių tyrimų, plėtros ir inovacijų pajėgumus ir sudaryti sąlygas MVĮ ir viešojo administravimo institucijoms naudotis bandymų ir eksperimentavimo infrastruktūra, taip pat skaitmeninių inovacijų centrais;
  • užtikrinti, kad DI teiktų naudą žmonėms ir būtų visuomenės gerovės veiksnys, – tam reikia imtis lyderės vaidmens patikimo DI plėtros ir diegimo srityje, ugdyti talentus ir įgūdžius remiant stažuotes, doktorantūros tinklus ir skaitmeninių sričių doktorantų stipendijas, įtraukti pasitikėjimo aspektą į DI politiką ir visame pasaulyje propaguoti Europos tvaraus ir patikimo DI viziją;
  • stiprinti strateginę lyderystę didelį poveikį turinčių sektorių ir technologijų, įskaitant aplinką, srityje, daugiausia dėmesio skiriant DI indėliui į tvarią gamybą ir sveikatos priežiūrą (plečiant tarpvalstybinius informacijos mainus), viešąjį sektorių, judumą, vidaus reikalus ir žemės ūkį bei robotiką.

Technikos gaminiai apima įvairius vartotojams ir specialistams skirtus gaminius – nuo robotų iki vejapjovių, 3D spausdintuvų, statybos mašinų, pramonės gamybos linijų. Mašinų direktyvoje, keičiamoje nauju Mašinų reglamentu, buvo nustatyti mašinoms taikomi su sveikata ir sauga susiję reikalavimai. Šiuo naujuoju Mašinų reglamentu bus užtikrinta, kad naujos kartos mašinos atitiktų naudotojų ir vartotojų saugos reikalavimus, ir bus skatinamos inovacijos. DI reglamentu bus sprendžiamas DI sistemų keliamo pavojaus saugai klausimas, o naujuoju Mašinų reglamentu bus užtikrinta, kad DI sistemos būtų saugiai integruotos į visas mašinas. Įmonėms tereikės atlikti vienintelį bendrą atitikties vertinimą. 

Be to, naujasis Mašinų reglamentas patenkins rinkos poreikius – juo bus užtikrintas didesnis teisinis dabartinių nuostatų aiškumas, sumažinta įmonėms tenkanti administracinė našta ir išlaidos, nes bus leidžiama naudoti skaitmeninius dokumentus, taip pat bus pritaikytos rinkliavos, kurias MVĮ moka už atitikties vertinimą, kartu užtikrinant derėjimą su gaminiams taikoma ES teisės aktų sistema.

Europos Parlamentas ir valstybės narės turės pagal įprastą teisėkūros procedūrą priimti Komisijos pasiūlymus dėl Europos požiūrio į dirbtinį intelektą ir dėl technikos gaminių. Priimti reglamentai bus tiesiogiai taikomi visoje ES. Be to, siekdama įgyvendinti Suderintame plane paskelbtus veiksmus, Komisija toliau bendradarbiaus su valstybėmis narėmis.

Metai iš metų Komisija visoje ES skatina ir stiprina bendradarbiavimą DI srityje, siekdama didinti ES konkurencingumą ir užtikrinti jos vertybėmis grindžiamą pasitikėjimą. 

2018 m. buvo paskelbta Europos dirbtinio intelekto strategija ir surengtos išsamios konsultacijos su suinteresuotaisiais subjektais, po kurių Aukšto lygio ekspertų grupė dirbtinio intelekto klausimais (HLEG) 2019 m. parengė Patikimo dirbtinio intelekto gaires, o 2020 m. – Dirbtinio intelekto patikimumo vertinimo kriterijų sąrašą. Be to, 2018 m. gruodžio mėn. paskelbtas pirmasis Suderintas dirbtinio intelekto planas – bendras drauge su valstybėmis narėmis prisiimtas įsipareigojimas.

2020 m. paskelbtoje Komisijos baltojoje knygoje dėl dirbtinio intelekto, kuria grindžiamas šiandieninis pasiūlymas, išdėstyta aiški Europos DI vizija, grindžiama kompetencijos ir pasitikėjimo ekosistema. Viešose konsultacijose dėl Baltosios knygos dėl dirbtinio intelekto gausiai dalyvavo respondentai iš visų pasaulio šalių. Prie baltosios knygos pridėtoje „Ataskaitoje dėl DI, daiktų interneto ir robotikos poveikio saugai ir atsakomybei“ padaryta išvada, kad dabartiniuose gaminių saugos teisės aktuose, visų pirma Mašinų direktyvoje, yra spragų, kurias reikia pašalinti.

Europos Komisijos informacija

Back to top button