InstitucijosTech+Law

Ar dirbtinio intelekto sistemų kūrėjai atsako už šių sistemų sukeltą žalą?

Dirbtinio intelekto technologijos šiuo metu išgyvena neįtikėtiną pakilimą. Rinkoje pasirodo vis nauji dirbtinio intelekto sprendimai, kuriais siekiama pagelbėti verslui optimizuoti įvairius procesus, taip pat programos, įprastiems interneto vartotojams siūlančios iki šiol neregėtas tekstų ir įvairių medijų kūrimo galimybes. Tačiau vis dažniau naudojant šiuos įvairius dirbtinio intelekto įrankius įvairioje veikloje, galima vis geriau matyti, kad nemaža jų dalis vis dar yra labai reikšmingai limituoti ir gali turėti įvairių trūkumų. Daugeliu atvejų šie trūkumai lemia tiesiog ribotą dirbtinio intelekto sistemos funkcionalumą, bet tam tikrais atvejais jie gali sukelti ir žalą. Priklausomai nuo dirbtinio intelekto sistemos ir panaudojimo srities pobūdžio, tokia žala gali būti įvairi, pavyzdžiui, autopilotų sukeltos autoavarijos, pasitelkus dirbtinį intelektą vertinamų kandidatų į darbą diskriminacija ar finansiniai nuostoliai, sukelti netinkamai veikiančių finansinius sandorius automatizuojančių algoritmų.

Kokios taisyklės taikomos atsakomybės už dirbtinio intelekto sukeltą žalą atveju? Kas ir kokiomis sąlygomis tokiu atveju būtų atsakingas? Ar naujoji Europos Sąjungos Atsakomybės už gaminius direktyva bus taikoma dirbtinio intelekto sukeltos žalos atvejais? Šiame straipsnyje trumpai apžvelgiame šiuos klausimus. 

Šiuo metu galiojantis teisinės atsakomybės režimas

Šiuo metu atsakomybės už dirbtinio intelekto sukeltą žalą klausimai patektų į 1985 m. Tarybos direktyvos 85/374/EEB[1] (įprastai vadinama Atsakomybės už gaminius direktyva) ir ją įgyvendinančių Lietuvos Respublikos civilinio kodekso (CK) 6.292-6.300 straipsnių taikymo sritį.

Pagal Atsakomybės už gaminius direktyvą bei atitinkamas CK nuostatas, už produktų sukeltą žalą atsako produkto ar jo dalies gamintojas ar paslaugų teikėjas, bet kuris kitas asmuo, kuris pažymi produktą savo skiriamuoju ženklu ir prisistato kaip gamintojas, importuotojas, taip pat pardavėjas, kai neįmanoma nustatyti produkto gamintojo.

Atsakomybės už gaminius direktyva numato atsakomybės režimą, pagal kurį nereikia nustatyti žalą sukėlusio asmens kaltės, t. y. vadinamąją griežtąją atsakomybę. Todėl, siekiant žalos atlyginimo, reikia nustatyti tik tris sąlygas: neteisėtus veiksmus, žalą bei priežastinį ryšį.

Neteisėti veiksmai šiuo atveju reiškia netinkamos kokybės produkto išleidimą į apyvartą (ar netinkamos kokybės paslaugos suteikimą). Netinkama kokybė šiuo atveju turėtų būti suprantama ne kaip tam tikros tikslinės funkcijos neatlikimas, bet produkto saugumo reikalavimų neužtikrinimas.

Žala gali būti susijusi su gyvybės atėmimu, sveikatos sužalojimu ar turtiniais nuostoliais. Įdomu tai, kad pagal šį Atsakomybės už gaminius direktyvoje numatytą režimą, turtinė žala tam, kad ji būtų atlyginama, negali būti mažesnė kaip 500 EUR.

Tarp kilusios žalos ir neteisėtų veiksmų (nesaugaus gaminio) turi būti nustatytas priežastinis ryšys. Priežastinio ryšio, kaip ir kitų minėtų sąlygų, įrodinėjimo našta šiuo atveju tenka žalą patyrusiam asmeniui.

Reikėtų pažymėti tai, kad nei Atsakomybės už gaminius direktyva, nei ją įgyvendinančios CK nuostatos, apibrėždamos gaminio sąvoką nemini dirbtinio intelekto ar apskritai programinės įrangos. Tai visiškai natūralu, atsižvelgiant į tai, kad ši direktyva buvo priimta 1985 m., kai apie dabartinę technologinę pažangą, greičiausiai, dar buvo sunku net įsivaizduoti. Dėl šios priežasties kyla nemažai diskusijų, ar programinė įranga (įskaitant dirbtinį intelektą) turėtų būti suprantama kaip „gaminys“ šios direktyvos taikymo atžvilgiu, kadangi direktyva gaminius apibrėžia kaip materialius kilnojamuosius daiktus. Būtų galima teigti, kad Lietuvos kontekste ši problema tarsi neturėtų kilti, nes CK nuostatos, įgyvendinančios Atsakomybės už gaminius direktyvą nacionalinėje teisėje, šalia gaminių įtraukia ir paslaugas, taigi programinė įranga vienaip ar kitaip turėtų patekti į šį atsakomybės režimą.

Sparčiai besivystančios skaitmeninės technologijos, įskaitant vis plačiau naudojamą dirbtinį intelektą, Europos Sąjungos įstatymų leidėjams galiausiai leido suprasti, kad yra ir kitų iššūkių, kurių išspręsti negali senasis atsakomybės režimas, numatytas Atsakomybės už gaminius direktyvoje, ir kurie asmenims gali užkirsti kelią realiai pasinaudoti teise į žalos atlyginimą. Pavyzdžiui, jei asmuo žalą patiria, naudodamasis tam tikru dirbtinio intelekto įrankiu, dėl sistemos techninio sudėtingumo jam gali būti be galo sunku įrodyti, kaip konkrečiai pasireiškė jos trūkumai bei kokiu konkrečiu būdu jie sukėlė žalą.

Šias bei kitas su sparčiai besivystančiomis technologijomis susijusias problemas, bent didžiąja dalimi, turėtų išspręsti toliau aptariama naujoji Atsakomybės už gaminius direktyva.

Naujoji Atsakomybės už gaminius direktyva

Europos Taryba 2024 m. spalio mėn. pradžioje priėmė atnaujintą Atsakomybės už gaminius direktyvą[2]. Praėjusią savaitę ji buvo paskelbta oficialiame Europos Sąjungos teisėkūros leidinyje ir netrukus įsigalios, tuomet per du metus turės būti perkelta į Europos Sąjungos valstybių narių nacionalinę teisę.

Vienas esminių pokyčių naujoje Atsakomybės už gaminius direktyvoje yra programinės įrangos įtraukimas į gaminių sąvoką. Pačioje direktyvoje paaiškinama, kad programinė įranga direktyvos taikymo tikslais yra laikoma produktu, už kurio sukeltą žalą taikoma atsakomybė be kaltės, neatsižvelgiant į jos tiekimo ar naudojimo būdą, taigi neatsižvelgiant į tai, ar programinė įranga yra įdiegta prietaise, pasiekiama per ryšių tinklą arba debesų technologijas arba tiekiama naudojant programinės įrangos kaip paslaugos modelį. Programinės įrangos kūrėjas arba tiekėjas šiame kontekste turi būti laikomas gamintoju.

Taigi, dirbtinio intelekto sistemos bei dirbtinio intelekto sistemų kūrėjai bei tiekėjai patenka į naujosios Atsakomybės už gaminius direktyvos taikymo sritį.

Kiti svarbūs naujojoje Atsakomybės už gaminius direktyvoje numatyti pokyčiai:

  • į produkto (gaminio) sąvoką taip pat papildomai įtraukti skaitmeniniai gamybos failai ir skaitmeninės paslaugos (kai jos veikia kaip gaminio komponentas ir yra būtinos jo funkcionavimui), žaliavos;
  • į atsakingų subjektų sąrašą papildomai įtraukiami gamintojo įgalioti atstovai, kai gamintojas yra už Europos Sąjungos ribų, realizavimo paslaugų teikėjai (pvz., sandėliavimo, pakavimo ir pan., kai neįmanoma identifikuoti už Europos Sąjungos ribų esančio gamintojo ar importuotojo), interneto platformos tiekėjai, kai gaminys įsigyjamas internete, bei bet kurie gaminį reikšmingai modifikavę asmenys;
  • išplėsta žalos kategorija, į ją įtraukta žala psichinei sveikatai bei asmens duomenų sunaikinimas ar sugadinimas;
  • numatoma atsakovo pareiga teismo procese pateikti reikiamus duomenis, kai ieškovas preliminariai pagrindžia savo reikalavimą dėl žalos atlyginimo;
  • numatyta gaminio kokybės trūkumų prezumpcija, kai tenkinama viena iš šių sąlygų: 1) atsakovas nevykdo teismo įpareigojimo pateikti duomenis; 2) ieškovas parodo, kad gaminys neatitinka privalomų saugos reikalavimų; 3) ieškovas parodo, kad žala kilo dėl akivaizdaus gaminio defekto, atsiradusio jį įprastai naudojant;
  • numatyta priežastinio ryšio prezumpcija, kai: 1) nustatomas gaminio defektas ir 2) kilusi žala yra tipiškai susijusi su tokio pobūdžio defektais.

Pastarosios naujoje Atsakomybės už gaminius direktyvoje įtvirtintos prezumpcijos reiškia, kad, jas taikant, pareiga įrodyti, kad gaminys buvo be defektų (yra saugus), ar nesukėlė žalos (nėra priežastinio ryšio), turėtų gamintojas ar kitas atsakingas subjektas. Šios taisyklės turėtų padėti bent iš dalies išspręsti minėtas problemas, susijusias su naujųjų informacinių technologijų, įskaitant dirbtinio intelekto sistemas, kompleksiškumu, kai vartotojai dažnai apskritai neturi galimybės suprasti, kaip jos veikia techniniu požiūriu, ir dėl to gindami savo teises negalėtų paaiškinti, kaip konkrečiai jiems buvo sukelta žala.

Pažymėtina, kad naujoji Atsakomybės už gaminius direktyva nebus taikoma atviro kodo programinei įrangai, kuri bus pateikiama rinkai nekomerciniais tikslais.

Atsakomybės už dirbtinį intelektą direktyva

Europos Komisija, pristatydama naująją Atsakomybės už gaminius direktyvą, tuo pačiu metu buvo pristačiusi ir Atsakomybės už dirbtinį intelektą direktyvos projektą. Atnaujinta Atsakomybės už gaminius direktyva buvo priimta palyginti greitai, tačiau Atsakomybės už dirbtinį intelektą direktyva šiuo metu tebėra svarstoma Europos Sąjungos įstatymų leidybos institucijose ir kol kas apskritai nėra aišku, ar ji išvys dienos šviesą.

Atsižvelgiant į tai, kad kol kas nėra aiškus šio teisės akto likimas, šiame tekste tik trumpai apžvelgiamos esminės jo nuostatos.

Visų pirma, remiantis Atsakomybės už dirbtinį intelektą direktyva, už žalą galėtų būti atsakingas ir dirbtinio intelekto sistemos naudotojas, t. y. asmuo, kuris dirbtinio intelekto sistemą naudoja profesiniais tikslais (taigi, ne tik asmuo, pateikęs ją į rinką). Tuo tarpu žalos reikalauti galėtų jau ne vien fiziniai, bet ir juridiniai asmenys, t. y. įmonės, naudojančios dirbtinio intelekto sistemas profesiniais tikslais.

Atsakomybės už dirbtinio intelekto sukeltą žalą sistema būtų grindžiama kalte. Tai reiškia, jog žalą padaręs subjektas atsakytų tik tuo atveju, jei būtų kaltas dėl atitinkamų veiksmų.

Atsižvelgiant į tai, kad dėl sudėtingo dirbtinio intelekto sistemų techninio pobūdžio tam tikras aplinkybes žalą patyrusiems asmenis galėtų būti sunkų įrodyti, ši direktyva taip pat nustatytų tam tikromis sąlygomis taikytiną priežastinio ryšio prezumpciją, kurią paneigti turėtų dirbtinio intelekto sistemos tiekėjas ar naudotojas. Direktyva taip pat numatytų aukštos rizikos dirbtinio intelekto sistemų tiekėjų bei naudotojų pareigą tam tikrais atvejais teismo procese pateikti su šiomis sistemomis susijusius duomenis, būtinus įvertinti nukentėjusio asmens reikalavimo pagrįstumui.

Kodėl visa tai svarbu?

Dirbtinio intelekto sistemos, kaip ir bet kuri kita technologija, turi tam tikrų ribotumų, dėl kurių šių sistemų naudotojams tam tikrais atvejais gali būti padaroma žala. Naujoji Atsakomybės už gaminius direktyva neabejotinai bus reikšminga atitinkamą žalą patyrusiems asmenims, kuriems potencialiai bus palengvinta įrodinėjimo našta, pareigą paaiškinti, kaip veikia dirbtinio intelekto sistemų „juodosios dėžės“ (angl. black boxes) perkeliant šių sistemų kūrėjams. Tačiau šis teisės aktas turės reikšmingos įtakos ir dirbtinio intelekto sistemas kuriančioms bei į Europos Sąjungos rinką tiekiančioms įmonėms. Jos turės ne tik užtikrinti, kad atitinka visus joms taikytinus reikalavimus, numatytus neseniai įsigaliojusiame Dirbtinio intelekto akte[3], bet ir gerai suvokti, kokie yra jų sistemų ribotumai, dėl kurių jų vartotojams gali kilti žala, ir kokios pasekmės galėtų būti susijusios su atsakomybės už tokią žalą taikymu (pvz., su pareiga paaiškinti, kaip veikia atitinkamas dirbtinio intelekto modelis, susijusi rizika teismo procese atskleisti jautrią su dirbtinio intelekto modelio veikimu susijusią informaciją).

Tekstą parengė advokatų kontoros „Glimstedt“ vyresnysis teisininkas, advokatas Ovidijus Speičys ir teisininkas, advokato padėjėjas Mykolas Pavlovič


[1] 1999 m. birželio 4 d. konsoliduota 1985 m. liepos 25 d. Tarybos direktyva 85/374/EEB dėl valstybių narių įstatymų ir kitų teisės aktų, reglamentuojančių atsakomybę už gaminius su trūkumais, derinimo.

[2] Europos parlamento ir Tarybos direktyva (ES) Nr. 2024/2853 dėl atsakomybės už gaminius su trūkumais, kuria panaikinama Tarybos direktyva 85/374/EEB.

[3] Europos Parlamento ir Tarybos reglamentas (ES) Nr. 2024/1689 kuriuo nustatomos suderintos dirbtinio intelekto taisyklės ir iš dalies keičiami reglamentai (EB) Nr. 300/2008, (ES) Nr. 167/2013, (ES) Nr. 168/2013, (ES) 2018/858, (ES) 2018/1139 ir (ES) 2019/2144 ir direktyvos 2014/90/ES, (ES) 2016/797 ir (ES) 2020/1828 (Dirbtinio intelekto aktas)

Back to top button