Autonominės DI sistemos Izraelio – “Hamas” kare: iššūkiai tarptautinei teisei

Teise.Pro2024-10-06

1,422

Autonominių dirbtinio intelekto (DI) valdomų sistemų naudojimas kariniuose konfliktuose, pavyzdžiui, Izraelio – “Hamas” kare, kelia teisinių klausimų ir etinių aspektų tarptautinės teisės kontekste. Skirtingai nuo koviniuose veiksmuose naudojamų DI pagrindu veikiančių dronų ar “klajojančių šaudmenų”, DI valdomos sistemos pirmiausia skirtos karinių strategijų planavimui ir užduočių vykdymui pagal iš anksto nustatytus parametrus. Nors tokios technologijos gali padėti greičiau pasiekti strateginius tikslus, sumažindamos žmogaus įsikišimo į sprendimų priėmimo poreikį, jos taip pat kelia didelių rizikų. DI eksperimentinių technologijų klaidos gali sukelti civilių aukų ar kitų sunkių padarinių. Be to, nėra aiškios įtvirtintos atsakomybės už galimas tokių sistemų klaidas, todėl kyla rizika, kad karas taps žiauresnis ir mechanizuotas, nutolstantis nuo Hugo Grocijaus suformuluotų teisingo karo ir humanizmo principų bei jus in bello taisyklių.

Izraelio – “Hamas” karo eigoje buvo skelbiama, kad karo metu gyvųjų taikinių nustatymui buvo naudojamos DI valdomos sistemos. Pavyzdžiui, “Lavender” skirta teroristų identifikavimui, o “Where’s Daddy?” – jų buvimo vietai nustatyti [1]. Šiam tikslui DI algoritmai apdoroja iš socialinių tinklų ir mobiliųjų įrenginių gautus duomenis [2]. Izraelio žvalgybos pareigūnai teigė, kad šios sistemos daugiausia skirtos žemo rango “Hamas” teroristams bei su šia teroristine organizacija “akivaizdžių” sąsajų turintiems civiliams persekioti, tačiau klaidų rizika siekia apie 10 procentų. Pranešta, kad DI valdomos sistemos iš viso vienu metu nustatė 37 000 gyvųjų taikinių, iš kurių dalis galėjo būti klaidingi [3]. Be to, pasitaikė atvejų, kai taikinais buvo pripažinti civiliai, kurių tiesioginės sąsajos su “Hamas” teroristais nebuvo įrodytos. Kai kurių Izraelio žvalgybos pareigūnų teigimu, “Lavender” ir kitų DI valdomų sistemų atrinkti gyvieji taikiniai buvo tvirtinami “beveik automatiškai”, per dieną – nuo 50 iki 100, kiekvienam skiriant vos 20 sekundžių [4], [5]. Šios aplinkybės kelia abejonių, ar toks gyvųjų taikinių nustatymo metodas atitinka esminius jus in bello principus, tokius kaip atskyrimo, proporcingumo ir būtinumo. Nors Izraelis, gindamasis nuo “Hamas” teisėtai remiasi Jungtinių tautų chartijos 51 straipsniu [6], tačiau šiame straipsnyje įtvirtinta savigynos teisė ginant suverenitetą ir gyventojų saugumą negali paneigti jus in bello taisyklių.

Pirma, gyvųjų taikinių nustatymo metodas, pasitelkiant DI valdomas sistemas, privalo atitikti atskyrimo principą, kuris reikalauja karo metu atskirti civilius nuo kombatantų. Remiantis šiuo principu, DI valdomos sistemos, skirtos gyvųjų taikinių nustatymui, turėjo būti sukurtos ir eksploatuojamos taip, kad jų veikimas neprieštarautų Ženevos konvencijų bendram 3 straipsniui. Šiame straipsnyje įtvirtinta kariaujančių šalių pareiga elgtis humaniškai su konflikte nedalyvaujančiais civiliais, apsaugant jų gyvybes ir išvengiant perteklinių kančių karinių veiksmų metu [7]. Tai reiškia, kad programuojant sistemas būtina užtikrinti duomenų tikslumą bei sistemų atsparumą, įtraukiant papildomus kriterijus tokiais kaip asmenų amžius, sveikatos būklė ar sąsajos su “Hamas” teroristais. Toks detalus gyvųjų taikinių atrinkimas padėtų pažeidžiamas grupes – vaikus, sužeistus asmenis bei kitus civilius – nuo aktyvių kovotojų, nepaneigiant Ženevos konvencijų I Papildomo protokolo 48 ir 51 straipsnių ir netarptautiniams konfliktams skirto II Papildomo protokolo 13 straipsno, kurie taip pat pabrėžia būtinybę atskirti civilius taip juos apsaugant nuo perteklinio smurto [8], [9].

Svarbu pažymėti, kad DI algoritmai apdoroja duomenis remiantis statistiniais ir ekonominiais rodikliais [10], todėl “Lavender” ir kitų DI valdomų sistemų atrinkti duomenys apie gyvuosius taikinius turėjo būti išsamiai patikrinti atsakingų pareigūnų. Šių sistemų klaidos galimai sąlygojo perteklines civilių žūtis atakų Gazos ruože metu, todėl atskyrimo principas galėjo būti pažeistas dėl galbūt netikslių duomenų ar nepakankamos žmogaus kontrolės.

Antra, toks gyvųjų taikinių nustatymo metodas kelia klausimų dėl atitikties Ženevos konvencijų I Papildomojo Protokolo 51 ir II Papildomo protokolo 13 straipsniuose įtvirtinam proporcingumo principui. Šis principas reikalauja, kad karinės jėgos naudojimas būtų proporcingas siekiamam tikslui ir nesukeltų perteklinės žalos civiliams ir civiliams objektams. Galimos “Lavender” ir kitų DI valdomų sistemų klaidos atrenkant gyvuosius taikinius gali reikšti, kad šiuo atveju proporcingumo principas buvo paneigtas siekiant greičiau įgyvendinti strateginius tikslus [11]. Įgyvendinant proporcingumo principą būtinas karinių sprendimų moralinis ir humaniškas įvertinimas, ypatingą dėmesį skiriant tokių sprendimų pasekmėms. Kaip minėta, tokių savybių DI valdomos sistemos neturi, duomenys apdorojami statistiniu ar ekonominiu pagrindu. DI sistemos neturi sąmonės, todėl negali vertybiškai įvertinti surinktos informacijos palygindamos potencialią žalą civiliams ir strateginę sėkmę. Todėl už atakų Gazos ruože koordinavimą ir gyvųjų taikinių atrinkimą atsakingos Izraelio institucijos turėjo pareigą DI sistemų surinktus duomenis apie gyvuosius taikinius apdairiai ir atsakingai patikrinti, o prireikus pasirinkti kitus karinius metodus vengiant sukelti perteklinę žalą civiliams.

Trečia, “Lavender” ir kitų DI valdomų sistemų naudojimas gyvųjų taikinių atrinkimui galimai prieštarauja Ženevos konvencijų I Papildomo Protokolo 52 bei II Papildomo protokolo 13 straipsniuose. Šiuose straipsniuose įtvirtintas būtinumo principas reikalauja, kad karinė jėga būtų nukreipta tik į teisėtus karinius taikinius. Taigi, tiksliam teroristų ir karinių objektų nustatymui, neužtenka vien tikslių ir patikimų duomenų pagrindu veikiančio DI algoritmo, nes DI sistemos yra nepajėgios iki galo įvertinti atrinktų taikinių keliamos rizikos, pavojingų veiksmų pobūdžio, aktyvaus veikimo bei kitų kriterijų Todėl atrinkti taikiniai turėjo būti kruopščiai tikrinami atsakingų pareigūnų tam, kad būtų įsitikinta, kad karinės jėgos panaudojimas yra būtinas ir neišvengiamas visų identifikuotų asmenų atžvilgiu.

Be to, Ženevos konvencijų I Papildomojo protokolo 35 straipsnis įtvirtina draudimo sukelti perteklines kančias principą. Šis principas draudžia karo metu naudoti tokius metodus ar priemones, kurių veikimas nėra apribotas. “Lavender” ir kitos DI valdomos sistemos dalį gyvųjų taikinių nustatė galimai nepaisant atskyrimo, proporcingumo ir būtinumo principų, taip pat kyla klausimų, ar papildomas atrinktų duomenų patikrinimas buvo pakankamai išsamus. Tokie veiksmai galėjo sąlygoti perteklines civilių žūtis Gazos ruože, todėl DI sistemos galimai nebuvo apribotos taip, kad jų veikimas atitiktų jus in bello principus.

Izraelio karinės atakos Gazos ruože, įvykdytos pasitelkiant “Lavender” ir kitas DI valdomas sistemų gyvųjų taikinių nustatymui, sukėlė didelį civilių žūčių skaičių ir padarė reikšmingą žalą civilinei infrastruktūrai. Tokias pasekmes iš dalies galėjo nulemti ir netinkamai apribotas DI algoritmas, kuris galimai netiksliai apdorojo duomenis apie gyvuosius taikinius. Be to, dalis atakų buvo įvykdytos nakties metu, taikant į vietas, kuriose kartu buvo ir teroristai, ir jų šeimos nariai. Tai taip pat kelia abejonių dėl tokių atakų atitikties jus in bello principams. Taigi šios atakos gali būti laikomos neteisėtomis pagal I Papildomo protokolo 51 straipsnį, kuris numato, kad neteisėtos atakos yra tos, kurios “nėra nukreiptos į karinį objektą”, arba jei jos atliekamos pasitelkiant kovos metodą ar priemonę, kurios negalima “nukreipti į konkretų karinį objektą” ar apriboti pagal tarptautinės humanitarinės teisės taisykles.

Tokio pobūdžio atakos gali būti pripažintos karo nusikaltimais pagal Romos Statuto [12] 8 straipsnį, jei būtų įrodyti objektyvieji ir subjektyvieji nusikaltimo kriterijai. Šiuo atveju teismas vertintų, ar neteisėti veiksmai pažeidžia Ženevos konvencijų 3 straipsnio ir kitas nuostatas. Kitaip tariant, vertinama veiksmų atitiktis jus in bello pamatiniams principams. Taigi, galiimai perteklines civilių žūtis sukėlusios Izraelio atakos Gazos ruože galėtų būti laikomos karo nusikaltimais, jei atitiktų tarptautinės teisės doktrinoje apibrėžtus kriterijus, pirmiausia įvertinant neteisėtų veiksmų pobūdį bei sąsajas su ginkluotu konfliktu, bei sukeltą žalą civiliams. Nėra abejonių, kad Izraelio atakos Gazos ruože vyko Izraelio – “Hamas” konflikto metu,o pasirinkta karinė strategija lėmė perteklinį civilių žūčių skaičių, sukėlė kitos didelės žalos. Tokie veiksmai atitinka Tarptautinio baudžiamojo tribunolo buvusiai Jugoslavijai byloje “Prokuroras prieš Tadičių” [13] suformuluotus kriterijus, kuriais remiantis, karo nusikaltimais laikomas toks smurtas, kuris pažeidžia tarptautinės teisės dokumentuose įtvirtintas vertybes bei sukelia itin rimtas pasekmes aukoms.

Kaltė yra esminė individualios baudžiamosios atsakomybės asmeniui taikymo sąlyga, tačiau vien to, kad Izraelio pareigūnų veiksmai pagal pobūdį ir sukeltą rimtą žalą civiliams atitinka karo nusikaltimų sąvoką, neužtenka tam, kad šiuos galimai neteisėtus veiksmus vykdžiusiems ar įsakymą davusiems asmenims būtų pritaikyta atsakomybė. Tačiau kaltės įrodymą šiuo atveju apsunkina DI sistemų naudojimas. Pirma, DI sistemų diegimas ir priežiūra nepriklauso vienam pareigūnui ar institucijai, bet apima ir privačius duomenų tiekėjus, programuotojus ir kitų asmenų, kurie atlieka skirtingas funkcijas šių sistemų priežiūroje. Tai apsunkina kaltės priskyrimą konkretiems asmenims, nes už DI sistemų eksploatavimą ir naudojimą gyvųjų taikinių nustatymui atsakingi karo vadai, kiti pareigūnai savo galimą aplaidumą gali bandyti pateisinti DI sistemų, o ne savo pačių, klaidomis. Antra, karo nusikaltimais kaltinami asmenys gali vengti prisiimti moralinę atsakomybę už šių atakų sukeltus padarinius ir teigti, kad perteklinės civilių aukos yra tik DI klaidų rezultatas [14]. Tokiu atveju tiesioginio ryšio tarp asmens atliktų veiksmų ir pasekmių įrodymas taip pat kur kas sudėtingesnis. Kaltės nustatymą ir atsakomybės taikymą apsunkina ir tai, kad nei Romos Statute, nei kituose tarptautinės baudžiamosios teisės dokumentuose nėra nuostatų, reglamentuojančių atsakomybę už netinkamą DI naudojimą karo metu, taigi Izraelio veiksmų teisinis pripažinimas įmanomas tik tuo atveju, jei būtų neginčijamai įrodyta Izraelio karo vadų ir kitų atsakingų pareigūnų tyčinis ar aplaidus veikimas su gyvųjų taikinių nustatymu susijusiuose veiksmuose.

Už karo nusikaltimus ir kitus tarptautinius nusikaltimus valstybės pareigūnams taikoma individuali baudžiamoji atsakomybė. Atsakomybės taikymo klausimus šiuo atveju sprendžia Tarptautinis baudžiamasis teismas, kurio darbą reglamentuoja Romos Statutas. Šioje sutartyje apibrėžtas atskirų tarptautinių nusikaltimų turinys. Tarptautinio baudžiamojo teismo jurisdikcija galioja tik fiziniams asmenims, taigi pagal Romos Statuto 25 straipsnį, asmuo, įsakinėjęs, kurstęs ar pats atlikęs nusikaltimą “pagal šį Statutą yra asmeniškai atsakingas ir baudžiamas”. To paties Statuto 28 straipsnyje nustatyta, kad karo vadai atsako už savo pajėgų nusikaltimus, jei žinojo arba turėjo žinoti apie daromus nusikaltimus ir nesiėmė priemonių jiems užkirsti kelio. Šios atsakomybės taikymui reikšmės turi karo vado doktrina, kuri apibrėžia, kad asmuo gali būti baudžiamas ne tik už savo, bet ir už savo pavaldinių nusikaltimus, o individuali atsakomybė tokiu atveju – neišvengiama. Tai reiškia, kad ši atsakomybė gali būti taikoma Izraelio valstybės vadovams, karo vadams ir visiems kitiems žemesnio rango vadovams, jei būtų tiesiogiai įrodyta, kad gyvųjų taikinių nustatymui DI sistemos naudotos aplaidžiai arba tyčia siekiant sukelti perteklines civilių žūtis atakų Gazos ruože metu. Kadangi atakas vykdo ir koordinuoja kariuomenės ar kitos saugumo struktūros, kurioms būdingas hierarchiškumas, pavaldumas, individuali atsakomybė būtų taikoma ne tik įsakymą dėl galimai neteisėto taikinių atrinkimo davusiems asmenims, bet ir tiems pareigūnams, kurie tokius veiksmus tiesiogiai įvykdė. Jei galimai netinkamas gyvųjų taikinių nustatymas turėjo sistemiško nusikaltimo požymių, įsakymą dėl galimai netinkamo gyvųjų taikinių nustatymo metodo davusiems ir jį tiesiogiai vykdžiusiems asmenims galėtų būti taikoma bendra atsakomybė. Tačiau DI sistemų neapibrėžtumas teisės doktrinoje gali paskatinti nebaudžiamumą, kadangi būtini tiesioginiai įrodymai, kad visi aktyviai veikę ir įsakymus davę asmenys tyčia siekė tokiais savo veiksmais padaryti neproporcingą žalą civiliams.

Valstybė taip pat gali būti pripažinta atsakinga už kariuomenės ar kitų struktūrų padarytus tarptautinės humanitarinės teisės pažeidimus Tarptautiniame teisingumo teisme pagal šio teismo Statuto [15]34 straipsnį. Tokiais atvejais taip pat vertinama civiliams padaryta žala ir jos mastas ir valstybės gebėjimas efektyviai kontroliuoti kitos valstybės teritorijoje veikiančias karines pajėgas. Pavyzdžiui, byloje “Kongo Demokratinė Respublika prieš Ugandą” [16], Uganda buvo pripažinta tiesiogiai atsakinga už savo kariuomenės padarytus tarptautinius nusikaltimus Kongo Demokratinėje Respublikoje įvykdytus tarptautinius nusikaltimus, nes buvo įrodyta, kad tuo metu Uganda efektyviai kontroliavo ten veikusias karines pajėgas, taigi galėjo duoti įsakymus dėl atliekamų neteisėtų veiksmų nutraukimo. Izraelis taip pat galėtų būti pripažintas tiesiogiai atsakingu už galimai neteisėtas atakas Gazos ruože, jei būtų įrodyta, kad galimai netinkamai vykdytas gyvųjų taikinių nustatymo metodas šiam tikslui pasitelkiant DI valdomas sistemas buvo sistemingas neteisėtas veikimas, sąmoningai pasirinktas ir įgyvendintas kariuomenės ar kitos institucijos lygiu kaip struktūrinės valstybės gynybos plano dalis.

Svarbu pabrėžti skirtumą tarp individualios baudžiamosios ir tarptautinės atsakomybės. Individuali baudžiamoji atsakomybė apima asmens baudžiamąja atsakomybę už jo paties ar pavaldinių padarytus nusikaltimus. Tarptautinė atsakomybė reiškia valstybės teisinę atsakomybę už tarptautinės teisės pažeidimus. Abiejų rūšių atsakomybes galima taikyti kartu, tačiau jų atskyrimas gali būti sudėtingas tais atvejais, kai tarptautinius nusikaltimus sąlygoja valstybės politika, o nusikaltimus vykdo atskiri asmenys. Valstybė taip pat gali būti pripažinta tiesiogiai atsakinga už atskirų asmenų veiksmus. Izraelio atveju šių atsakomybių atskyrimas yra sudėtingas dėl neaiškumų, kas atsakingas už DI sistemų integravimą, priežiūrą ir tinkamą veikimą: valstybė, atskiri jos pareigūnai ar pats DI. Kaip jau minėta, DI kūrimo ir eksploatavimo procese dalyvauja daug asmenų, įskaitant ne tik atsakingas valstybės institucijas, bet ir privačias duomenų teikėjus ar kitus specialistus. Todėl šiuo atveju sunku nustatyti tikruosius asmenų ketinimus bei tai, kad DI sistemų klaidų ir kitų trūkumų galimai sąlygota žala buvo bendro plano dalis, o ne savaime įvykę techniniai nesklandumai. Vis gi, DI nėra ir negali būti teisinių santykių subjektu, todėl netinkamą tokių sistemų panaudojimą kariniams tikslams atsakomybė turėtų tekti tiems asmenims, kurie šias sistemas kuria, eksploatuoja ir prižiūri. Siekiant, kad DI klaidos neapsunkintų atsakomybės už tarptautinius nusikaltimus taikymo, Romos Statutą ir kitus tarptautinius dokumentus būtina papildyti nuostatomis, kurios apibrėžtų, koks DI sistemų naudojimas yra laikomas netinkamu pagal tarptautinę baudžiamąja teise, ir įtvirtintų, kad už DI klaidų sukeltą žalą civiliams karinių atakų metu atsako tiesiogiai už atakų organizavimą atsakingi asmenys.

Apibendrinant galima teigti, kad Izraelio gynybos struktūrų pasirinktas gyvųjų taikinių nustatymo metodas naudojant DI sistemas yra netinkamas dėl galimų šių sistemų klaidų rizikos ir nepakankamos atrinktų duomenų kontrolės. Dėl to šių sistemų naudojimas galimai pažeidžia jus in bello principus, taip pat galėjo sąlygoti perteklines civilių aukas atakų Gazos ruože metu. Karo metu Ženevos konvencijos ir jų Papildomi protokolai taikomi visoms valstybėms, todėl Izraelis, pasitelkdamas DI sistemas gyvųjų taikinių nustatymui, turėjo pareigą užtikrinti, kad šios sistemos veiktų pagal atskyrimo ir kitus principus. Tarptautinės teisės doktrinoje DI naudojimas karo metu nėra niekaip reglamentuotas, taip pat nėra apibrėžta atsakomybės už DI klaidas sąvoka. Dėl šios priežasties kaltės kvalifikavimas ir atsakomybės taikymas už tarptautinius nusikaltimus, kuriuose žala galimai nulemta ne žmogaus, o DI technologijų klaidų, yra reikšmingai apsunkintas.

Tekstą parengė VU Teisės fakulteto studentė Agota Stankevičiūtė. Autorės konsultantė buvo doc. dr. Indrė Isokaitė-Valužė.

Pagrindiniai šaltiniai: