Praktinės dirbtinio intelekto diegimo gairės sveikatos priežiūroje: nuo teisinės atitikties iki organizacinio pasirengimo

Dirbtinio intelekto (DI) taikymo medicinoje keliamos rizikos nebėra vien hipotetinės. 2018 m. buvo paskelbta, kad „Watson for Oncology“ – DI pagrindu veikianti klinikinių sprendimų palaikymo sistema, skirta padėti gydytojams parinkti onkologinių pacientų gydymo strategijas, – kai kuriais atvejais pateikė neteisingas ir potencialiai nesaugias vėžio gydymo rekomendacijas. Problemos, be kita ko, buvo siejamos su tuo, kad sistema buvo mokoma naudojant ribotą skaičių hipotetinių, o ne realių pacientų atvejų [1]. Kitas atvejis susijęs su „Epic Sepsis Model“ – elektroninėse sveikatos įrašų sistemose naudojamu prognozavimo modeliu, skirtu anksti nustatyti pacientus, kuriems gali išsivystyti sepsis. Mičigano universiteto sveikatos sistemoje atliktas jo vertinimas parodė, kad modelis praleido maždaug du trečdalius sepsio atvejų ir generavo daug klaidingų perspėjimų [2]. Be to, mokslininkai nustatė, kad „Whisper“ – automatinio kalbos atpažinimo modelio, skirto sakytinei kalbai paversti tekstu, – transkripcijose gali atsirasti išgalvoto teksto, įskaitant neegzistuojančio gydymo formuluotes, nors šiuo modeliu grindžiamos priemonės jau buvo naudojamos medicininių konsultacijų transkripcijoms rengti [3].

Šie atvejai susiję su skirtingomis technologijomis ir skirtingais jų naudojimo tikslais, tačiau juos sieja viena esminė aplinkybė: medicinoje DI sauga negali būti vertinama vien pagal tai, ar sistema techniniu požiūriu veikia ir ar yra integruota į klinikinę infrastruktūrą. Rizika gali kilti dėl mokymo ar validavimo duomenų, netinkamo sistemos pritaikymo konkrečiai klinikinei aplinkai, nepakankamos žmogaus priežiūros, nekritiško pasikliovimo algoritmo rezultatu, neaiškios incidentų valdymo tvarkos ar galimybės patikrinti pirminę informaciją stokos. Kitaip tariant, DI sistemos patikimumas priklauso ne tik nuo paties algoritmo, bet ir nuo viso jo gyvavimo ciklo – nuo pasirinkimo ir diegimo iki kasdienio naudojimo, stebėsenos ir reagavimo į nukrypimus.

Tai nereiškia, kad DI medicinoje pirmiausia turėtų būti suvokiamas kaip grėsmė. Priešingai, jo potencialas yra ypač reikšmingas. Šiuolaikinė sveikatos priežiūros sistema išgyvena esminę skaitmeninę transformaciją, kurioje DI  užima vis svarbesnę vietą. Šiandien DI sistemos gali būti pasitelkiamos tiek medicininėje diagnostikoje, tiek administracinių užduočių atlikimo procese, pavyzdžiui, registruojant pacientus, rengiant dokumentus ar planuojant darbo srautus [4].  Vis dėlto, atsižvelgiant į šio tyrimo apimtį, toliau pagrindinis dėmesys skiriamas DI sistemų taikymui medicininėje diagnostikoje, todėl kitos jų taikymo sveikatos priežiūroje sritys plačiau nenagrinėjamos. Medicininėje diagnostikoje ir klinikinių sprendimų priėmimo procesuose DI reikšmė ypač didėja augant medicininių duomenų kiekiui, kurį sveikatos priežiūros specialistams tampa vis sudėtingiau visapusiškai įvertinti.Be to, mokslinėje literatūroje pabrėžiama, kad šių technologijų taikymo potencialas akivaizdus ir gali prisidėti prie tikslesnės diagnostikos, sveikatos problemų prevencijos, efektyvesnio sveikatos priežiūros išteklių panaudojimo ir sklandesnio klinikinių procesų organizavimo [4].  Sparčiai augant medicininių duomenų kiekiui, sveikatos priežiūros specialistams tampa vis sudėtingiau visapusiškai įvertinti visą prieinamą informaciją. Todėl DI sistemos sveikatos priežiūros įstaigose tampa svarbiu klinikinių sprendimų palaikymo įrankiu, padedančiu sistemingai analizuoti didelius duomenų kiekius ir identifikuoti dėsningumus [5]. Nors DI sistemų teikiama nauda yra reikšminga, jų taikymas sveikatos priežiūroje taip pat gali kelti rizikų pacientų saugai. Šios rizikos siejamos ne tik su potencialiais technologiniais netikslumais, bet ir su sistemų kūrimo, validavimo, diegimo bei naudojimo ypatumais. Todėl diskusija apie dirbtinio intelekto taikymą sveikatos priežiūroje šiandien nebegali apsiriboti vien technologiniu progresu – ji neišvengiamai apima pacientų saugą, žmogaus teisių apsaugą, duomenų valdymą, skaidrumą, žmogaus priežiūrą bei atsakomybės paskirstymą [6]. Net jeigu ir buvo imtasi visų prieinamų priemonių, kad DI sistema veiktų tiksliai bei saugiai, vis dar nėra iki galo aišku, kaip turi būti faktiškai užtikrinama žmogaus priežiūra, kokiais atvejais sistemos naudotojas gali remtis algoritmo rekomendacijomis, kaip turi būti stebimas sistemos veikimas ar kaip elgtis pastebėjus jos veikimo sutrikimus. Šiems klausimams spręsti reikalingas aiškus teisinis ir organizacinis pagrindimas, o tiksliau – aiškios gairės, kurių pagalba būtų galima spręsti praktiškai kylančius klausimus.

2024 m. priimtas Europos Parlamento ir Tarybos reglamentas (ES) 2024/1689, žinomas kaip Dirbtinio intelekto aktas, tapo pirmuoju pasaulyje išsamiu teisės aktu, kuriuo siekiama ne tik skatinti inovacijas, bet ir užtikrinti aukštą pagrindinių teisių apsaugos bei visuomenės saugumo lygį [6][7]. Viena svarbiausių šio reglamento naujovių – rizika grindžiamas reguliavimo modelis. Jis reiškia, kad visoms dirbtinio intelekto sistemoms nėra taikomi vienodi reikalavimai. Kuo didesnę riziką sistema gali kelti žmogui ar visuomenei, tuo griežtesni tampa jos kūrėjams ir naudotojams taikomi įpareigojimai. Pavyzdžiui, sveikatos priežiūros įstaigose administraciniams procesams naudojamos DI sistemos nebūtinai patenka į didelės rizikos kategoriją, jų teisinis statusas priklauso nuo konkrečios sistemos numatytos paskirties ir jos poveikio asmenų teisėms ar sprendimų priėmimui. Jei tokia sistema daro reikšmingą įtaką sprendimams dėl pacientų galimybės gauti sveikatos priežiūros paslaugas ar kitų III priede nurodytų sričių, ji taip pat gali būti laikoma didelės rizikos DI sistema pagal AI akto 6 straipsnio 2 dalį. Tuo tarpu medicinos diagnostikoje naudojamos dirbtinio intelekto sistemos dažniausiai patenka į didelės rizikos kategoriją. Tokioms sistemoms DI aktas nustato papildomas pareigas, susijusias su žmogaus priežiūros užtikrinimu, rizikos valdymu, veikimo stebėsena, incidentų registravimu, darbuotojų kompetencijų užtikrinimu ir bendradarbiavimu su sistemų tiekėjais [8].

2026 m. priimtu Reglamentu (ES) 2026/1744 bendroji DI akto taikymo data liko 2026 m. rugpjūčio 2 d., tačiau DI akto III skyriaus 1–3 skirsnių nuostatų, skirtų didelės rizikos DI sistemų klasifikavimui, reikalavimams ir jų teikėjų bei diegėjų pareigoms, taikymas buvo atidėtas: pagal 6 straipsnio 2 dalį ir III priedą klasifikuojamoms sistemoms – iki 2027 m. gruodžio 2 d., o pagal 6 straipsnio 1 dalį ir I priedą klasifikuojamoms sistemoms – iki 2028 m. rugpjūčio 2 d. Sveikatos priežiūros sektoriui ypač aktuali būtent antroji data, nes į šį reguliavimo mechanizmą patenka dalis DI pagrindu veikiančių medicinos priemonių.

DI akto priėmimas žymi svarbų žingsnį kuriant suderintą DI teisinio reguliavimo sistemą Europos Sąjungoje. Vis dėlto šis reglamentas nustato bendruosius teisinius reikalavimus, todėl praktinis jų įgyvendinimas reikalauja papildomų organizacinių sprendimų.

Visų pirma, DI aktas nėra vienintelis teisės aktas, kuriuo sveikatos priežiūros sektoriuje turi vadovautis gydymo įstaigos. Praktikoje sveikatos priežiūros įstaigoms tenka vienu metu orientuotis keliuose tarpusavyje susijusiuose reguliavimo lygmenyse [12][13][14]. Didžioji dalis medicinos diagnostikoje naudojamų DI sistemų kartu laikomos medicinos priemonėmis arba in vitro diagnostikos medicinos priemonėmis. Tai reiškia, kad joms taikomi ne tik DI akto, bet ir Medicinos priemonių reglamento (toliau – MDR) bei In vitro diagnostikos medicinos priemonių reglamento (toliau – IVDR) reikalavimai. Nuo sistemos paskirties, rizikos klasės ir atitikties vertinimo procedūros priklauso ne tik jos pateikimo rinkai sąlygos, bet ir tai, kokias pareigas turės prisiimti ją naudojanti sveikatos priežiūros įstaiga [7].

Antra, DI sistemų taikymas medicinoje yra neatsiejamas nuo pacientų sveikatos duomenų tvarkymo, todėl jų diegimas ir naudojimas turi atitikti ne tik DI akto, bet ir Bendrojo duomenų apsaugos reglamento (BDAR) bei kitų sveikatos duomenų tvarkymą reglamentuojančių teisės aktų reikalavimus[10].

Galiausiai, iššūkių kyla siekiant užtikrinti pacientų teises bei aiškų atsakomybės pasidalijimą tarp sistemos tiekėjo, gydymo įstaigos ir sveikatos priežiūros specialisto. Ne mažiau svarbus tampa ir žmogaus priežiūros principas – net ir pažangiausia didelės rizikos dirbtinio intelekto sistema negali veikti taip, kad žmogus prarastų galimybę suprasti jos pateikiamus rezultatus, juos kritiškai įvertinti ir prireikus priimti kitokį sprendimą [8][9].

Praktikoje reikia nuspręsti, kaip įvertinti planuojamos naudoti sistemos teisinį statusą, kas organizacijoje bus atsakingas už jos priežiūrą, kaip bus vykdoma veikimo stebėsena, valdoma rizika, registruojami incidentai, dokumentuojami procesai ir užtikrinamas darbuotojų pasirengimas dirbti su naujomis technologijomis. Šie klausimai peržengia vieno specialisto kompetencijos ribas ir reikalauja koordinuoto gydytojų, informacinių technologijų specialistų, kokybės vadybos, duomenų apsaugos ir administracijos bendradarbiavimo [11].

Taigi, sveikatos priežiūros įstaigoms, siekiančioms įsidiegti aukštos rizikos DI sistemą, tenka spręsti daugybę praktinių klausimų: kaip įvertinti planuojamą diegti dirbtinio intelekto sistemą, kaip nustatyti jai taikomus teisinius reikalavimus, kaip paskirstyti atsakomybes organizacijos viduje, užtikrinti žmogaus priežiūrą, organizuoti sistemos veikimo stebėseną, valdyti incidentus ir tinkamai dokumentuoti visą jos gyvavimo ciklą. Nors kiekvienas šių klausimų atskirai gali atrodyti techninis, kartu jie sudaro vientisą organizacinę sistemą, nuo kurios priklauso ne tik teisinė atitiktis, bet ir pacientų sauga [11]. Metodinės gairės tampa teisės aktų  praktinio įgyvendinimo priemone, padedančia sveikatos priežiūros įstaigoms sudėtingus teisės aktų reikalavimus paversti aiškia veiksmų seka, leidžiančia atsakingai, saugiai ir nuosekliai diegti didelės rizikos dirbtinio intelekto sistemas klinikinėje praktikoje [11].

Siekiant prisidėti prie atsakingo DI diegimo Lietuvos sveikatos priežiūros sistemoje, šiuo metu vykdomas Lietuvos mokslo tarybos finansuojamas mokslinis tyrimas, kuriame analizuojamas Europos Sąjungos DI reguliavimo praktinis taikymas medicininės diagnostikos srityje. Tyrimo tikslas – įvertinti, kaip Europos Sąjungos teisės aktų reikalavimai gali būti nuosekliai ir praktiškai įgyvendinami kasdienėje gydymo įstaigų veikloje bei kokių metodinių priemonių tam reikia.

Šio tyrimo rezultatas – Lietuvos sveikatos priežiūros sektoriui rengiamos metodinės gairės, kurios nėra skirtos pakeisti galiojančių teisės aktų ar nustatyti naujas pareigas. Priešingai – jų paskirtis yra padėti gydymo įstaigoms suprasti, kaip praktiškai taikyti jau galiojančius reikalavimus, nuosekliai planuoti dirbtinio intelekto sistemų diegimą, jų naudojimą ir priežiūrą klinikinėje praktikoje.

Rengiant gaires pasirinktas metodas, leidžiantis sistemiškai įvertinti visą dirbtinio intelekto sistemos gyvavimo ciklą, suskirstant jį į šešis nuoseklius etapus: (1) pirminį teisinį ir organizacinį pasirengimą, (2) planuojamos DI sistemos teisinį kvalifikavimą ir taikytinų reikalavimų nustatymą, (3) pasirengimą sistemos diegimui, įskaitant rizikų, duomenų apsaugos ir atsakomybių įvertinimą, (4) sistemos diegimą ir integravimą į sveikatos priežiūros įstaigos veiklą, (5) saugų sistemos naudojimą užtikrinant žmogaus priežiūrą bei darbuotojų kompetenciją ir (6) nuolatinę sistemos stebėseną, veikimo vertinimą bei atitikties palaikymą. Toks metodas pasirinktas siekiant, kad rekomendacijos būtų ne tik teisiškai pagrįstos, bet ir lengvai pritaikomos praktikoje įvairaus dydžio Lietuvos sveikatos priežiūros įstaigose.

Tikimasi, kad parengtos gairės padės sumažinti teisinį neapibrėžtumą, palengvins gydymo įstaigų pasirengimą įgyvendinant DI akto reikalavimus ir prisidės prie saugesnio, nuoseklesnio bei teisėto ir pacientų saugą užtikrinančio didelės rizikos dirbtinio intelekto sistemų diegimo Lietuvos sveikatos priežiūros sistemoje.

Parengtos metodinės gairės bus pristatytos rugpjūčio 18 d. 11 val. nuotoliniu būdu vyksiančiame renginyje „Teisė prieš algoritmą: kokius reikalavimus turi atitikti dirbtinis intelektas medicininėje diagnostikoje?“. Renginio metu taip pat vyks vieša diskusija, kurioje sveikatos priežiūros, teisės ir kitų sričių ekspertai aptars praktinius dirbtinio intelekto diegimo medicininėje diagnostikoje iššūkius, teisinio reguliavimo taikymą bei sveikatos priežiūros įstaigų pasirengimą saugiai ir atsakingai naudoti šias technologijas. Registracija į nuotolinį renginį: https://forms.cloud.microsoft/e/MTyzvSDQji.

Straipsnį parengė Vilniaus universiteto Teisės fakulteto ketvirto kurso studentė Miglė Bernatonytė ir asistentė dr. Neringa Gaubienė. Straipsnis parengtas vykdant Lietuvos mokslo tarybos finansuojamą Studentų vasaros praktikos projektą.

Naudota literatūra

1. Ross C, Swetlitz I. IBM’s Watson supercomputer recommended ‘unsafe and incorrect’ cancer treatments, internal documents show. STAT. 2018 Jul 25. Prieiga per internetą: statnews.com.
2. Ross C. A popular algorithm to predict sepsis misses most cases and sends frequent false alarms, study finds. STAT. 2021 Jun 21. Prieiga per internetą: statnews.com.
3. Burke G, Schellmann H. Researchers say an AI-powered transcription tool used in hospitals invents things no one ever said. Associated Press. 2024. Prieiga per internetą: apnews.com.
4. Bartusik-Aebisher D, Raj DRJ, Aebisher D. Artificial Intelligence in Medical Diagnostics: Foundations, Clinical Applications, and Future Directions. Applied Sciences. 2026;16(2):728.
5. Green BL, Murphy A, Robinson E. Accelerating health disparities research with artificial intelligence. Front Digit Health. 2024;6:1330160. doi: 10.3389/fdgth.2024.1330160.
6. van Kolfschooten H, van Oirschot J. The EU Artificial Intelligence Act (2024): Implications for Healthcare. Health Policy. 2024;149:Article 105152.
7. 2024 m. birželio 13 d. Europos Parlamento ir Tarybos reglamentas (ES) 2024/1689, kuriuo nustatomos suderintos dirbtinio intelekto taisyklės (Dirbtinio intelekto aktas). Europos Sąjungos oficialusis leidinys. 2024;OJ L.
8. Aboy M, Minssen T, Vayena E. Navigating the EU AI Act: Implications for Regulated Digital Medical Products. npj Digital Medicine. 2024;7(1):Article 237.
9. Busch F, Kather JN, Johner C, Moser M ir kt. Navigating the European Union Artificial Intelligence Act for Healthcare. npj Digital Medicine. 2024;7(1):Article 210.
10. Europos Parlamento ir Tarybos reglamentas (ES) 2016/679 2016 m. balandžio 27 d. dėl fizinių asmenų apsaugos tvarkant asmens duomenis ir dėl laisvo tokių duomenų judėjimo ir kuriuo panaikinama Direktyva 95/46/EB (Bendrasis duomenų apsaugos reglamentas). Europos Sąjungos oficialusis leidinys. 2016;L 119:1–88. Prieiga per internetą: europa.eu
11. Tsioutra S, Davalas A. Preparing Healthcare Organizations for Compliance with the European AI Act. International Journal of Social Science and Economic Research. 2026;11(2):57–78.
12. 2017 m. balandžio 5 d. Europos Parlamento ir Tarybos reglamentas (ES) 2017/745 dėl medicinos priemonių. Europos Sąjungos oficialusis leidinys. 2017;L 117:1–175.
13. 2017 m. balandžio 5 d. Europos Parlamento ir Tarybos reglamentas (ES) 2017/746 dėl in vitro diagnostikos medicinos priemonių. Europos Sąjungos oficialusis leidinys. 2017;L 117:176–332.
14. Pecchia L ir kt. Artificial Intelligence, Data Protection and Medical Device Regulations: Squaring the Circle with a Historical Perspective in Europe. Health and Technology. 2024;14(4):663–670.