TFL Vsebine / TFLGlasnik

TFL Glasnik:
Pred dobrim letom smo vas že gostili. Ste višja državna tožilka, februarja 2025 pa ste bili za pet let imenovani tudi za namestnico nacionalnega predstavnika v Agenciji Evropske unije za pravosodno sodelovanje v kazenskih zadevah Eurojust. Tokrat vas gostimo tudi zaradi zelo odmevnega predavanja na naši konferenci Umetna inteligenca in pravni izzivi. Začniva nekoliko širše: kako razumete pomen digitalizacije in umetne inteligence v pravosodju?

Anita Veternik:
Najprej najlepša hvala za povabilo. Vedno se rada odzovem na vabila k pogovorom, pri katerih imam občutek, da lahko prispevam svoj pogled na vprašanja, ki so danes zelo aktualna, umetna inteligenca pa je zagotovo eno izmed njih.

Umetna inteligenca je izjemno močno orodje. Morda se niti še ne zavedamo dovolj, kako močno je. Na kazenski postopek vpliva že danes, v prihodnosti pa lahko pričakujemo, da bo njen vpliv še večji. Če pogledamo, na kaj vse lahko vpliva v kazenskem postopku, lahko govorimo o več ravneh.

Najširša raven je način dela vseh zaposlenih na področju kazenskega prava. Pri tem ne gre samo za strokovnjake in praktike, temveč tudi za administracijo, kar pomeni, da se spreminjajo naši poslovni procesi.

Druga raven je način dela preiskovalcev, državnih tožilcev in sodnikov. Umetno inteligenco lahko razumemo kot izjemno zmogljivega pomočnika pri odkrivanju in preiskovanju kaznivih dejanj ter pri pregledovanju in analizi velikih količin podatkov. Zagotavlja lahko tudi analitično podporo pri delu, vendar ne sme nadomestiti človeške strokovne presoje. Odločitev in odgovornost zanjo morata ostati pri človeku.

Hkrati umetna inteligenca spreminja tudi okolje, v katerem se izvršujejo kazniva dejanja. Tudi sama kazniva dejanja se zaradi umetne inteligence spreminjajo, storilci pa njene zmogljivosti prepoznavajo hitreje in jih uspešno uporabljajo za učinkovitejše, obsežnejše in zahtevnejše oblike kaznivih dejanj.

Vpliv umetne inteligence na kazenski postopek je zato zelo velik. Na nas pa je, da določimo meje in pogoje njene uporabe. Še pomembneje je, da zaposlene pripravimo na novo realnost – ne samo tako, da bodo razumeli njene prednosti, ampak predvsem, da se bodo zavedali pomena kritične presoje. Umetna inteligenca namreč ni nezmotljiva in ima svoje omejitve.

Pri uporabi umetne inteligence v pravosodju se zato vedno znova pojavlja vprašanje meje med pomočjo tehnologije in človeškim odločanjem.

TFL Glasnik:
To je eden ključnih izzivov, na katerega opozarjajo tako strokovnjaki kot tudi širša javnost. Jasno moramo določiti, kakšen je lahko prispevek umetne inteligence in zlasti, kje so meje njene uporabe. Kolikšna je lahko njena vloga pri podpori odločanju in kako zagotoviti, da strokovna presoja, končna odločitev in odgovornost zanje ostanejo pri človeku?

Anita Veternik: 
Prav človeška presoja mora tudi v času umetne inteligence ostati bistvo odločanja.

TFL Glasnik:
To mejo še iščemo. Nekaj okvirov določa tudi evropski Akt o umetni inteligenci, ki določene sisteme na področju pravosodja uvršča med visoko tvegane. Pri pravosodju pa imamo še posebno občutljivo vprašanje podatkov. Tožilstvo in policija razpolagata z izjemno občutljivimi in zaupnimi podatki. Kako zagotoviti njihovo varnost pri uporabi velikih jezikovnih modelov in drugih sistemov umetne inteligence?

Anita Veternik:
Pri tem je treba ločiti dve stvari. Prva je obljuba, kaj vse nam umetna inteligenca lahko prinese. To je zelo vabljivo tudi za praktike: kako jo uporabiti, da si olajšamo delo, hitreje in bolj kakovostno sprejemamo odločitve. Na področju pravosodja pa morajo biti te odločitve seveda tudi zakonite.

Povsem drugo vprašanje je, kako bomo podatke posredovali sistemu in pri tem zagotovili njihovo varnost. Prav pri podatkih, ki so zelo občutljivi in so lahko tudi označeni z določeno stopnjo tajnosti, mora biti varnost še posebej poudarjena. To ne pomeni, da umetne inteligence ne moremo uporabljati. Zagotoviti pa moramo, ustrezno ločeno in varno okolje, v katerem smo popolnoma prepričani, kako se podatki obdelujejo, kako in kje se shranjujejo, kdo jih uporablja, kdo ima nad njimi nadzor in kdo lahko do njih dostopa.

Če zagotovimo izpolnjevanje teh visokih in povsem upravičenih standardov, smo na dobri poti. Kazenski postopek namreč vključuje uporabo represivnih pooblastil države. Da je njihova uporaba lahko zakonita in legitimna, moramo imeti vzpostavljene močne varovalke za zaščito človekovih pravic.

Če izpolnimo vse te pogoje, lahko umetno inteligenco uporabljamo v ustrezno zavarovanem sistemu, v katerem so podatki učinkovito zaščiteni.

TFL Glasnik:
Naslednje vprašanje pa je, kako zagotoviti, da nam bo tak sistem lahko dobro služil. Razmišljati moramo o tem, kako bo deloval, na katerih podatkih bo temeljil, in kako bomo preverjali kakovost in zanesljivost njegovih rezultatov. Pomembno je, da lahko računamo na to, da nam bo orodje zagotovilo dovolj kakovostno podlago za odločanje. Tu se znova vrnemo k najpomembnejšemu vprašanju: kje se konča prispevek umetne inteligence in začne strokovna presoja človeka?

Anita Veternik:
Končna odločitev mora ostati človekova.

Ko takšno orodje damo v roke uporabniku, moramo zagotoviti, da pozna njegove zmogljivosti in omejitve. Človek ne sme postati zgolj formalni odločevalec, ki samo potrdi predlog sistema, ker naj bi bil ta »pametnejši« od njega. Še vedno mora biti sposoben tudi zavrniti tisto, kar mu umetna inteligenca predlaga, in na podlagi zakona, dokazov in strokovnega znanja samostojno sprejeti pravilno odločitev.

TFL Glasnik:
Pravniki bodo morali torej najprej razumeti, kako sistemi umetne inteligence sploh delujejo – kaj se dogaja s podatki, kako se modeli učijo, kaj je dovoljeno in kje so tveganja. Nato pa moramo vzpostaviti tudi jasno odgovornost strokovnjaka, ki mora stati za končno odločitvijo.

Anita Veternik:
Pri uporabi umetne inteligence v kazenskih postopkih smo še vedno v razmeroma zgodnji fazi. Gre za izjemno občutljivo področje, ne samo zaradi osebnih podatkov, ampak tudi zaradi njihove vsebine ter vzorcev in povezav, ki jih je mogoče iz njih prepoznati. Tako lahko dobimo zelo široko sliko posameznika, ki močno presega samo dejanje, ki ga obravnavamo.

Zato je izjemno pomembno, kako določimo meje uporabe. Nobena skrajnost ni dobra. Če bi uporabo umetne inteligence popolnoma prepovedali zaradi strahu pred njenimi tveganji, bi naredili napako. Razlog je preprost: na drugi strani imamo ljudi, ki umetno inteligenco in njene prednosti že zelo uspešno uporabljajo. To so med drugim storilci kaznivih dejanj, s katerimi se moramo soočati.

Če organi pregona nimajo na voljo ustreznih orodij, ki bi jih lahko uporabljali zakonito, je lahko oteženo že samo odkrivanje takšnih kaznivih dejanj. Enako pa velja tudi za drugo skrajnost. Če uporabo tako močnega orodja dovolimo brez postavljenih meja, ne moremo več ustrezno zaščititi posameznika in njegovih pravic.

Neurejeno področje uporabe umetne inteligence lahko povzroči resne posege v zasebnost in oslabi procesne pravice. Tudi takšne skrajnosti si ne moremo privoščiti. Največji izziv bo zato določiti pravo mejo. Na eni strani bo moral zakonodajalec postaviti jasen okvir, znotraj katerega bomo umetno inteligenco lahko uporabljali zakonito. Vendar ni vse odvisno od zakonodajalca.

Nekaj moramo narediti tudi sami. V praksi moramo znati prepoznati največje pasti in se nanje ustrezno pripraviti. Predvsem pa se mi zdi izjemno pomembno, da na uporabo umetne inteligence pripravimo uporabnike. Treba jih je izobraziti in doseči, da se zavedajo, da morajo ohraniti svojo aktivno vlogo. Znati morajo oceniti, do katere mere lahko zaupajo rezultatom umetne inteligence in kako morajo pri odločanju ohraniti lastno presojo. Na koncu morajo sprejeti odločitev, za katero so pripravljeni tudi sami stati.

TFL Glasnik:
Kako daleč smo danes pri tem ozaveščanju – v Sloveniji in širše v evropskem pravosodju?

Anita Veternik:
Mislim, da na tem področju zaostajamo, čeprav napredek v Sloveniji in širše v evropskem pravosodju ni enak. Morda smo ljudi začeli ozaveščati prepozno. Najprej smo vsi dobili možnost uporabljati umetno inteligenco in smo jo začeli uporabljati zaradi lastne radovednosti in želje po znanju. Šele nato se je resneje odprlo vprašanje, kako naj bi jo uporabljali pri svojem poklicnem delu.

Po mojem mnenju smo predolgo čakali na to, kakšne bodo meje in kaj bo o umetni inteligenci odločil zakonodajalec. Včasih pa je treba razmišljati tudi znotraj pravil, ki veljajo danes. Morda ta niso idealno prilagojena realnosti, vendar moramo znotraj obstoječega okvira poiskati možnosti. Le tako lahko tudi ugotovimo, kaj bo treba v prihodnosti spremeniti.

Če pogledamo s praktičnega vidika, storilci kaznivih dejanj tehnologijo uporabljajo zelo hitro in praktično brez omejitev. Če želimo umetno inteligenco v pravosodju uporabljati tako, da bo njena uporaba sprejemljiva in zakonita, pa moramo najprej zagotoviti pravne podlage, urediti poslovne procese, zagotoviti ustrezno infrastrukturo in izpolniti številne druge pogoje. To zahteva več časa. Vendar zaradi tega ne smemo čakati na popolno ureditev vseh vprašanj, preden sploh začnemo pripravljati rešitve. Takrat bo prepozno.

Začeti moramo zdaj. Pogovarjati se moramo tudi o spremembah delovnih procesov. Zelo malo verjetno je, da bodo procesi, ki so bili oblikovani za analogni svet, uspešno delovali tudi v digitalnem svetu, če jih bomo vanj samo prenesli. Stvari bi se morali lotiti z nasprotne strani: najprej moramo razumeti, kaj nam tehnologija omogoča. Nato lahko ob upoštevanju namena postopkov in pravnih zahtev poskušamo preoblikovati poslovne procese tako, da bodo tudi dejansko delovali.

In seveda – znanje. Morda zveni kot že neštetokrat ponovljen stavek, vendar drži: ljudi je treba ves čas izobraževati in usposabljati. Niso vsi takšni, da se bodo samoiniciativno učili, večinoma pa za to zaradi preobremenjenosti z delom tudi ni dovolj časa. Zato moramo v izobraževanje vložiti več energije in stvari aktivno premakniti naprej. Ljudi moramo ozavestiti predvsem o tem, kako lahko umetna inteligenca pomaga, pa tudi o tem, da lahko orodje v rokah nekoga, ki ga ne zna pravilno uporabljati, povzroči več škode kot koristi.

TFL Glasnik:
Prav usposabljanje uporabnikov bi se lahko začelo takoj. Za to pravzaprav ni treba čakati na zakonodajo. Bi potrebovali nekakšen skupen, morda celo nacionalni program za pravosodje? Sama imam občutek, da je trenutno še vedno več strahu kot volje do uporabe umetne inteligence.

Anita Veternik:
Da, potrebovali bi sistematičen in usklajen program za usposabljanje.

Strah obstaja in je do neke mere popolnoma razumljiv. Imamo opravka s tehnologijo, ki se izjemno hitro razvija, o njenem delovanju pa zaposleni v pravosodju še vedno vemo relativno malo. Za nas je nova in nepoznana ter spreminja tudi koncepte dela, ki so bili zakoreninjeni v našem delu. Razvoj je tako hiter, da mu je težko slediti. Tudi sama imam pomisleke glede smeri razvoja in njegovih posledic.

Kljub temu pa je treba narediti prvi korak naprej. Seznaniti se moramo z izzivi, tveganji in koristmi, ki jih prinaša umetna inteligenca. Le tako bomo tudi sami sposobni povedati, kaj želimo in kaj potrebujemo. Samo tako bomo po mojem mnenju lahko oblikovali okvire, ki bodo uporabni tudi v praksi in znotraj katerih bomo lahko opravljali svoje delo zakonito in odgovorno.

Morda bi pričakovali, da je na evropski ravni položaj bistveno drugačen oziroma boljši, vendar večinoma nimam takšnega občutka. To je širši izziv, ki ni omejen samo na eno državo. Pravniki se običajno ukvarjamo s številnimi vprašanji in umetna inteligenca je samo eno izmed področij, na katerih se trenutno dogaja revolucija. Še zdaleč ni edino.

Ker smo preplavljeni z različnimi zahtevnimi vprašanji, ki čakajo na odgovore in so pomembna za delo pravosodja, morda premalo pozornosti namenjamo ozaveščanju in izobraževanju. Ko se o tem pogovarjam s kolegi, se pogosto strinjamo, da obstaja zelo veliko odprtih vprašanj, da smo včasih nekoliko izgubljeni – čeprav je to težko priznati – in da bo treba združiti moči ter resno začeti tlakovati pot naprej. Cilj mora biti uporaba umetne inteligence na način, da nam bo dejansko v pomoč.

TFL Glasnik:
Proti koncu se dotakniva še druge plati umetne inteligence – kaznivih dejanj. Kako se spreminjajo in kje vas storilci z uporabo novih tehnologij najbolj presenečajo? Kaj je danes pri njihovem odkrivanju in dokazovanju najtežje?

Anita Veternik:
Gre za večplasten problem. Ena najbolj očitnih sprememb ni neposredno povezana samo z umetno inteligenco, temveč z digitalnim in kibernetskim okoljem nasploh. V zadnjih letih se srečujemo z vedno večjimi količinami elektronskih dokazov.

Količine podatkov so ogromne. Prav tu nam je lahko umetna inteligenca v veliko pomoč. Pomaga nam lahko pri rekonstrukciji časovnega poteka dogodkov, iskanju povezav, identificiranju finančnih tokov in odkrivanju vzorcev. Še posebej pri čezmejnem kriminalu je to izjemno pomembno. Umetna inteligenca lahko v zelo kratkem času analizira količine podatkov, za pregled katerih bi ljudje potrebovali mesece – če bi jih sploh lahko obdelali. Pa še v tem primeru nimamo zagotovila, da bi prišli do enakega rezultata.

S tem pa se odpre novo vprašanje: kakšne so meje selekcioniranja podatkov? V tako veliki količini informacij mora umetna inteligenca opraviti določeno selekcijo. Vsaka selekcija pa sproži vprašanje: kaj je z informacijami, ki jih umetna inteligenca ni označila kot pomembne? Te informacije morda sploh ne pridejo pod naš radar. Ponovno se torej znajdemo pred vprašanjem, kako umetna inteligenca deluje in koliko mora uporabnik o njenem delovanju vedeti, da lahko razume, na kakšni podlagi je bil določen rezultat ustvarjen.

Ni nujno, da poznamo vse tehnične podrobnosti vsakega algoritma. Pomembno pa je, da lahko preverimo, kako smo do določenega rezultata prišli, ga ocenimo in ga povežemo z drugimi dokazi. Rezultata, ki ga ustvari umetna inteligenca, ne moremo nekritično sprejeti kot edinega. Oceniti ga moramo skupaj z drugimi dokazi, ki nam pomagajo sestaviti celotno sliko in sprejeti pravo odločitev.

Druga velika sprememba pa so nove oblike kaznivih dejanj. Mene je na primer zelo presenetilo spoznanje, da za nekatere sofisticirane oblike kibernetskega kriminala sploh ni več nujno potrebno poglobljeno računalniško znanje. Umetna inteligenca lahko del teh nalog prevzame. S tem se lahko bistveno razširi tudi krog potencialnih storilcev. Pred pojavom umetne inteligence je bilo določeno tehnično znanje pogosto nujen pogoj oziroma je moral biti vsaj eden izmed članov organizirane skupine računalniški strokovnjak. Danes to ni več nujno v enaki meri. Z uporabo umetne inteligence se lahko povečajo tudi zahtevnost, pogostost in domet kibernetskih kaznivih dejanj. To je eno izmed spoznanj, ki me je resno zaskrbelo. Naše tradicionalne predstave o značilnem profilu storilca ne držijo več nujno. Zato se moramo ponovno vprašati, kako takšne storilce odkrivati, katera orodja uporabljati, katere pravne podlage potrebujemo in kako v vsej tej poplavi informacij, podatkov in novih vprašanj določiti mejo, pri kateri bomo še vedno v zadostni meri varovali človekove pravice. To je vprašanje, ki ga bomo morali obravnavati izjemno resno.

TFL Glasnik:
Morda je prav to ključno sporočilo najinega pogovora. Za konec pa še naše tradicionalno vprašanje: kakšno bi bilo ob vsem povedanem vaše sporočilo Slovencem?

Anita Veternik:
Rekla bi: uporabljajmo umetno inteligenco, vendar s spoštovanjem do njene moči. Zavedati se moramo, da uporaba umetne inteligence ni več vprašanje prihodnosti, ampak je že postala del naše realnosti. Pred njo se ne moremo skriti. Ko jo uporabljamo, pa moramo ves čas ohraniti sposobnost kritične presoje. Prav ta bo ključna, da bomo lahko sprejeli odločitev, za katero bomo pripravljeni stati v vsakem trenutku.

Še vedno smo ljudje. Imamo svoje vrednote in strokovno znanje, ki jih moramo ohraniti in uporabljati tudi v prihodnje. Umetna inteligenca ne sme postati orodje, ki bo nadomestilo naše odločanje ali mislilo namesto nas. Ostati mora pomočnik, ki lahko naše sposobnosti izboljša.

Končna presoja in odločitev pa morata ostati naši.