Portal TFL

TFL Vsebine / TFLGlasnik

Kaj prinašata Okvirna konvencija o umetni inteligenci, človekovih pravicah, demokraciji, in pravni državi ter Akt o umetni inteligenci?*

O PUBLIKACIJI in AVTORJU
ŠTEVILKA in LETO IZDAJE
AVTOR
Maruša T. Veber, univerzitetna diplomirana pravnica, doktorica pravnih znanosti, docentka in raziskovalka na Pravni fakulteti Univerze v Ljubljani
Datum
07.05.2024
Rubrika
Tema tedna
Pravna podlaga
Povezave
Podsistem TAX
Podsistem FIN
Podsistem LEX
Povzetek
Naj vse bralce TFL Glasnika v uvodu tega prispevka najprej povabim na mednarodni dogodek Global Conference on AI and Human Rights, ki bo 13. in 14. junija 2024 na Pravni fakulteti Univerze v Ljubljani.
BESEDILO
Naj vse bralce TFL Glasnika v uvodu tega prispevka najprej povabim na mednarodni dogodek Global Conference on AI and Human Rights, ki bo 13. in 14. junija 2024 na Pravni fakulteti Univerze v Ljubljani.

Umetno inteligenco (UI) poznamo kot tehnološki pojav že nekaj časa (elementi UI so prisotni v pametnih telefonih, spletnem iskanju, navigacijskih sistemih), vendar pa je zlasti z razmahom velikih jezikovnih modelov resnično pritegnila našo pozornost. Nedvomno je potencial sistemov UI izjemen, saj zagotavljajo konkurenčno prednost ter podpirajo družbeno koristne rezultate (na primer na področju zdravstvenega varstva, kmetijstva, upravljanja infrastrukture, energije, prometa in logistike, javnih storitev, varnosti, pravosodja[1]) ter lahko pomembno pripomorejo k naslavljanju globalnih problemov, kot so klimatske spremembe in biotska raznolikost.[2] Vendar pa lahko UI povzroči tudi tveganja z vidika varstva človekovih pravic, zaradi česar njen razvoj in uporaba terjata določeno mero previdnosti. Negativnih posledic ni mogoče povsem izničiti, je pa pomembno, da v okviru pravne ureditve UI uvedemo ustrezne varovalke, ki bi škodljive posledice preprečevale in zagotavljale varno uporabo umetne inteligence.[3]

Področje človekovih pravic urejajo različni zavezujoči mednarodnopravni[4] in nacionalni[5] dokumenti, vendar pa ti ne vsebujejo posebnih določb, ki bi se nanašale na nove tehnologije. Zato se postavlja vprašanje, kako zagotoviti skladnost sistemov umetne inteligence, ki jih razvijajo in uporabljajo tako zasebni subjekti kot tudi države, s temi obstoječimi standardi človekovih pravic. Zaradi specifik delovanja umetne inteligence je ključno, da se sprejmejo ustrezne varovalke, ki bodo v skladu s temi standardi zagotavljale varno uporabo sistemov UI. Zlasti so zaradi nepreglednosti algoritmov ter velike količine podatkov, ki jih ti sistemi uporabljajo, sistemi UI tvegani z vidika varovanja zasebnosti in osebnih podatkov ter diskriminacije. Obstoječi pravni okvir glede tega nudi določene odgovore, vendar pa ne vedno v zadostni meri. Ker se sistemi UI na primer napajajo z vhodnimi podatki, ki kot taki pogosto vsebujejo neenakosti in nepravičnosti, lahko pride do poglabljanja in diskriminacije marginaliziranih skupin na primer na podlagi starosti, spola ali etnične pripadnosti. Gre za t. i. pojem bias oz. pristranskosti na katerega opozarjajo številni strokovnjaki[6] in ga je težko preprečevati z obstoječimi pravili varstva pred diskriminacijo.

V zadnjem času je mogoče zaznati porast različnih mednarodnih, regionalnih, pravnih, etičnih in drugih dokumentov mehkega prava, ki urejajo razvoj in uporabo UI.[7] Med pomembnejšimi v našem prostoru sta zagotovo Akt o umetni inteligenci (Akt o UI), ki je nastal v okviru Evropske unije (EU), ter Okvirna konvencija o umetni inteligenci, človekovih pravicah, demokraciji, in pravni državi, ki je bila pripravljena v okviru Sveta Evrope. Gre za, globalno gledano, prva mednarodna zavezujoča pravna akta s področja UI, ki sta v zaključni fazi sprejema.

Okvirna konvencija o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi

V okviru Sveta Evrope je, pod okriljem Odbora za UI, v pripravi Okvirna konvencija o umetni inteligenci, človekovih pravicah, demokraciji in pravni državi, katere namen je vzpostaviti globalno uporaben pravni okvir, ki bo določal skupna splošna načela in pravila razvoja in uporabe UI.[8] Pri pogajanjih zato ni sodelovalo zgolj 46 držav članic Sveta Evrope, temveč tudi Združene države Amerike, Kanada, Mehika, Japonska, Avstralija, Ekvador, Peru, Urugvaj in Argentina.[9] Okvirna konvencija je bila zasnovana kot ambiciozen kodifikacijski projekt, ki bi zagotovil široko polje uporabe in bi torej zajemal tako aktivnosti javnega in zasebnega sektorja, vključno z omejitvami uporabe umetne inteligence v okviru kazenskega pregona, nacionalne varnosti in obrambe, ter vzpostavil mehanizem ocene tveganj in učinkov sistemov umetne inteligence na človekove pravice. Vendar pa je v zadnji različici besedila zaradi pritiskov nekaterih držav in želje po čim širšem krogu držav pogodbenic te konvencije prišlo do relativizacije nekaterih določb. V svoji zadnji različici tako Okvirna konvencija sicer poudarja obveznost spoštovanja obstoječih mednarodnih in nacionalnih standardov varstva človekovih pravic,[10] vendar iz področja uporabe v veliki meri izključuje zasebne akterje[11] kot tudi področje nacionalne varnosti in obrambe.[12] Konvencija v členih 7 do 13 sicer opredeljuje temeljna načela, povezana z dejavnostmi v življenjskem ciklu sistemov UI, kot so: človekovo dostojanstvo in avtonomija posameznika, preglednost in nadzor, odgovornost, enakopravnost in nediskriminacija, zasebnost in varstvo podatkov, zanesljivost ter varne inovacije. Vendar pa so ti opredeljeni splošno, z obveznostjo držav da sprejmejo ali ohranijo ukrepe za zagotovitev teh načel, pri čemer je državam dopuščena določena mera fleksibilnosti pri implementaciji in urejanju tega področja glede na njihovo nacionalno ureditev. V Okvirni konvenciji je sicer predviden sistem ocenjevanja in zmanjšanja tveganj in škodljivih vplivov UI,[13] ki pa podrobneje ne določa, kateri sistemi UI bi morali biti prepovedani zaradi tveganj, povezanih s človekovimi pravicami, in poleg tega državam članicam prepušča, na kakšen način bodo vzpostavile učinkovite mehanizme nadzora nad izpolnjevanjem obveznosti iz konvencije.[14]

Zdi se, da je bil, z namenom doseči globalni učinek te pogodbe, sprejet kompromis, ki upošteva dejstvo, da imajo države različne nacionalne standarde, pri čemer je bil možen dogovor zgolj glede skupnih izhodišč. Na to so se kritično odzvali nacionalni organi za človekove pravice,[15] nevladne organizacije in nekateri akademiki,[16] ki so pogajalce pozvali k sprejemu strožjih in bolj konkretnih standardov varstva človekovih pravic, zlasti tudi za zasebne akterje in na področju obrambe. Čeprav gre za pomemben korak in resnično prvi zavezujoči globalni instrument na tem področju, h kateremu lahko pristopijo vse svetovne države, se zdi, da Svet Evrope ni bil povsem uspešen pri poenotenju globalnih standardov uporabe umetne inteligence.

Akt o umetni inteligenci

Pri Aktu o UI[17] gre za pravni akt EU, katerega namen je sprejem pravil, ki urejajo razvoj in uporabo umetne inteligence na enotnem trgu EU ter spodbujanje naložb in inovacij na tem področju v Evropi. Gre za harmonizacijo pravil o UI, ki pa ne posegajo v veljavno pravo EU, zlasti pravo o varstvu podatkov, varstvu potrošnikov, temeljnih pravicah, zaposlovanju in varstvu delavcev ter varnosti proizvodov. Ta obstoječa pravila Akt o UI zgolj dopolnjuje.[18]

Akt o UI zelo podrobno določa razvoj in uporabo UI in je v določeni meri naslovil tudi vprašanje varovanja človekovih pravic, preko t. i. »na tveganju« utemeljenega pristopa. To pomeni, da kategorizira sisteme UI glede na stopnjo tveganja, ki bi ga lahko imeli z vidika zdravja, varnosti, temeljnih pravic, okolja, demokracije ali pravne države: prepovedane prakse UI (npr. socialno ocenjevanje na podlagi družbenega vedenja ali osebnih značilnosti),[19] sistemi visokega tveganja, ki so našteti v prilogi III,[20] modeli UI za splošne namene s sistemskim tveganjem[21] ter modeli UI za splošne namene.[22] Akt določa standarde in obveznosti, ki so strožji, čim večje je tveganje za posameznike ali za družbo kot celoto. Medtem ko so sistemi umetne inteligence, katerih stopnja tveganja velja za nesprejemljivo, povsem prepovedani, za visokotvegane sisteme veljajo določene zahteve glede kakovosti podatkov,[23] preglednosti,[24] človeškega nadzora,[25] ocene učinka na temeljne pravice[26] ter registracije.[27] Vendar pa Akt o UI hkrati določa, da gre pri oceni tveganja za samoregulativno dejavnost,[28] saj bodo ponudniki sami ocenili, v katero kategorijo se umešča njihov produkt. Poleg tega je bila v akt vnesena izjema za sisteme UI za vojaške in obrambne namene ter namene nacionalne varnostni.[29] To bi lahko pomenilo, da bi se v izjemnih primerih lahko uporabljali tudi nekateri sporni sistemi UI, kot je biometrična identifikacija na daljavo in uporaba tehnologij za prepoznavanje čustev. V kakšni meri so varovalke ustrezne, se bo pokazalo v fazi implementacije Akta o UI in nadzora nad njegovim izvajanjem. Akt med drugim predvideva vzpostavitev različnih organov za upravljanje na ravni EU (npr. Urad za umetno inteligenco in Evropski odbor za umetno inteligenco[30]), na nacionalni ravni pa nacionalnim organom dopušča možnost izvedbe ocene skladnosti določenega sistema UI z obveznostmi iz Akta[31] ter vključuje pravico do vložitve pritožbe pri organu za nadzor trga s strani pravnih in fizičnih oseb, ki utemeljeno menijo, da je prišlo do kršitve določb uredbe.[32] Globe za kršitev določb uredbe segajo do 35 milijonov evrov, če je kršitelj podjetje pa do sedem odstotkov njegovega skupnega svetovnega letnega prometa za preteklo poslovno leto, odvisno od tega, kateri znesek je višji.[33]

Globalna konferenca o umetni inteligenci in človekovih pravicah

Oba pravna akta in tudi druga vprašanja glede razvoja in uporabe UI ter človekovih pravicah bodo naslovljeni na mednarodni znanstveni konferenci Global conference on AI and human rights, ki bo pod vodstvom prof. dr. Vasilke Sancin 13. in 14. junija 2024 potekala na Pravni fakulteti Univerze v Ljubljani. Gre za največji globalni dogodek na temo umetne inteligence in človekovih pravic na katerem bodo predavali priznani strokovnjaki iz Slovenije in tujine. Vljudno vabljeni k ogledu programa in registraciji

Opombe:

* Prispevek temeljni na predstavitvi, ki jo je imela avtorica na 10. dnevih prava zasebnosti in varovanja informacij in je bil pripravljen v okviru manjšega temeljnega raziskovalnega projekta z naslovom Razvoj in uporaba umetne inteligence v luči negativnih in pozitivnih obveznosti države zagotavljati pravico do življenja (J5-3107), ki ga sofinancira Javna agencija za znanstvenoraziskovalno in inovacijsko dejavnost Republike Slovenije (ARIS).

[1] Glej tudi denimo nedavno predstavljeni TFL AI.

[2] Akt o Umetni inteligenci (13. marec 2024), odst. 4.

[3] Vasilka Sancin: Umetna inteligenca in pravica do življenja, v: TFL Glasnik, 13 (2021) 29.

[4] Na primer Mednarodni pakt o državljanskih in političnih pravicah, Evropska konvencija o človekovih pravicah, Listina EU o temeljnih pravicah, Konvencija o otrokovih pravicah in Konvencija o pravicah invalidov.

[5] Na primer 14.-65. člen Ustave Republike Slovenije, Uradni list RS, št. 33/91-I in nasl.

[6] Glej npr. projekt AI4Gov.

[7] Glej npr. UNESCO Recommendation on the Ethics of Artificial Intelligence (2021); OECD Council Recommendation on Artificial Intelligence (2019).

[8] Preambula, odst. 9, Okvirna konvencija o umetni inteligenci, človekovih pravicah, demokraciji, in pravni državi (20. marec 2024).

[9] Council of Europe, Artificial Intelligence.

[10] 4. in 21. člen Okvirne konvencije.

[11] Prvi odstavek 3. člena Okvirne konvencije.

[12] Drugi odstavek 3. člena Okvirne konvencije.

[13] 16. člen Okvirne konvencije.

[14] 26. člen Okvirne konvencije.

[15] Draft Convention on AI, Human Rights, Democracy and Rule of Law finalised: ENNHRI raises concerns.

[16] Open letter to Council of Europe AI Convention negotiators: do not water dawn our rights.

[17] Slovenski prevod zadnje različice uredbe je dostopen tu: https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138-FNL-COR01_SL.pdf.

[18] Preambula, odst. 9 Akt o UI.

[19] 5. člen Akta o UI.

[20] 6. člen Akta o UI.

[21] 55. člen Akta o UI.

[22] 53. člen Akta o UI.

[23] 10. člen Akta o UI.

[24] 13. člen Akta o UI.

[25] 14. člen Akta o UI.

[26] 27. člen Akta o UI.

[27] 49. člen Akta o UI.

[28] 6. člen Akta o UI.

[29] Tretji odstavek 2. člena Akta o UI.

[30] 64. člen in 65. člen Akta o UI.

[31] 79. člen Akta o UI.

[32] 85. člen Akra o UI.

[33] 99. člen Akta o UI.

BREZPLAČNI PREIZKUS

Tax-Fin-Lex d.o.o.
pravno-poslovni portal,
založništvo in
izobraževanja

Tax-Fin-Lex d.o.o.
Železna cesta 18
1000 Ljubljana
Slovenija

T: +386 1 4324 243
E: info@tax-fin-lex.si

CERTIFIKATI IN EU PROJEKTI

 
x - Dialog title
dialog window