STA novice / Svet EU potrdil akt o umetni inteligenci

"Veleposlaniki članic pri EU so potrdili končno kompromisno besedilo predloga o usklajenih pravilih o umetni inteligenci," je prek omrežja X sporočilo belgijsko predsedstvo Svetu EU. Ob tem so zapisali, da je akt o umetni inteligenci mejnik, saj predstavlja prvo tovrstno zakonodajo v svetu.

Zakonodajo je Evropska komisija predlagala leta 2021, Svet EU in Evropski parlament pa sta okvirni dogovor o aktu o umetni inteligenci dosegla v začetku decembra.

Po uradni potrditvi akta s strani Sveta EU mora to zdaj storiti še parlament. Ta bo o aktu glasoval marca ali aprila, uradno pa naj bi bil nato potrjen maja, je poročala AFP.

Vendar akt ne bo začel veljati takoj. Nekatera pravila se bodo začela uporabljati v roku šestih mesecev, drugi elementi akta pa dve leti pozneje.

Akt o umetni inteligenci vsebuje varovala za uporabo umetne inteligence na območju EU, pa tudi omejitve pri njeni uporabi, denimo s strani organov pregona. Temeljijo na oceni tveganja za posamezne programske modele - večje kot je tveganje za pravice ali zdravje posameznika, več je obveznosti.

Akt predvideva, da morajo biti temeljni modeli, kot sta jezikovni model ChatGPT in modeli za splošne namene GPAI, v skladu z obvezo o preglednosti, preden pridejo na trg. To vključuje pripravo tehnične dokumentacije ter uskladitev z evropsko zakonodajo o avtorskih pravicah in širjenju podrobnih povzetkov o vsebini, ki se uporablja za izobraževanje.

Visoko učinkoviti modeli, ki so utemeljeni na osnovnih načelih z visoko stopnjo tveganja, bodo morali izvajati evalvacijo modela, ocenjevati in zmanjševati sistemsko tveganje, obveščati Evropsko komisijo o resnih incidentih, zagotavljati kibernetsko varnost ter poročati o energetski učinkovitosti.

Oblasti lahko uporabljajo biometrični nadzor v realnem času v javnih prostorih samo v primerih žrtev določenih kaznivih dejanj, preprečevanja dejanskih, trenutnih ali predvidljivih groženj, kot so teroristični napadi in iskanje osumljencev za najhujša kazniva dejanja.

Akt prepoveduje kognitivno vedenjsko manipulacijo, zbiranje fotografij obrazov z interneta ali s posnetkov nadzornih kamer, sistem družbenega ocenjevanja in biometrične kategorizacije z namenom ugotavljanja političnih, verskih in drugih prepričanj, spolne usmerjenosti in rase.

Slovenija pozdravlja akt o umetni inteligenci, ki prinaša sistemski pristop k regulaciji te tehnologije na notranjem trgu EU, je na javni predstavitvi mnenj o aktu v DZ pretekli teden dejala ministrica za digitalno preobrazbo Emilija Stojmenova Duh. Po njenem prepričanju ni več vprašanje, ali moramo regulirati umetno inteligenco, temveč kako jo bomo regulirali. Ob tem je poudarila, da se z aktom ne regulira raziskav in razvoja te tehnologije, temveč namene uporabe.