STA novice / Odbora Evropskega parlamenta za strožji nadzor umetne inteligence

Pravila, ki bodo urejala umetno inteligenco, bi temeljila na ravni tveganja, od česar bi bile odvisne tudi obveznosti ponudnikov in uporabnikov. Sistemi z nesprejemljivo ravnjo tveganja za varnost ljudi bi bili strogo prepovedani. To bi veljalo za sisteme, ki uporabljajo prikrite ali namerno manipulativne tehnike, izkoriščajo človekove ranljivosti ali se uporabljajo za razvrščanje posameznikov glede na njihovo družbeno vedenje, socialno-ekonomski status ali osebnostne lastnosti, so sporočili iz Evropskega parlamenta.

Evropski poslanci se v osnutku izhodišča za pogajanja s Svetom EU zavzemajo za prepoved vsiljivih in diskriminatornih sistemov, kot so biometrični sistemi za identifikacijo na daljavo v realnem času na javno dostopnih mestih, pa tudi tovrstni sistemi za poznejšo identifikacijo. Pri slednjih bi veljala izjema za pregon resnih zločinov po sodni odobritvi.

Prepovedali bi še biometrične sisteme za razvrščanje na podlagi občutljivih lastnosti, kot so spol, rasa, etnična pripadnost, vera in politična usmeritev. Med prepovedane sisteme umetne inteligence bi poleg tega uvrstili sisteme za zaznavanje čustev pri organih pregona, upravljanju meja, na delovnih mestih in v izobraževalnih ustanovah. Prav tako bi prepovedali vsesplošno črpanje biometričnih podatkov z družbenih omrežij ali nadzornih kamer za ustvarjanje baz podatkov za prepoznavo obraza.

Člani odborov bi razširili tudi definicijo visoko tveganih področij, in sicer bi vključili škodo za človekovo zdravje, varnost, temeljne pravice in okolje. Na seznam visoko tveganih sistemov pa bi dodali sisteme za vplivanje na volivce v volilnih kampanjah.

Poslanci so obenem v svoje stališče vključili obveznosti za ponudnike t. i. temeljnih modelov, pri katerih gre za velike modele umetne inteligence, ki se učijo na podlagi ogromnih količin neoznačenih podatkov. Ponudniki bi morali zagotoviti zaščito temeljnih pravic, zdravja, varnosti, okolja, demokracije in vladavine prava. Oceniti bi morali tudi tveganja in jih omejiti, upoštevati zahteve glede zasnove in informacij ter okoljske zahteve. Poleg tega bi jih morali registrirati v bazi EU.

Generativni temeljni modeli, kot je GPT, bi morali upoštevati še dodatne zahteve glede preglednosti. Med drugim bi morali opozoriti, da je vsebina nastala z umetno inteligenco, model pa bi morali zasnovati tako, da ne bi ustvarjal nezakonitih vsebin.

Uporabniki pa bi v skladu s stališčem parlamenta imeli pravico do pritožbe glede sistemov umetne inteligence. Upravičeni bi bili tudi do razlag odločitev, sprejetih na podlagi visoko tveganih sistemov umetne inteligence.

O osnutku stališča, ki sta ga odbora potrdila s 84 glasovi za, sedmimi proti in 12 vzdržanimi, bo Evropski parlament predvidoma glasoval na plenarnem zasedanju sredi junija. Nato bo lahko začel pogajanja s Svetom EU, ki je svoje pogajalsko izhodišče sprejel že decembra lani.