STA novice / Evropski parlament za strožji nadzor umetne inteligence

Pravila, ki bodo urejala umetno inteligenco, bi glede na mnenje evropskih poslancev temeljila na ravni tveganja, od česar bi bile odvisne tudi obveznosti ponudnikov in uporabnikov, so sporočili iz Evropskega parlamenta.

Sistemi z nesprejemljivo ravnjo tveganja za varnost ljudi bi bili strogo prepovedani. To bi moralo veljati za vsiljive in diskriminatorne sisteme, kot so biometrični sistemi za identifikacijo na daljavo v realnem času na javno dostopnih mestih, pa tudi tovrstni sistemi za poznejšo identifikacijo.

Prepovedali bi še biometrične sisteme za razvrščanje na podlagi občutljivih lastnosti, kot so spol, rasa, etnična pripadnost, vera in politična usmeritev. Med prepovedane sisteme umetne inteligence bi poleg tega uvrstili sisteme za zaznavanje čustev pri organih pregona, upravljanju meja, na delovnih mestih in v izobraževalnih ustanovah. Prav tako bi prepovedali vsesplošno črpanje biometričnih podatkov z družbenih omrežij ali nadzornih kamer za ustvarjanje baz podatkov za prepoznavo obraza.

Evropski poslanci se zavzemajo tudi za to, da bi med visoko tvegane sisteme vključili tiste, ki predstavljajo grožnjo za človekovo zdravje, varnost, temeljne pravice ali okolje. Prav tako menijo, da bi morali za visoko tvegane veljati sistemi za vplivanje na volivce v volilnih kampanjah.

Poslanci so obenem v svoje stališče vključili obveznosti za ponudnike t. i. temeljnih modelov, pri katerih gre za velike modele umetne inteligence, ki se učijo na podlagi ogromnih količin neoznačenih podatkov. Oceniti bi morali tveganja za temeljne pravice, zdravje, varnost, okolje, demokracijo in vladavino prava ter jih omejiti. Poleg tega bi morali sisteme registrirati v bazi EU.

Generativni temeljni modeli, kot je ChatGPT, bi morali upoštevati še dodatne zahteve glede preglednosti, menijo poslanci. Med drugim bi morali opozoriti, da je vsebina nastala z umetno inteligenco, model pa bi morali zasnovati tako, da ne bi ustvarjal nezakonitih vsebin.

Uporabniki pa bi v skladu s stališčem parlamenta imeli pravico do pritožbe glede sistemov umetne inteligence. Upravičeni bi bili tudi do razlag odločitev, sprejetih na podlagi visoko tveganih sistemov umetne inteligence.

Stališče so poslanci na današnjem glasovanju potrdili s 499 glasovi za, 28 proti, 93 pa se jih je glasovanja vzdržalo.

Pogajanja z državami članicami, ki so svoje pogajalsko izhodišče sprejele že decembra lani, se bodo začela še danes, so zapisali v Evropskem parlamentu.