STA novice / V EU dogovor o prepovedi umetne inteligence za ustvarjanje globokih ponaredkov s spolno vsebino (dopolnjeno)

Določbo, ki prepoveduje prakse umetne inteligence v zvezi z ustvarjanjem spolnih in intimnih vsebin brez soglasja ter gradiva, ki prikazuje spolno zlorabo otrok, je marca v predlog Evropske komisije dodal Svet EU.

Za to se je odločil tudi v luči kritik družbenega omrežja X in njegovega klepetalnega robota z umetno inteligenco Grok zaradi seksualiziranih fotografij žensk in otrok. Zaradi spolno eksplicitnih vsebin, ustvarjenih z Grokom, se je X znašel tudi pod drobnogledom Bruslja.

Omenjena prepoved se tako nanaša na sisteme umetne inteligence na trgu EU, pri katerih niso zagotovljeni varnostni ukrepi za preprečitev ustvarjanja takšnih vsebin, in na ponudnike, ki sisteme umetne inteligence že uporabljajo za ustvarjanje globokih ponaredkov s spolno vsebino. Podjetja imajo v skladu z danes sprejetim dogovorom čas za uskladitev svojih sistemov do 2. decembra letos.

Načrtovana prepoved je izrecno osredotočena tudi na ustvarjanje gradiva, ki prikazuje spolno zlorabo otrok. "Krepimo zaščito otrok, pri čemer se osredotočamo na tveganja, povezana s sistemi umetne inteligence," je v izjavi dejala namestnica ciprskega ministra za evropske zadeve Marilena Raouna.

Delitev intimnega ali manipuliranega gradiva brez soglasja, vključno z globokimi ponaredki, je bila sicer leta 2024 v EU opredeljena kot kazniva oblika kibernetskega nasilja.

Bruselj je v okviru novembra lani predstavljenega digitalnega svežnja predlagal poenostavitev akta o umetni inteligenci, ki se bo glede na predlani sprejeto pravno podlago začel v celoti uporabljati 2. avgusta letos. Takrat bi se morala med drugim začeti uporabljati pravila za visoko tvegane sisteme umetne inteligence. Za sisteme na področjih, kot so biometrija, kritična infrastruktura, izobraževanje, zaposlovanje, migracije, azil in nadzor meja, bodo po pojasnilih ministrstva za digitalno preobrazbo pravila začela veljati 2. decembra 2027.

Za sisteme, ki so vključeni v proizvode, kot so dvigala ali igrače, pa bodo nove obveznosti veljale od 2. avgusta 2028.

V okviru danes sprejetega dogovora se prav tako zamika uveljavitev obveznosti uporabe vodnega žiga na vsebini, ustvarjeni s pomočjo umetne inteligence, do 2. decembra 2026. Kot so spomnili v Bruslju, gre za tehniko, ki omogoča odkrivanje in sledenje vsebine, ki jo ustvari umetna inteligenca.

Dogovor po navedbah ministrstva prinaša tudi poenostavitve za podjetja. Nekatere ugodnosti, namenjene malim in srednjim podjetjem, bodo razširjene na mala podjetja s srednje veliko tržno kapitalizacijo. Hkrati naj bi se zmanjšalo podvajanje zahtev med aktom o umetni inteligenci in sektorsko zakonodajo EU o varnosti proizvodov. Več inovatorjev naj bi imelo dostop do regulativnih peskovnikov, v katerih bodo lahko testirali rešitve umetne inteligence v realnih pogojih. Okrepile se bodo tudi pristojnosti urada za umetno inteligenco pri Evropski komisiji, zlasti pri nadzoru nekaterih sistemov, vključno s sistemi, ki temeljijo na modelih splošnega namena.

Preden bodo nova pravila začela dokončno veljati, jih morajo države članice EU in Evropski parlament potrditi še formalno.