STA novice / Članice EU za prepoved umetne inteligence za ustvarjanje globokih ponaredkov s spolno vsebino

"Poenostavitev pravil na področju umetne inteligence je ključnega pomena za zagotovitev digitalne suverenosti EU," je po odločitvi članic poudarila namestnica ciprske ministrice za evropske zadeve Marilena Raouna. Ciper namreč trenutno predseduje Svetu EU, ki ga sestavljajo države članice.

Svet EU je v predlog Evropske komisije dodal odločbo, ki prepoveduje prakse umetne inteligence v zvezi z ustvarjanjem spolnih in intimnih vsebin brez soglasja ter gradiva, ki prikazuje spolno zlorabo otrok, je zapisano v sporočilu za javnost Sveta EU.

Prepoved sistemov umetne inteligence za ustvarjanje globokih ponaredkov s spolno vsebino prihaja v luči kritik družbenega omrežja X in njegovega klepetalnega robota z umetno inteligenco Grok zaradi seksualiziranih fotografij žensk in otrok, ki jih je robot objavljal. Zaradi spolno eksplicitnih vsebin, ustvarjenih z Grokom, se je X znašel tudi pod drobnogledom Bruslja.

Bruselj je v okviru novembra lani predstavljenega digitalnega svežnja predlagal poenostavitev akta o umetni inteligenci, ki se bo glede na predlani sprejeto pravno podlago začel v celoti uporabljati 2. avgusta letos. Takrat bi se morala med drugim začeti uporabljati pravila za umetnointeligenčne sisteme velikega tveganja, ki bodo morali izpolnjevati stroge zahteve.

Komisija zdaj predlaga zamik uveljavitve pravil za te sisteme, dokler ne bodo pripravljeni potrebni standardi oziroma smernice, a najdlje do decembra 2027.

Članice EU so danes predlagale konkreten datum za zamik uveljavitve pravil za tovrstne samostojne sisteme, in sicer 2. december. Za umetnointeligenčne sisteme velikega tveganja, ki so vgrajeni v izdelke, pa 2. avgust 2028.

Poleg tega komisija predlaga razširitev poenostavitev v okviru akta, ki veljajo za mala in srednje velika podjetja, še na nekoliko večja oziroma t. i. mid-cap podjetja. Prav tako bi okrepila pristojnosti regulatornega urada za umetno inteligenco ter centralizirala nadzor nad umetnointeligenčnimi sistemi, vzpostavljenimi na osnovi modelov za splošne namene.

Po današnji potrditvi besedila na Svetu EU se bodo začela pogajanja z Evropskim parlamentom.