STA novice / V veljavi akt o umetni inteligenci

Akt o umetni inteligenci določa harmonizirana pravila za dajanje na trg in za uporabo sistemov umetne inteligence v EU, prepovedi nekaterih praks umetne inteligence, posebne zahteve za visokotvegane sisteme umetne inteligence in obveznosti za operaterje takih sistemov.

Določa tudi harmonizirana pravila o preglednosti za nekatere sisteme umetne inteligence, harmonizirana pravila za dajanje na trg modelov umetne inteligence za splošne namene, pravila o spremljanju trga, nadzoru trga, upravljanju in izvrševanju ter ukrepe v podporo inovacijam s posebnim poudarkom na malih in srednjih podjetjih, vključno z zagonskimi podjetji, so spomnili na ministrstvu.

Cilj akta je po njihovih navedbah izboljšanje delovanja notranjega trga z določitvijo enotnega pravnega okvira, predvsem za razvoj, dajanje na trg, dajanje v uporabo ter za uporabo umetnointeligenčnih sistemov v EU, v skladu z vrednotami EU, da bi spodbujali uvajanje na človeka osredotočene in zaupanja vredne sisteme umetne inteligence in hkrati zagotovili visoko raven varovanja zdravja, varnosti in temeljnih pravic, kot so določene v listini EU o temeljnih pravicah, vključno z demokracijo, pravno državo in varstvom okolja.

Akt poleg zagotovil, da so sistemi umetne inteligence, ki se uporabljajo v EU, varni, pregledni, sledljivi, nediskriminatorni in okolju prijazni, prinaša tudi zaščito pred škodljivimi učinki sistemov umetne inteligence v EU.

"Generativna umetna inteligenca, kot je denimo ChatGPT, bo morala izpolnjevati zahteve po preglednosti, kot so razkritje, da je vsebino ustvarila umetna inteligenca, oblikovanje modela za preprečevanje ustvarjanja nezakonitih vsebin ter objava povzetkov avtorsko zaščitenih podatkov, ki jih uporablja za usposabljanje," so pojasnili na ministrstvu.

Kot so ob današnji priložnosti zapisali na nevladnem inštitutu Danes je nov dan, so tako kot druge civilnodružbene organizacije razočarani, da EU z aktom ni ubrala pristopa, ki bi bolj temeljil na človekovih pravicah, "a končna verzija po njihovem mnenju kljub temu vsebuje več možnih smeri za pozitivne spremembe".

Akt o umetni inteligenci obljube, da bo v središče postavil ljudi in njihove pravice, po njihovih besedah ne izpolnjuje v celoti, zato bodo v civilnodružbeni koaliciji še naprej delali na čim bolj smotrni implementaciji teh pravil. Nadaljevali bodo s prizadevanji za aktivno vlogo civilne družbe in za vsebinsko vključevanje vseh, ki jih uporaba umetnointeligenčnih sistemov zadeva, še posebej manjšinskih skupin, so napovedali.

Medtem ko se delo na področju umetne inteligence preveša v naslednjo fazo, so odločevalce pozvali, naj zagotovijo robustno in na človekovih pravicah temelječo implementacijo akta na ravni EU in nacionalnih ravneh; proaktivne ukrepe za zapolnitev vrzeli, ki jih pušča akt; dodatne nacionalne prepovedi ali omejitve za nesprejemljivo in škodljivo umetno inteligenco; hitro zaustavitev neskladnih rab umetne inteligence ter "resnično transparentne in vključujoče procese".

Evropska komisija je prvi regulativni okvir za umetno inteligenco predlagala aprila 2021. Akt o umetni inteligenci, 12. julija objavljen v Uradnem listu EU, se bo sicer v celoti začel uporabljati 2. avgusta 2026, pri čemer bodo določbe o priglašenih organih in strukturi upravljanja v uporabi od 2. avgusta 2025. Države članice morajo tako akt v svoje nacionalne zakonodaje implementirati v roku enega leta od njegove uveljavitve.