STA novice / Umetna inteligenca vse pogostejša tudi pri promocijskih volilnih materialih in objavah (tema)

Nekateri kandidati, ki so uporabili UI, so na vprašanja STA pojasnili, da so se za to odločili zaradi dostopnosti, nižjih stroškov in možnosti, da del grafičnih predlog pripravijo sami. Dva kandidata sta z UI ustvarjala oziroma spreminjala tudi podobe na plakatih, ena od kandidatk pa jo je uporabila za okvir plakata, zamegljeno ozadje in oblikovanje napisa. Njen portret je posnel fotograf v studiu.

Od ustvarjanja podob kraja do skupine podpornikov s podobnimi obrazi

Med primeri uporabe orodij UI na družabnih omrežjih zadnje dni izstopa objava na Facebook strani Občinskega odbora SDS Izola. Objavili so fotografijo večje skupine ljudi, ki delujejo kot člani ali podporniki SDS, stojijo pa za plakatom županskega kandidata Gregorja Periča ter stojnico SDS, nekateri v rokah držijo slovenske zastavice in plakate SDS. Ker so si obrazi oseb med seboj zelo podobni, so nekateri na družbenih omrežjih podvomili v verodostojnost fotografije.

Da gre najverjetneje za fotografijo, obdelano z umetno inteligenco, opozarja že Facebookov vgrajeni mehanizem za analizo vsebin. Spletno orodje za zaznavanje vodnih žigov SynthID Detector (na portalu synthid.com) pa je medtem potrdilo, da so bila pri obdelavi fotografije uporabljena orodja podjetja OpenAI.

Na Občinskem odboru SDS Izola za STA niso bili dosegljivi za pojasnila, v kakšni meri so uporabili UI. Je pa Perič za POP TV v ponedeljek povedal, da je "šlo za nek štos" in da ni bilo mišljeno, da bi fotografija prepričala ljudi, da gre za resnično fotografijo. "Če pogledate fotografijo, ki je zdaj postala viralna, lahko vidite, da so obrazi vsi isti. Tako, da se dejansko vidi, da je narejeno z umetno inteligenco," ni skrival Perič. Fotografijo so medtem umaknili s strani.

Eden od županskih kandidatov, ki je uporabljal AI, je tudi župan Radencev Roman Leljak. Kot je povedal za STA, je s pomočjo ChatGPT pripravil grafične predloge, postavitve napisov in volilnih številk ter krajšal besedila za letake. Pri eni od grafik je uporabil fotografijo in orodju naročil, naj v ozadje umesti podobo domačega kraja. Odločil se je za rešitev, ki mu je omogočala hitro preizkušanje in popravljanje različnih predlogov. Besedila je pregledal lektor, tisk pa je prevzel izvajalec iz regije.

Prav tako se je za pomoč umetne inteligence odločil edini kandidat za župansko mesto v občini Lenart Marko Horvat. Plakate je oblikoval sam s svojimi fotografijami in plačljivimi programskimi orodji. Orodja UI je uporabljal predvsem pri ozadjih in napisih. Ocenil je, da so orodja učinkovita, dostopna in omogočajo rezultat, primerljiv z dražjim oblikovanjem. Na njegovih plakatih je v spodnjem desnem kotu tudi sporočilo, da so bile fotografije obdelane s pomočjo UI, je še dodal za STA.

Kandidatka za županjo in aktualna županja v Selnici ob Dravi Vlasta Krmelj je gradivo pripravila skupaj z ekipo, pri oblikovanju tiskanega materiala pa je sodeloval oblikovalec, ki je poskrbel tudi za tisk. Pri fotografiranju, oblikovanju in tisku so sodelovali z izvajalci iz bližnjega okolja, del gradiva pa so zaradi omejenega proračuna pripravili sami. UI jim je omogočila hitrejšo in cenejšo grafično obdelavo. Uporaba UI na plakatu po njenih besedah ni bila posebej označena, saj je njen portret fotografovo delo, je povedala za STA.

Med razlogi za uporabo UI so med drugim nižji stroški kampanje. Horvat je tako pojasnil, da oblikovalca ni najel zaradi zakonske omejitve stroškov županske kampanje, ki so v njegovem primeru omejeni na 1614 evrov, vključno z vsemi stroški. Oblikovanje bi tako lahko predstavljalo več kot polovico tega zneska. Lektorski pregled pa se mu zaradi majhne količine besedila ni zdel potreben.

Poraja pa se vprašanje, ali računalniško ustvarjene oziroma spremenjene podobe morebiti vplivajo na zaupanje volivcev v verodostojnost kandidata. Leljak je dejal, da lahko podoba urejenega parka na plakatu res ustvari vtis, da takšen park v občini že obstaja. Če gre šele za predlog, bi moralo biti to po njegovem mnenju jasno navedeno.

Horvat je ocenil, da razlike med njegovimi fotografijami in z UI ustvarjenimi ozadji niso bistvene, saj jih je zabrisal z zameglitvijo. Zavrnil je očitke o neverodostojnosti in zatrdil, da podobe na njegovih plakatih v celoti odražajo dejansko stanje.

Krmelj pa je poudarila, da lahko podobe vplivajo na razumevanje predstavljenega dela, zato mora biti jasno, ali gre za fotografijo obstoječega stanja ali vizualizacijo načrtovanega projekta. Zdi se ji pomembno, da volivci razločijo, kaj je že izvedeno in kaj je še v načrtu.

Vsebine, ustvarjene ali spremenjene z UI, je treba jasno označiti, posebnih pravil za predvolilne plakate ni

Za nadzor nad obveznostmi glede preglednosti in označevanja vsebin, ustvarjenih z UI, ki jih določa 50. člen evropskega akta o umetni inteligenci je v Sloveniji pristojen Akos, informacijski pooblaščenec pa nadzira nekatera druga področja uporabe UI, med drugim obdelavo osebnih podatkov.

Akos je pojasnil, da akt ne določa posebnih pravil za predvolilne plakate, temveč splošne obveznosti označevanja. Vsebine, ustvarjene ali spremenjene z UI, je treba jasno označiti, kadar gre za globoke ponaredke ali za besedila, namenjena obveščanju javnosti o zadevah javnega interesa.

Za globoki ponaredek šteje z UI ustvarjena ali spremenjena slikovna, zvočna ali video vsebina, ki je podobna resničnim osebam, predmetom, krajem ali dogodkom in bi lahko lažno delovala pristno. Med takšne vsebine bi lahko sodile tudi računalniško ustvarjene ali spremenjene podobe resničnih krajev in objektov, vendar je presoja odvisna od primera do primera. Manjši popravki, kot so odstranitev mimoidočih, prilagoditev osvetlitve ali barvna korekcija, ne pomenijo globokega ponaredka. Drugače je pri spreminjanju bistvenih elementov, ki vplivajo na dojemanje vsebine.

"Idealizirana podoba občinskega parka ali trga, predstavljena kot fotografija dejanskega stanja, bi merila načeloma izpolnjevala. Takšno podobo bi bilo posledično treba označiti," je pojasnil Akos. Presoja je lahko drugačna, če je podoba jasno predstavljena kot vizualizacija načrtovanega stanja, vendar je treba upoštevati celoten kontekst objave, so še dodali.

Za označevanje je odgovoren uporabnik sistema UI, torej tudi kandidat, ki plakat ustvari sam ali prek svojih zaposlenih, ne pa ponudnik orodja. Oznaka mora biti jasno vidna volivcem na plakatu ali neposredno ob podobi; strojno berljivi podatki ali metapodatki ne zadostujejo. Za kršitve obveznosti so predpisane globe, Akos pa lahko odredi tudi ukrepe za odpravo nepravilnosti.