TFL Vsebine / TFLGlasnik

Dr. Benjamin Lesjak:
Tehnologija nam izjemno pomaga pri vsakodnevnih opravilih, tako v poslovnem kot zasebnem življenju. Toda tisto, kar me pri mojem delu najbolj navdušuje, je spoznanje, da moramo ob vsej tehnologiji vedno ostati ljudje in imeti človeka v ospredju.

Ni dovolj, da je tehnologija samo dobra, učinkovita in uporabniku prijazna. Pomembno je, da tudi ob njenem izjemnem razvoju razmišljamo o človeku in njegovi dobrobiti. Zato sem z veseljem del te evropske, pa tudi slovenske zgodbe, v kateri ob razcvetu umetne inteligence v ospredje postavljamo prav vprašanje človeka.

TFL Glasnik:
Kako ocenjujete uporabo umetne inteligence v pravnem poklicu?

Dr. Benjamin Lesjak:
Pri tem moramo biti zelo previdni. Orodja generativne umetne inteligence, začenši s ChatGPT, uporabljam praktično od novembra 2022 in jih poskušam vključevati v svoje vsakodnevno delo.

Toda če ne bi imel pravnega znanja, končane pravne fakultete, izkušenj in predvsem sposobnosti presojanja, kje preveriti verodostojnost podatkov, bi me ta orodja lahko velikokrat zavedla.

Po drugi strani pa sem v teh letih njihove stalne uporabe opazil neverjeten kakovostni preskok. Odgovori postajajo zelo natančni, v določenih primerih pa me orodja opozorijo tudi na vidike in nadaljnje korake, na katere sam kljub svojemu znanju morda ne bi pomislil. To je fascinantno in odpira nove možnosti raziskovanja ter poglabljanja obstoječih praks.

Toda osnovno znanje mora obstajati. Pri pravu mora človek pridobiti občutek, kaj je pravno relevantno in kako pravni sistem sploh deluje. Tega ti samo orodje umetne inteligence ne more dati.

TFL Glasnik:
Torej je nujno tudi preverjanje odgovorov, ki jih ponuja umetna inteligenca?

Dr. Benjamin Lesjak:
V vsakem primeru. Vedno je treba preveriti reference. Pri oblikovanju pozivov oziroma promptov je smiselno zahtevati: povej, kje si to našel, navedi vir, pokaži zakonodajo ali spletno stran, na katero se sklicuješ.

Pri testiranju različnih modelov smo na primer dobili odgovore z navedbami uredb, ki bi se laiku zdele povsem verodostojne. Odgovor je bil videti odličen, v resnici pa je šlo za neresnične informacije. Zato je preverjanje virov nujno.

TFL Glasnik:
Eno ključnih vprašanj postaja uporaba umetne inteligence v podjetjih. Kako zagotoviti, da jo zaposleni uporabljajo varno?

Dr. Benjamin Lesjak:
Gre za zelo večplastno vprašanje. Že pri osebnih podatkih se moramo vprašati, v kolikšni meri jih je sploh dopustno naložiti v neko orodje umetne inteligence, da bi dobili personaliziran odgovor, dokument, mnenje ali celo osnutek odločbe.

Pomembno je, kako so nastavljeni parametri posameznega orodja. Podjetje lahko izbere neko rešitev in jo da zaposlenim v uporabo, toda takoj se pojavijo vprašanja varstva osebnih podatkov: kje se podatki nahajajo, ali jih je dopustno naložiti, ali se model uči iz naših vnosov in podobno.

Skrbnik, ki v podjetju odobri uporabo takega orodja, mora zato ustrezno preveriti in nastaviti vse te parametre. Pri ponudnikih zunaj Evropske unije pa se odpira še vprašanje, kakšna zagotovila imamo glede lokacije in nadaljnje uporabe podatkov.

TFL Glasnik:
Je to tudi razlog, da je pomembno, da se podatki oziroma strežniki nahajajo v Evropski uniji?

Dr. Benjamin Lesjak:
Če imamo podatke fizično v Evropski uniji, imamo nad njimi nekoliko več nadzora. Vprašanje pa je, koliko lahko vedno zanesljivo vemo, da podatki dejansko ostajajo izključno v Evropski uniji.

Ko podjetje odobri določeno rešitev, sprejme tudi določeno tveganje in zaupa, da bo ponudnik ravnal tako, kot se je zavezal v svojih pogojih.

Še večji problem pa je tako imenovani shadow AI – ko zaposleni zato, da bi hitreje opravil svoje delo, sam začne uporabljati brezplačno orodje, nad katerim podjetje nima nobenega nadzora. Podjetje ne ve, kaj se dogaja s podatki, ki jih zaposleni nalaga, niti tega, ali se model iz teh podatkov uči. Tako lahko v sisteme zunaj nadzora podjetja zaidejo tudi poslovne skrivnosti ali podatki, ki pomenijo konkurenčno prednost.

V nekaterih panogah, na primer v farmacevtski industriji, zato vzpostavljajo zelo stroge ločnice in uporabljajo rešitve, pri katerih imajo popoln nadzor nad tem, kje se podatki nahajajo.

TFL Glasnik:
Toda popolna prepoved uporabe umetne inteligence verjetno ni rešitev. Zaposleni jo bodo uporabljali ne glede na prepoved, če jim omogoča hitrejše delo. Kaj bi svetovali podjetjem?

Dr. Benjamin Lesjak:
Za vodstvo je težko sprejeti dejstvo, da lahko zaposleni z umetno inteligenco bistveno pospešijo svoje delo, obenem pa podjetje morda nima nadzora nad tem, kako to počnejo.

Zato svetujem, da podjetje oblikuje delovno skupino, v kateri so predstavniki informatike, skladnosti poslovanja, pooblaščena oseba za varstvo osebnih podatkov, če jo podjetje ima, morda predstavnik kadrovske službe in vodje posameznih organizacijskih enot.

Skupaj naj ugotovijo, pri katerih opravilih bi lahko umetna inteligenca izboljšala delo, nato pa naj določijo ustrezna orodja in pripravijo interna pravila. Jasno mora biti določeno, kaj je dovoljeno in kaj ni.

Zelo pomembno pa je še nekaj: zaposlenim je treba dati uporabno orodje. Če jim podjetje tega ne omogoči, bodo iskali obvode, nad katerimi podjetje nima nobenega nadzora.

TFL Glasnik:
To je lažje v večjih podjetjih, ki imajo informatike, strokovnjake za skladnost in varstvo podatkov. Kaj pa manjša podjetja?

Dr. Benjamin Lesjak:
V praksi pogosto vidim, da vodstva, ki so bolj odprta za novosti, najprej sama začnejo preizkušati orodja. Kupijo eno ali dve licenci, testirajo možnosti in nato uporabo postopoma širijo.

Druga možnost je, da v podjetju poiščejo zaposlene, ki so na tem področju že aktivnejši, jim omogočijo uporabo ustreznih licenc in tako spodbudijo organsko uvajanje tehnologije.

Kljub temu je smiselno pripraviti vsaj osnovni pravilnik o uporabi umetne inteligence, s katerim se zaščitita tako podjetje kot zaposleni. Izjemno pomembno pa je izobraževanje. Spremembe so tako hitre, da se praktično dogajajo iz dneva v dan. Tehnologija potiska vodstva in podjetja do novih meja glede vprašanja, kaj je dovoljeno in kaj ne.

TFL Glasnik:
Na konferenci Umetna inteligenca in pravni izzivi ste predstavili zanimiv primer anonimizacije dokumentov v svojem podjetju. Kako ste se tega lotili?

Dr. Benjamin Lesjak:
Smo majhno in zato precej agilno podjetje, kar nam omogoča hitro preizkušanje novih rešitev.

Če imamo dokument, denimo odločbo, ki vsebuje osebne podatke, ga lahko najprej obdelamo v sistemu, nad katerim imamo sami popoln nadzor. Ta sistem iz dokumenta odstrani osebne oziroma potencialne osebne podatke. Šele nato lahko vsebino obdelujemo z zmogljivejšim velikim jezikovnim modelom, tudi če gre za rešitev tujega izvora, saj naj dokument takrat ne bi več vseboval osebnih podatkov.

Toda tu moramo biti izjemno previdni. Meja med dokumentom, ki je res anonimiziran, in dokumentom, iz katerega je posameznika še vedno mogoče določiti, ni vedno preprosta. Gre za precej zahtevno področje.

TFL Glasnik:
Torej anonimizacija sama po sebi še ne pomeni, da je problem rešen?

Dr. Benjamin Lesjak:
Ne. Če za anonimizacijo uporabljam zunanjo storitev, sem lahko osebne podatke že s tem poslal iz svojega okolja. Zato mora biti orodje, ki iz dokumenta odstranjuje občutljive podatke, pod nadzorom podjetja.

To je pomembna razlika. Najprej moramo razmisliti, katero opravilo lahko izvedemo znotraj lastnega okolja in šele nato, kateri del bomo poslali zmogljivejšemu zunanjemu modelu.

Poleg tega je treba upoštevati tudi ekonomiko uporabe velikih jezikovnih modelov. Obdelava ni brez stroškov, saj se podatki pri poizvedbah in odgovorih prenašajo v obliki žetonov oziroma tokenov. Zato ni vedno smiselno za vsako nalogo uporabljati najzmogljivejšega modela.

TFL Glasnik:
Bi lahko takšna rešitev postala splošnejši model za podjetja – nekakšen varnostni sloj med zaposlenim in velikim jezikovnim modelom?

Dr. Benjamin Lesjak:
Da, to je ena od možnosti. Obstaja lahko aplikacija oziroma vmesni sloj med zaposlenim in velikim jezikovnim modelom. Podjetje ima tako pod nadzorom vhode in izhode, znotraj tega sloja pa se lahko podatki tudi samodejno anonimizirajo.

Toda poudariti moram, da smo našo rešitev razvijali in uporabljali predvsem pilotno. Ne bi še trdil, da je pripravljena kot univerzalna rešitev za trg. Vsako podjetje mora presoditi svoje potrebe oziroma preveriti, katere ustrezne rešitve že obstajajo.

TFL Glasnik:
Če pogledava širše: kako naj podjetja danes lovijo ravnotežje med informacijsko varnostjo, umetno inteligenco in zakonodajo? Je evropski Akt o umetni inteligenci morda preveč omejevalen v primerjavi z ZDA in Kitajsko?

Dr. Benjamin Lesjak:
Sam se prvenstveno ukvarjam z varstvom osebnih podatkov, to pa je zelo tesno povezano z informacijsko varnostjo. Zdaj se je v vse to vključila še umetna inteligenca z izjemno naprednimi orodji in možnostmi.

Podjetja se morajo pri uporabi tehnologije zavedati vseh njenih prednosti, hkrati pa morajo vedno imeti tudi izhodni načrt – vedeti morajo, kako bodo ravnala, če gre kaj narobe.

To lahko dosežemo samo z doslednim izvajanjem ukrepov informacijske varnosti, z analizami tveganj ter z vnaprejšnjim razmislekom o tem, kaj se lahko zgodi in kako se bo podjetje odzvalo ob napadu ali izpadu sistemov.

Pri tem je pomembna sorazmernost. Nima smisla vlagati v izjemno drage rešitve, če z njimi ne rešujemo dejanskega problema oziroma ne zvišujemo ravni informacijske varnosti.

TFL Glasnik:
Kako pa v tem kontekstu ocenjujete evropsko regulacijo umetne inteligence?

Dr. Benjamin Lesjak:
Menim, da je Akt o umetni inteligenci dobronameren. Podobno velja za področje varstva osebnih podatkov in GDPR. Seveda takšna pravila za podjetja pomenijo tudi administrativne obremenitve in nekatera imajo težave pri izpolnjevanju vseh zahtev.

Toda vrnil bi se k tistemu, kar sem povedal na začetku: v ospredju mora ostati človek.

Velike tehnološke korporacije imajo v primerjavi s posameznikom izjemno moč. Z uporabo tehnologije lahko vplivajo na njegov pogled na svet, njegove odločitve in nakupne navade. Evropska digitalna zakonodaja zato po eni strani podjetjem nalaga dodatne obveznosti, po drugi pa skuša posameznika zaščititi in opolnomočiti.

Posameznik sam proti velikim tehnološkim korporacijam nima primerljive moči. Zakonodaja zato ostaja neke vrste branik. Seveda pa se hkrati pojavlja težko vprašanje, kako z regulativnimi peskovniki in drugimi možnostmi razvijalcem umetne inteligence še vedno omogočiti razvoj.

Tudi dostop do podatkov je zahtevno vprašanje: razvijalci jih potrebujejo, toda na drugi strani so ljudje, na katere se ti podatki nanašajo in katerih pravice moramo varovati. Sam zato ostajam zagovornik evropske zakonodaje. Nenazadnje sem pravnik in menim, da se je pravil treba držati.

TFL Glasnik:
Za konec: kakšno bi bilo vaše sporočilo Slovencem?

Dr. Benjamin Lesjak:
Povedal bi dve stvari. Karkoli vam kdorkoli sporoča – naj bo to novica, reklama ali kakršnokoli drugo sporočilo – se vedno vprašajte, kaj je v ozadju. Kakšen namen ima človek ali podjetje, ki vam nekaj sporoča? Kaj želi s tem doseči?

In drugo: nikoli se ne nehajte truditi biti dober človek in delati dobro. Če delate dobro, vam bo zagotovo uspelo.