STA novice / Podjetje OpenAI zaradi orodja ChatGPT pod drobnogledom ameriškega regulatorja

V okviru preiskave je zvezna agencija podjetje, čigar partner je ameriški tehnološki velikan Microsoft, pozvala, naj s pomočjo 20-stranskega vprašalnika podrobneje pojasni incidente, povezane z uporabo ChatGPT, v katerih naj bi bili uporabniki neupravičeno omalovaževani, in navede ukrepe, ki so jih zagotovili, da se takšni primeri ne bi več dogajali.

Predsednica FTC Lina Khan je v sredo med zaslišanjem v kongresu dejala, da ima agencija pomisleke glede orodja ChatGPT in pri tem navedla primere, ko se občutljivi podatki o posameznikih prikazujejo kot odgovor na poizvedbo nekoga drugega. "Seznanjeni smo s primeri obrekljivih in povsem neresničnih vsebin, ki se pojavljajo. To je vrsta goljufije in zavajanja, zaradi katere smo zaskrbljeni," je dejala.

Preiskava FTC je po poročanju AFP osredotočena predvsem na to, kako bi lahko ta vidik škodoval uporabnikom, poudarek pa daje tudi na uporabi zasebnih podatkov pri podjetju OpenAI.

Generalni direktor podjetja Sam Altman se je na informacijo o preiskavi odzval prek Twitterja. Sporočil je, da obžaluje, da je novica o preiskavi pricurljala v javnost, kar da "ne gradi zaupanja".

Ob tem je napovedal sodelovanje z agencijo, saj je, kot je pojasnil, "izjemno pomembno, da je naša tehnologija varna in naklonjena uporabnikom". Ob tem je izrazil prepričanje, da ne kršijo zakonodaje.

Preiskava FTC še ne pomeni nujno tudi nadaljnjih ukrepov zoper OpenAI. Če bo agencija s posredovanimi pojasnili podjetja zadovoljna, obstaja tudi možnost, da primer zapre in posledično ustavi preiskavo. V primeru, da bi zaznala nezakonite ali nevarne prakse, pa bi lahko od podjetja zahtevala ureditvene ukrepe in celo vložila tožbo zoper njega.

ChatGPT je kratica za Chat Generative Pre-Trained Transformer, ustvarilo pa ga je podjetje OpenAI. Program uporablja algoritem, ki izbira besede na podlagi izkušenj, pridobljenih pri pregledovanju milijard primerov besedila na spletu. Napreden program za komunikacijo z uporabniki je med drugim zmožen napisati esej, skladati glasbo in odkrivati napake v računalniških kodah.

Med čudenjem nad zmožnostmi, ki jim ima tako imenovana generativna oblika umetne inteligence, so v zadnjem obdobju vse glasnejše informacije o tem, da orodje ustvarja tudi žaljive in lažne vsebine. Pomisleki so tudi glede same uporabe osebnih podatkov.