Uporaba AI in Akt o umetni inteligenci

Uporabljate AI? Potem zagotovo kršite zakon.

 

Verjetno lahko rečem, da skoraj vsi uporabljamo umetno inteligenco oziroma AI. Velika večina jo uporablja tako privat kot tudi na delovnem mestu. Manj verjetno pa je, da ste prebrali Akt o umetni inteligenci.

Ker tudi sam pri svojem vsakodnevnem delu uporabljam AI, me je zanimalo, ali moram na kaj še posebej paziti. Oziroma, ali je kaj od tega, kar dnevno počnem, v navzkrižju s členi Akta o umetni inteligenci. Hkrati mi določene stvari, ki jih promovirajo AI-entuziasti in ponudniki orodij, že na daleč smrdijo, ker so v svoji osnovi v navzkrižju z, recimo, GDPR-jem.

 

1/5 Vožnja brez izpita in tehničnega ter po cestah brez oznak

Divja, nepremišljena uporaba umetne inteligence za najrazličnejše poslovne naloge in promocijske aktivnosti ni samo moteča in duhomorna. Gre tudi za to, da se nam dogaja enako, kot se je zgodilo z uporabo pametnih telefonov pri otrocih. Prvi iPhone, ki je bil pivot za vse ostale pametne telefone do danes, je na trg prišel leta 2007. Da pa smo začeli resno omejevati uporabo le-teh, glede na videno, še danes ne morem reči. Pa so bili prvi članki na to temo objavljeni že eno leto po prihodu prvega pametnega telefona.

Dejmo zadihat, premislit, pa se najprej vsaj malo pozanimat o tehnologiji, ki jo spuščamo tako zelo blizu. Imam občutek, da uporaba umetne inteligence v podjetjih trenutno izgleda kot vožnja avtomobila brez izpita, z avtomobilom brez tehničnega in po cestah brez oznak.

 

2/5 S čim najverjetneje kršite zakonodajo

Z lahkoto se ujamemo v past napačne oziroma neskladne uporabe AI. Uporaba umetne inteligence v podjetju sama po sebi ni sporna. Težave pa se lahko pojavijo, ko ji omogočimo dostop do poslovnih podatkov ali z njeno pomočjo ustvarjamo vsebine, ki so povsem realistične. Tukaj so trije zelo verjetni primeri, ko lahko kršite Akt.

Povezava umetne inteligence s poslovno e-pošto.

Podjetje poveže orodje UI s poslovnim mailom, da bi hitreje odgovarjalo na povpraševanja in sporočila strank. Pri tem zaposlenemu uspe v nekaj klikih omogočiti dostop do celotnega poštnega predala. Tukaj so tudi osebni podatki strank, pretekla naročila, pogodbe in zaupna korespondenca. Težava ni nujno v sami povezavi, temveč v tem, komu in pod kakšnimi pogoji je podjetje omogočilo dostop do teh podatkov. Če pri tem niso spoštovane zahteve glede varstva osebnih podatkov in zaupnosti komunikacij, lahko pride do kršitve zakonodaje. In tukaj imamo na eni strani FOMO glede uporabe UI za avtomatizacijo komunikacije, na drugi pa zakonske podlage, ki tega ne dovoljujejo.

Ustvarjanje navidezno resničnih fotografij – deepfake.

Izjemno priljubljena je tudi obdelava slikovnega gradiva. Recimo, da podjetje želi predstaviti svoj izdelek, zato z UI ustvari fotografijo resničnega avtomobila pred znano stavbo. Torej imamo resničen avto in resnično lokacijo. Avtomobil na tej lokaciji nikoli ni bil fotografiran, vendar je končna fotografija avtomobila na znani lokaciji videti povsem pristna. Podoben primer je fotografija resničnega zaposlenega, ki ga UI postavi v prostor, ki ne obstaja. Če takšna vsebina izpolnjuje definicijo globokega ponaredka (deepfake), Akt o umetni inteligenci zahteva razkritje, da je bilo tako slikovno gradivo ustvarjeno ali prirejeno z UI. Objava brez ustreznega razkritja lahko pomeni neposredno kršitev uredbe.

Obdelava poslovne dokumentacije.

Zelo praktična je tudi obdelava velike količine podatkov za pripravo neke nove vsebine. Vzemimo primer, ko želi zaposleni pripraviti ponudbo za novega naročnika. V orodje UI zato naloži več preteklih ponudb, interne cenike, elektronska sporočila in trenutno povpraševanje. Dokumenti lahko vsebujejo osebne podatke strank, dogovorjene cene, popuste, marže in druge zaupne poslovne informacije. S tem je lahko zunanjemu ponudniku storitve (OpenAI, Google, Microsoft, Meta, Anthropic itd.) omogočil dostop do podatkov, za katere podjetje ni predhodno preverilo pogojev posredovanja in obdelave. Tudi tu nalaganje dokumentov ni samodejno nezakonito, lahko pa povzroči kršitve obveznosti glede varstva podatkov in poslovne zaupnosti.

Skupni imenovalec vseh treh primerov je, da morajo podjetja vedeti, katere podatke posredujejo umetni inteligenci, kaj ta z njimi počne in kako uporabljajo rezultate njenega dela. Pomembno je tudi, da so zaposleni ustrezno seznanjeni z omejitvami in tveganji uporabe teh orodij.

 

3/5 So vaši zaposleni ustrezno usposobljeni?

Konkretni primer: podjetje ima pet zaposlenih, ki uporabljajo ChatGPT za pisanje elektronskih sporočil, pripravo ponudb, analizo dokumentov in ustvarjanje marketinških vsebin.

Podjetje lahko sprejme naslednje ukrepe:

• Zaposlene seznani s tveganji pri nalaganju osebnih podatkov in poslovnih skrivnosti v zunanja orodja UI.
• Pripravi interna navodila o dovoljeni uporabi UI.
• Izvede praktično delavnico o preverjanju vsebin, ustvarjenih z UI.
• Poskrbi, da zaposleni poznajo omejitve orodij, ki jih uporabljajo.

To so primeri možnih ukrepov, ne predpisan obvezni program. Obseg usposabljanja je odvisen od uporabe sistema in tveganj.

 

4/5 Veliko govora o uporabi AI, manj o varnosti in zakonodaji

Poplava vsebin in izobraževanj na to temo vas domala sili v uporabo AI. Imam pa občutek, da se premalo poudarja tudi varna uporaba in kako AI uporabiti v skladu z zakonodajo.

 

5/5 Zaključek iz Principa

Umetna inteligenca je zagotovo uporabno orodje, ki nam lahko olajša marsikatero nalogo. Tudi sam jo uporabljam praktično vsak dan in si dela brez nje skoraj ne predstavljam več. Vseeno pa imam občutek, da smo pri uporabi teh orodij bistveno bolj osredotočeni na to, kaj vse zmorejo, kot pa na to, kaj z njimi sploh smemo početi.

Podjetja in zaposleni se pogosto niti ne zavedajo, da lahko z nekaj kliki omogočijo dostop do podatkov, ki jih ne bi smeli deliti, ali pa ustvarijo vsebine, pri katerih bi morali jasno povedati, da so nastale s pomočjo umetne inteligence.

In ravno tukaj vidim največjo težavo. O tem, kako z AI prihraniti čas, avtomatizirati delo in povečati produktivnost, poslušamo na vsakem koraku. Precej manj pa o odgovornosti, varnosti in zakonodaji.

Ne gre za to, da umetne inteligence ne bi smeli uporabljati. Gre za to, da bi morali pred uporabo vsaj približno vedeti, kaj počnemo. In mogoče je prav zdaj čas, da poleg vseh izobraževanj o tem, kako uporabljati AI, začnemo nekoliko več pozornosti namenjati tudi temu, kako ga uporabljati pravilno in zakonito.

Da ne bomo šele ob prvi kazni ugotovili, da smo ves čas vozili brez izpita.