Generativna umetna inteligenca postaja del vsakodnevnega dela v marketingu, analitiki in tržnih raziskavah. Pomaga pri povzemanju informacij, pripravi osnutkov, jezikovni izboljšavi, organizaciji vsebin in celo pri podpori programiranju vprašalnikov. Toda prav v raziskovalnem okolju je meja med koristno uporabo AI in previsokim tveganjem zelo tanka.
Pri tržnih raziskavah namreč delamo s podatki naročnika, raziskovalnimi rezultati, metodologijami, kontaktnimi bazami, interpretacijami in poslovnimi vprašanji, ki imajo neposreden vpliv na odločitve naročnika. Zato zelo dobro vemo, da je smiselno, da podjetja uporabo GenAI obravnavajo sistemsko.
Spodaj je praktična “check-lista” za podjetja, ki želijo AI uporabljati premišljeno, varno in strokovno.
Zakaj je uporaba GenAI v podjetjih občutljivo področje?
V številnih panogah generativna AI pomeni predvsem produktivnost. Pri delu z osebnimi in zaupnimi podatki pa poleg produktivnosti odpira še štiri kritična vprašanja:
- zaupnost podatkov
- kakovost in pravilnost interpretacije
- transparentnost uporabe
- skladnost z zakonodajo in profesionalnimi standardi
Če podjetje teh štirih področij nima urejenih, generativna AI ne funkcionira kot prednost, ampak predstavlja dodatno tveganje za podjetje.
Kratka “check-lista” za vodstvo podjetja
Če želite hitro oceniti zrelost svojega podjetja za uporabo generativne AI, preverite naslednje:
Imamo jasna pravila za prepovedane uporabe AI ter protokol za incidente.
Imamo jasno pravilo, da AI ne nadomešča strokovne človeške presoje.
Razlikujemo med odobrenimi in neodobrenimi AI orodji.
Zaposleni AI uporabljajo le tam, kjer jim dejansko prinaša dodano vrednost.
Zaposleni vedo, katerih podatkov ne smejo vnašati v AI orodja.
Zaposleni ne vključujejo v končne dokumente z AI pridobljenih, nepreverjenih podatkov.
Zaposleni dokumentirajo uporabo AI, kadar vpliva na metodologijo, analizo ali ugotovitve.
Zaposleni pri uporabi AI upoštevajo GDPR, ZVOP-2, EU AI Act in druge relevantne standarde.
Zaposleni razumejo omejitve in tveganja AI orodij.
Pred uporabo AI zaposleni izvedejo osnovno oceno tveganja.
Na kaj mora biti podjetje pozorno pri uporabi AI?
Katere podatke in orodja smejo zaposleni uporabljati?
1. Ali zaposleni vedo, katerih podatkov ne smejo vnašati v AI orodja?
To je prva in najpomembnejša točka. V raziskovalnem okolju so posebej občutljivi:
- osebni podatki zaposlenih in strank
- baze anketirancev in kontaktni seznami
- pogodbe, ponudbe, ceniki in finančni podatki
- raziskovalni brifingi
- neobjavljeni rezultati raziskav
- lastne, interne metodologije
- vprašalniki, klasifikacije in segmentacijski pristopi
Osnovno pravilo mora biti preprosto:
zaupnih podatkov se ne vnaša v neodobrena AI orodja.
To velja tudi za “na videz nedolžne” vnose, kot so delni izseki poročil, povzetki intervjujev, odprti odgovori anketirancev ali opis raziskovalnega problema, iz katerega je mogoče razbrati podjetje, projekt ali poslovni kontekst. Arhea v internih smernicah jasno postavlja varovanje poslovnih skrivnosti na prvo mesto in ga obravnava kot absolutno prioriteto.
2. Ali podjetje razlikuje med odobrenimi in neodobrenimi AI orodji?
Mnoga podjetja naredijo napako, ko uporabo AI presojajo zelo splošno. V praksi ni dovolj reči “Uporaba AI je dovoljena” ali “Uporaba AI ni dovoljena”. Bistveno je vprašanje, katero orodje, pod katerimi pogoji in za kakšen namen ga zaposleni smejo ali ne smejo uporabljati.
Smiselna praksa je razdelitev na:
a. Odobrena AI orodja
To so orodja, pri katerih je podjetje preverilo vsaj:
- kako se podatki obdelujejo
- kje in kako dolgo se hranijo
- ali se uporabljajo za treniranje modelov
- ali obstajajo ustrezni pogodbeni in varnostni mehanizmi
- ali je uporaba skladna z GDPR, ZVOP-2 in internimi pravili podjetja
b. Neodobrena AI orodja
To so vsa orodja, ki niso bila preverjena ali formalno dovoljena. Sem pogosto sodijo tudi javno dostopni generativni sistemi, ki jih zaposleni uporabljajo samoiniciativno.
Če podjetje nima seznama odobrenih orodij, dejansko nima nadzora nad uporabo AI. V Arhea smernicah je določeno, da Arhea vodi seznam odobrenih AI orodij, dostopen v oblačni mapi internega dokumentnega sistema.
3. Ali zaposleni uporabljajo AI le tam, kjer jim dejansko prinaša vrednost?
AI ni cilj. AI je orodje.
Dobra praksa je, da se uporablja tam, kjer:
- skrajša rutinska opravila
- izboljša jezikovno kakovost splošnih besedil
- pomaga pri strukturiranju informacij
- pospeši pregled javno dostopnih vsebin
- podpira pripravo generičnih dokumentov
- pomaga pri programiranju
Slaba praksa pa je, da zaposleni generativno AI uporabljajo avtomatsko, brez presoje, zgolj zato, ker jim je na voljo. Podjetje mora zato za vsako uporabo presoditi, ali uporaba AI:
- res prihrani čas?
- poveča tveganje?
- poveča nevarnost metodološke poenostavitve?
- lahko poslabša sledljivost odločitev?
V raziskovalnem delu mora biti uporaba AI sorazmerna z nalogo.
Kako zagotoviti človeški nadzor in kakovost rezultatov?
4. Ali je jasno določeno, da AI ne nadomešča strokovne presoje?
AI lahko pomaga pri osnutku interpretacije, strukturiranju ugotovitev ali oblikovanju besedila, ne sme pa samostojno odločati:
- kaj nekaj pomeni
- katera metoda je najprimernejša za naše delo
- ali je določena ugotovitev dovolj zanesljiva za poslovno odločanje
Končno presojo mora vedno opraviti človek.
Razlog je preprost: AI lahko generira prepričljivo, a napačno, poenostavljeno ali metodološko neustrezno vsebino. Podjetje mora zato imeti pravilo, da je treba vsak rezultat generativne AI preveriti z vidika:
- točnosti virov, podatkov in trditev
- metodološke ustreznosti
- konteksta
- skladnosti s cilji
- morebitnega posega v avtorske pravice tretjih oseb
Končno odgovornost za vsebino, analizo in poročilo vedno nosi zaposleni.
5. Ali podjetje prepoveduje vključevanje nepreverjenih AI rezultatov v dokumente?
Če AI pripravi povzetek, interpretacijo ali grafični opis, mora biti vsebina pred vključitvijo v končni izdelek strokovno pregledana.
Največja tveganja so:
- napačno povzete ugotovitve
- izmišljene povezave med podatki
- preveč samozavestne formulacije brez analitične podlage
- zameglitev razlike med dejstvom, interpretacijo in hipotezo
- nekritična uporaba AI-generiranih vizualizacij ali besedil
Kdaj je treba uporabo AI oceniti in dokumentirati?
6. Ali podjetje dokumentira uporabo AI, kadar ta vpliva na metodologijo ali ugotovitve?
Ni treba dokumentirati vsake manjše pomoči velikih jezikovnih modelov in AI orodij. Morali pa bi dokumentirati uporabo generativne AI takrat, ko ta bistveno vpliva na:
- metodološke odločitve
- analitični postopek
- obdelavo podatkov
- interpretacijo rezultatov
- vsebino poročila ali izročkov
To je pomembno:
- zaradi notranje sledljivosti
- zaradi profesionalne transparentnosti
- zaradi zaščite podjetja v primeru vprašanj naročnika ali revizije postopka
V praksi to pomeni, da mora biti pri vsaki pomembnejši uporabi AI jasno zabeleženo:
- katero orodje je bilo uporabljeno
- za kateri namen
- na kateri stopnji procesa
- katere vsebine je pripravil AI
- kdo je rezultat pregledal in potrdil
7. Ali podjetje pred vpeljavo in uporabo novega AI orodja naredi osnovno oceno tveganja?
Pred vsakim vnosom podatkov v AI orodje mora zaposleni znati odgovoriti na vsaj tri vprašanja:
- Ali bodo v AI vneseni zaupni ali osebni podatki?
- Ali bi javno razkritje teh podatkov lahko škodilo podjetju ali posamezniku?
- Ali ponudnik AI rešitve lahko te podatke uporabi za treniranje lastnega modela?
Če je odgovor na katerokoli vprašanje “da”, uporaba ne sme biti rutinska. Občutljive informacije je potrebno anonimizirati ali pa jih sploh ne vključiti v proces obdelave z generativno umetno inteligenco. To je minimalni okvir presoje, ki bi moral postati standard v vsakem podjetju, ki uporablja generativno AI v BI, raziskavah, podatkovnem obdelovanju ali drugih analizah podatkov.
Kako podjetje zagotovi skladnost in odziv ob incidentu?
8. Ali podjetje upošteva GDPR, ZVOP-2, EU AI Act in profesionalne standarde?
Uporaba AI je vprašanje skladnosti.
Podjetje mora preveriti:
- ali način uporabe vključuje osebne podatke
- ali obstaja pravna podlaga za obdelavo
- ali so posamezniki ustrezno zaščiteni
- ali so procesi skladni z internimi politikami
- ali uporaba AI ohranja anonimnost in zaupnost
- ali metodologija ostaja transparentna
- ali raziskovalne ugotovitve ostajajo neodvisne
Če AI poseže v katerega od teh temeljev, je uporaba strokovno vprašljiva tudi takrat, ko je tehnično mogoča.
Preverite vsaj naslednje vire:
- Akt o umetni inteligenci oziroma Uredbo EU 2024/1689
- Smernice Informacijskega pooblaščenca o umetni inteligenci in osebnih podatkih
- Splošna uredba EU o varstvu podatkov oziroma GDPR
- Zakon o varstvu osebnih podatkov, ZVOP-2
- Kodeks ICC/ESOMAR za tržne, javnomnenjske in družbene raziskave ter podatkovno analitiko (PDF).
9. Ali zaposleni razumejo delovanje AI orodja, ki ga uporabljajo?
Podjetje ne sme predpostavljati, da zaposleni vedo, kako AI orodje deluje, samo zato, ker ga znajo uporabljati.
Za odgovorno uporabo morajo zaposleni razumeti vsaj:
- da AI lahko halucinira
- da lahko reproducira pristranske informacije
- da ni zanesljiv vir dejstev brez dodatnega preverjanja
- da lahko daje vtis natančnosti tudi tam, kjer te ni
- da kakovosten izgled izročkov ne pomeni, da je vsebina pravilna oz. resnična
- da različna orodja različno obdelujejo in hranijo podatke
To pomeni, da je treba zaposlene usposobiti ne samo za “promptanje”, ampak predvsem za presojo tveganj, omejitev in kakovosti izhodov.
10. Ali podjetje ve, kako ukrepati ob morebitnem incidentu?
Nekatere uporabe GenAI morajo biti brez izjem prepovedane. V smernicah podjetja je smiselno jasno zapisati, da AI orodij ni dovoljeno uporabljati, na primer, za generiranje ali predlaganje gesel. A dobre smernice niso samo seznam (ne)dovoljenega. Vsebovati morajo tudi protokol za napake. Če podjetje nima postopka prijave incidenta, bo v praksi reagiralo prepozno ali neenotno.
Minimalni okvir mora določiti:
- komu se incident prijavi
- v kakšnem roku
- kako se incident dokumentira
- kako se oceni škoda
- kateri ukrepi sledijo
Zaključek
Uporaba AI orodij je predvsem vprašanje presoje, odgovornosti in upravljanja tveganj. Največja vrednost AI ni v tem, da nadomesti človeka, ampak da pomaga hitreje in učinkoviteje opraviti tisti del dela, ki je rutinski in dolgotrajen, ob tem pa ne sme ogroziti zaupnosti, kakovosti ali metodološke integritete.
Podjetja, ki bodo generativno AI uporabljala najbolje, ne bodo nujno tista z največ orodji. Prednost bodo imela tista, ki bodo znala jasno ločiti med koristno avtomatizacijo in nevarno površnostjo.
V Arhei ta razmislek že vodijo interne smernice:
Varovanje poslovnih skrivnosti ima prednost, AI ostaja podporno orodje, uporaba pa mora biti pregledna, sorazmerna in strokovno nadzorovana. To ni le interna disciplina, ampak dober model za vsako podjetje, ki želi AI uporabljati odgovorno tudi v širšem kontekstu.