Generativna UI? Zagotovo!

It was unpleasant news for the management of electronics group Samsung. In spring 2023, notes from internal meetings and data on the performance of production facilities suddenly appeared on the internet. The culprits were not hackers, but the company’s own employees who had used generative AI. One employee, for example, used ChatGPT to turn his meeting notes into a finished document without realizing that the free version of the AI assistant was saving all the information from its users' prompts – and using it to expand its knowledge.

An example that shows that generative intelligence also poses risks, such as insufficient employee awareness of the security gaps, a lack of company guidelines or new opportunities for hackers to attack. In a global survey conducted by the consulting firm McKinsey, 53% of all participants who had already worked with generative AI considered cybersecurity to be the greatest risk of the new technology.

Hkrati pa generativna UI podjetjem ponuja ogromen potencial za povečanje učinkovitosti in inovativnosti. Zato je skupina Otto iskala način, kako izkoristiti priložnosti, ki jih ponuja ta tehnologija, in hkrati omejiti njena tveganja. Matično podjetje družbe EOS je pod imenom ogGPT razvilo lastno generativno UI za 26.000 zaposlenih v skupini. »Želeli smo ustvariti rešitev, ki bo prilagojena potrebam naše skupine, s poudarkom na varnosti in varstvu podatkov,« je povedala Anja Körber, vodja oddelka za UI in avtomatizacijo v skupini der Otto Group IT. Plačljiva poslovna različica storitve Chat GPT ni prišla v poštev – čeprav ta pomočnik z UI ne shranjuje informacij iz pozivov. »Strežniki so v ZDA,« pravi Anja. »To pomeni, da bi imeli v primeru dvoma do podatkov dostop lokalni uslužbenci, na primer iz službe za podporo. Evropski standardi, kot je uredba GDPR, pa v ZDA ne veljajo.«

Raziskava svetovalnega podjetja McKinsey jasno kaže, da na področju smernic obstaja vrzel. Skupina Otto je to vprašanje že obravnavala, tudi v imenu svojih podružnic. V dveh mesecih so zaposleni v skupini Otto v okviru različnih projektov in hekatonov razvili ne le smernice za UI, temveč tudi posamezne gradnike za ogGPT. Rezultat tega je osnovni okvir, ki posodablja svoje znanje – tudi s podatki iz interneta – vendar je še vedno varen, pojasnjuje Anja: »ogGPT pozabi pozive. Nad podatki imamo popoln nadzor.«

Vendar edinstvena prodajna točka ogGPT ni le varnost. »Želeli smo funkcije, ki ustrezajo našim zahtevam,« pravi Anja. Pomočnik z UI lahko na primer povzame vsebino dolge verige elektronske pošte. ogGPT se že uporablja za pisanje glasila: medtem ko so bralci e-novic prej dobili le naslove s povezavami na nadaljnjo vsebino, zdaj v njih najdejo jedrnate povzetke vsebine. Gre za pomembno izboljšavo, ki bi z ročnim delom vzela odločno preveč časa.

Poleg tega notranja rešitev zmanjšuje strah pred stiki med zaposlenimi, za katere bi moralo vključevanje generativne umetne inteligence v vsakdanje delo postati del vsakdana. "Z razvojem lastne rešitve smo zgradili notranjo ekipo strokovnjakov in vzpostavili lastno skupnost. Predvsem pa skupnost mnogim zaposlenim daje dober občutek: če ne najdem rešitve, lahko vprašam svoje kolege."

Interna generativna UI je koristna tudi za Ottovo pridruženo družbo EOS, pravi Janusch Skubatz, glavni uslužbenec za informacijsko varnost v skupini EOS. Prvi interni projekti so že v teku. »Mislim, da bomo ogGPT uporabljali tudi v prihodnosti,« pravi, »vendar so ovire na področju varstva podatkov pri upravljanju terjatev posebej velike. Ko na primer prevzamemo nedonosna posojila, pridobimo dostop do podatkov, ki jih je treba še posebej zavarovati.« Zato za EOS veljajo kompleksnejša pravila kot za druga podjetja in pogosto tudi pogodbene zahteve partnerjev, pravi Janusch: »Skrbno moramo preveriti, ali mora tehnologija izpolnjevati dodatne zahteve.«

Janusch meni, da je najbolj odločilen dejavnik redna interakcija z generativno UI: »Izkušnje so predpogoj za razvoj občutka za tehnologijo in kakovost rezultatov.« Tako se lahko izognemo tvegane situacije, kot je bil tisti v Samsungu, in izkoristimo ogromen potencial.