Cybersecurity expert Janusch Skubatz, Chief Information Security Officer of the EOS Group, with brown hair and white shirt
  • Generativna UI ponuja veliko priložnosti.
  • Skupina Otto, kot nadrejena skupini EOS, je razvila varno orodje, prilagojeno potrebam podjetja.
  • Njegova uporaba prinaša prednosti tudi v sektorju upravljanja terjatev, ki ima posebej visoke standarde.
It was unpleasant news for the management of electronics group Samsung. In spring 2023, notes from internal meetings and data on the performance of production facilities suddenly appeared on the internet. The culprits were not hackers, but the company’s own employees who had used generative AI. One employee, for example, used ChatGPT to turn his meeting notes into a finished document without realizing that the free version of the AI assistant was saving all the information from its users' prompts – and using it to expand its knowledge.

An example that shows that generative intelligence also poses risks, such as insufficient employee awareness of the security gaps, a lack of company guidelines or new opportunities for hackers to attack. In a global survey conducted by the consulting firm McKinsey, 53% of all participants who had already worked with generative AI considered cybersecurity to be the greatest risk of the new technology.

Tako številna podjetja vidijo kibernetsko varnost kot največjo težavo:

ZoomZoom
Graphic with the number 53 percent shows how many companies consider cyber security to be their biggest problem.
Vir: McKinseyjeva globalna raziskava o UI, 2023, »The state of AI in 2023: Generative AI’s breakout year«

Pristop varne rešitve za generativno UI

Hkrati pa generativna UI podjetjem ponuja ogromen potencial za povečanje učinkovitosti in inovativnosti. Zato je skupina Otto iskala način, kako izkoristiti priložnosti, ki jih ponuja ta tehnologija, in hkrati omejiti njena tveganja. Matično podjetje družbe EOS je pod imenom ogGPT razvilo lastno generativno UI za 26.000 zaposlenih v skupini. »Želeli smo ustvariti rešitev, ki bo prilagojena potrebam naše skupine, s poudarkom na varnosti in varstvu podatkov,« je povedala Anja Körber, vodja oddelka za UI in avtomatizacijo v skupini der Otto Group IT. Plačljiva poslovna različica storitve Chat GPT ni prišla v poštev – čeprav ta pomočnik z UI ne shranjuje informacij iz pozivov. »Strežniki so v ZDA,« pravi Anja. »To pomeni, da bi imeli v primeru dvoma do podatkov dostop lokalni uslužbenci, na primer iz službe za podporo. Evropski standardi, kot je uredba GDPR, pa v ZDA ne veljajo.«

Le toliko podjetij ima smernice za uporabo UI:

ZoomZoom
Graphic with 21 percent shows how many companies have an AI policy.
Vir: McKinseyjeva globalna raziskava o UI, 2023, »The state of AI in 2023: Generative AI’s breakout year«
Raziskava svetovalnega podjetja McKinsey jasno kaže, da na področju smernic obstaja vrzel. Skupina Otto je to vprašanje že obravnavala, tudi v imenu svojih podružnic. V dveh mesecih so zaposleni v skupini Otto v okviru različnih projektov in hekatonov razvili ne le smernice za UI, temveč tudi posamezne gradnike za ogGPT. Rezultat tega je osnovni okvir, ki posodablja svoje znanje – tudi s podatki iz interneta – vendar je še vedno varen, pojasnjuje Anja: »ogGPT pozabi pozive. Nad podatki imamo popoln nadzor.«

Vendar edinstvena prodajna točka ogGPT ni le varnost. »Želeli smo funkcije, ki ustrezajo našim zahtevam,« pravi Anja. Pomočnik z UI lahko na primer povzame vsebino dolge verige elektronske pošte. ogGPT se že uporablja za pisanje glasila: medtem ko so bralci e-novic prej dobili le naslove s povezavami na nadaljnjo vsebino, zdaj v njih najdejo jedrnate povzetke vsebine. Gre za pomembno izboljšavo, ki bi z ročnim delom vzela odločno preveč časa.
Portrait of the female expert Anja Körber, Head of Artificial Intelligence & Automation in the Otto Group, with a braid and blazer.

Želeli smo ustvariti rešitev, ki bi bila prilagojena potrebam naše skupine, s poudarkom na varnosti in varstvu podatkov.

Anja Körber
Vodja oddelka za UI in avtomatizacijo v skupini der Otto Group IT.
Poleg tega notranja rešitev zmanjšuje strah pred stiki med zaposlenimi, za katere bi moralo vključevanje generativne umetne inteligence v vsakdanje delo postati del vsakdana. "Z razvojem lastne rešitve smo zgradili notranjo ekipo strokovnjakov in vzpostavili lastno skupnost. Predvsem pa skupnost mnogim zaposlenim daje dober občutek: če ne najdem rešitve, lahko vprašam svoje kolege."

Interna generativna UI je koristna tudi za Ottovo pridruženo družbo EOS, pravi Janusch Skubatz, glavni uslužbenec za informacijsko varnost v skupini EOS. Prvi interni projekti so že v teku. »Mislim, da bomo ogGPT uporabljali tudi v prihodnosti,« pravi, »vendar so ovire na področju varstva podatkov pri upravljanju terjatev posebej velike. Ko na primer prevzamemo nedonosna posojila, pridobimo dostop do podatkov, ki jih je treba še posebej zavarovati.« Zato za EOS veljajo kompleksnejša pravila kot za druga podjetja in pogosto tudi pogodbene zahteve partnerjev, pravi Janusch: »Skrbno moramo preveriti, ali mora tehnologija izpolnjevati dodatne zahteve.«
Cybersecurity expert Janusch Skubatz, Chief Information Security Officer of the EOS Group, with brown hair and white shirt

V pozivih na internetu se ne smejo uporabljati poslovni podatki, ki niso namenjeni zunanjemu svetu.

Janusch Skubatz
Vodja informacijske varnosti v skupini EOS
Dokler podjetja ne morejo uporabljati varne interne različice generativne UI, Janusch uporabnikom v vseh panogah svetuje, naj se držijo osnovnih pravil. Družba EOS in celotna skupina Otto Group že imata politiko umetne inteligence, ki velja za vse zaposlene.

Izvleček iz smernic skupine EOS o UI

  • Ravnajte odgovorno! Podatke v javne sisteme UI vnašajte le, če bi bilo povsem primerno, da jih objavite na spletnem mestu podjetja.
  • Bodite previdni! Odgovori, ki jih generira UI, so lahko pristranski, netočni ali neprimerni. Rezultate, ki jih ustvarijo orodja UI, vedno preverite.
  • Pazite! Orodjem UI nikoli ne posredujte svojih prijavnih podatkov (uporabniško ime, geslo) in bodite vedno pozorni na phishing.
  • Zaprosite za podporo: Če niste prepričani, ali smete uporabiti določene podatke ali katero orodje UI je varno, vprašajte lokalnega uslužbenca za informacijsko varnost.
Janusch meni, da je najbolj odločilen dejavnik redna interakcija z generativno UI: »Izkušnje so predpogoj za razvoj občutka za tehnologijo in kakovost rezultatov.« Tako se lahko izognemo tvegane situacije, kot je bil tisti v Samsungu, in izkoristimo ogromen potencial.

Vas zanima razprava o individualizirani generativni UI? Stopite v stik z nami.

Avtorji fotografij: EOS