Shadow AI: šta vaši zaposleni rade sa ChatGPT-om dok vi ne gledate

Zašto se ovo dešava svuda

Niko to ne radi iz zle namere. Ljudi koriste AI zato što im štedi sate posla, a firma im nije ponudila bezbedan način da to rade. Kada zvaničan put ne postoji, ljudi naprave svoj. Isto se dešavalo sa privatnim mejlovima, USB diskovima i Dropbox nalozima. AI je samo najnovija i najbrža verzija istog problema.

Razlika je u razmerama. Ranije je zaposleni izneo jedan fajl. Danas u jedan prozor može da nalepi celu bazu klijenata, finansijski izveštaj ili medicinsku dokumentaciju, i da to uradi za deset sekundi, sa službenog računara, kroz običan browser.

Šta se stvarno dešava sa nalepljenim podacima

Kod besplatnih verzija javnih AI alata, u zavisnosti od uslova korišćenja, uneti sadržaj može da se koristi za treniranje modela ili da se čuva na serverima van vaše kontrole. To znači:

• Podaci klijenata mogu da završe u sistemu treće strane, van EU, bez ugovora o obradi podataka.
• Poslovne tajne, cenovnici i ugovori izlaze iz perimetra firme bez ikakvog traga u vašim logovima.
• U slučaju provere ili incidenta, ne možete da dokažete šta je izneto, kada i ko je to uradio.

Za firme koje rade sa podacima o ličnosti, ovo nije samo bezbednosni problem nego i pitanje usklađenosti sa propisima o zaštiti podataka. Obrada podataka o ličnosti kroz alat sa kojim nemate ugovor je obrada koju ne kontrolišete.

Zašto zabrana ne funkcioniše

Prvi refleks menadžmenta je zabrana: blokiraj ChatGPT na firewallu i problem rešen. U praksi se dese dve stvari. Prvo, zaposleni pređu na telefon ili na alat koji niste blokirali, kojih ima na stotine. Drugo, izgubili ste produktivnost koju AI realno donosi, a konkurencija je zadržala.

Zabrana ne uklanja potrebu, samo je gura dublje u senku. Firma koja je "zabranila AI" obično ima više Shadow AI upotrebe od firme koja je uvela pravila, jer niko ne prijavljuje šta koristi.

Kako se ovo rešava: pravila, alat, nadzor

Rešenje ima tri dela i nijedan ne funkcioniše sam.

• Pravila: kratka, jasna AI politika. Šta sme da se unese u AI alate (javne informacije, generički tekst), šta ne sme nikad (podaci o ličnosti, finansije, ugovori, lozinke), i koji alati su odobreni. Jedna strana, ne pravilnik od trideset strana koji niko ne čita.
• Alat: dajte ljudima odobrenu alternativu. Poslovne verzije AI alata sa ugovorom o obradi podataka, isključenim treniranjem na vašim podacima i kontrolom naloga. Ako je poverljivost kritična, postoji i opcija lokalnih AI modela koji rade na vašoj infrastrukturi, pa podaci nikad ne napuštaju firmu.
• Nadzor: vidljivost šta se koristi. Na nivou mreže i uređaja može da se vidi koji AI servisi se koriste iz firme, pa razgovor sa zaposlenima počinje od činjenica, ne od pretpostavki.

Odakle početi ove nedelje

Ne treba vam projekat od šest meseci da počnete. Realan prvi korak izgleda ovako:

• Pitajte tim, bez sankcija, ko šta koristi i za šta. Dobićete iskrenije odgovore nego što očekujete.
• Donesite privremeno pravilo od tri tačke: šta ne sme da se unosi, koji alat je odobren, kome se javlja nedoumica.
• Odredite jedan odobren alat za početak i sredite naloge kroz firmu, ne kroz privatne registracije.

Shadow AI nije problem tehnologije nego problem upravljanja. Firme koje ga urede dobijaju i produktivnost i kontrolu. Firme koje ga ignorišu saznaće za njega tek kad podaci osvanu tamo gde ne treba.

Ako niste sigurni koji AI alati se već koriste u vašoj firmi i sa kojim podacima, to je tačno vrsta procene koju radimo. Javite se.