Autor: Dragoș Preda, Vp BD EU – ActiveWatch Security/MinSs Telco 2020-21/CEO RADIOCOM 2021-22
Ai angajați care folosesc AI ca să fie mai productivi? Felicitări, s-ar putea să ai deja o breșă de securitate pe care nici nu o vezi.
- Ce e Shadow AI și de ce ar trebui să te sperie ?
Shadow AI e realitatea de astăzi, când angajații tăi folosesc ChatGPT, Claude, Gemini, Midjourney sau orice alt AI fără ca echipa ta de IT să știe sau să aprobe. E fratele mai periculos al lui Shadow IT … de ce ? Pentru ca e mai … subtil și … soft!
De ce periculos? Pentru că AI-urile “înghit” date. Un angajat care alătură (attachments) documente cu contracte și date ale clienților în ChatGPT (de exemplu) doar și pentru simplu fapt administrativ de a face un rezumat, tocmai a trimis informațiile, precizate anterior, pe serverele OpenAI. Și nu le mai iei înapoi.
Câteva cifre care dor: 39.7% din datele pe care angajații le bagă în sistemele operaționalizate prin AI sunt sensibile. Iar 85% din liderii globali IT afirmă deschis că oamenii adoptă AI mai repede decât pot ei să evalueze riscurile.
Problema nu e AI-ul. Problema e că tu nu vezi ce se întâmplă.
3 semne că ai Shadow AI în firmă ACUM
- Dev-ii tăi sunt prea fericiți : Probabil folosesc Copilot sau alt asistent de cod neaprobat care trimite prompturile pe servere externe
- Marketingul livrează mai repede : Cineva scrie comunicate cu ChatGPT Free și nu știi ce date de campanie a băgat acolo … “ups”
- Apare pe cardul firmei “OpenAI $20” : Un departament și-a luat singur abonament, fără DPA, fără nimic .
Un alt exemplu , din altă partea a globului : în America Latină, 57% din angajați nu știu să folosească GenAI în siguranță, deși 93% din firme sunt “încrezătoare”. Sună cunoscut?
Testul de 48h: Ai Shadow AI? Checklist pentru echipa ta de IT
Dă asta echipei tale de IT azi și mâine știi adevărul.
Ziua 1: “Vânează” traficul
– Scoate din firewall logurile pe 30 zile pentru: chat.openai.com, claude.ai, gemini.google.com, midjourney.com etc.
– Top 10 useri și departamente: dacă vezi Marketing și Sales în top, s-ar putea să ai o problemă
– Verifică “Sign in with Google” în Azure AD/Okta. Vezi la ce AI-uri s-au logat colegii tăi …
Ziua 2: Caută dovezile
– Listează extensiile browser din Google Admin. Caută “GPT”, “AI”, “Compose” etc.
– grep-r “openai” în repo-urile de cod
– Cere de la contabilitate facturile cu “OpenAI”, “Anthropic”, “Midjourney” pe ultimele 3 luni … “hmmm”
– fă un survey (cercetare) anonim(ă) cu o singură întrebare: “Ce AI folosești ca să-ți faci treaba mai repede?”
Regula de aur : Nu bloca nimic înainte să vorbești cu oamenii. Dacă tai accesul, trec pe 4G și nu mai vezi nimic … “Pam-Pam”
Ce faci când descoperi ? Planul în 3 pași:
- Efectuează triaje după risc
De exemplu: date clienți / CNP în ChatGPT – înseamnă incident GDPR. Moodboards în Midjourney – înseamnă risc mic.
- Înlocuiește, nu interzice
Angajații folosesc Shadow AI pentru că tool-urile oficiale sunt lente. Dă-le ChatGPT Team sau Claude Enterprise cu opt-out la training.
- Scrie reguli pe 1 pagină, nu 20
Gen: “Poți folosi AI-ul firmei pentru orice. În AI-uri publice nu bagi date despre sau ale clienți(lor), cod sursă sau contracte. Punct.”
Spre deosebire de Shadow IT, Shadow AI poate antrena modele pe datele tale, crea output-uri biasate (bruiate) și lua decizii fără oversight (supraveghere). E o categorie nouă de risc.
Concluzia ?
Shadow AI nu e despre “angajați răi”. E despre oameni care vor să-și facă treaba mai bine, dar compania n-a ținut pasul.
Întrebarea nu e dacă ai Shadow AI. Întrebarea e cât ai și ce date au ajuns deja în afara siguranței presupus-asumate din partea companiei tale ?
Fă auditul azi. Mâine poate fi prea târziu.
Și acest articol constituie doar un … intro
Pentru surse și trimiteri bibliografice:
- Sentra. What is Shadow AI? Definition, Risks & Examples. Definiția Shadow AI și statistica Cyberhaven Labs privind 39.7% date sensibile
- IBM. What Is Shadow AI?. Diferența față de Shadow IT și riscurile de compliance
- Palo Alto Networks. What Is Shadow AI? How It Happens and What to Do About It. Riscuri specifice legate de modul în care AI gestionează datele
- Cloudflare. Shadow AI Security Suite. Statistică: 85% din liderii IT văd adopție mai rapidă decât evaluarea de risc
- Forbes Centroamerica. Shadow AI în companii. Date: 57% din angajați nu știu să folosească GenAI sigur vs 93% organizații încrezătoare
| Știri BVB