Revoluționarea serviciilor de tip call center: Agenții AI schimbă relația cu clienții, dar trebuie să asimileze perfect regulile GDPR

Articol de Cristiana Deca, CEO&cofondator Decalex Digital

Cel puțin o dată pe zi fiecare dintre noi interacționează cu un call center, fie al băncii la care avem conturile, fie al unor magazine online de unde facem o achiziție, fie pentru o programare la medic sau la un service. Ne-am obișnuit deja să interacționăm cu roboții și, de multe ori, nu mai avem nevoie de interacțiunea cu un operator (uman). Mai puțini știu însă faptul că soluțiile pe care le oferă call center-ele, cel puțin cele mai noi, au început deja să integreze soluții de inteligență artificială bazată pe studiul comportamentului clienților.

Noile tehnologii bazate pe inteligență artificială transformă rapid această industrie, cea a serviciilor pentru clienți. Companii din întreaga lume implementează call centere automate sau hibride, în care agenții AI preiau convorbirile de la început până la final sau monitorizează în timp real interacțiunile umane pentru a asista, corecta sau evalua performanța. De câte ori te-a enervate faptul că nu ai reușit totuși să rezolvi o anumită problem pe această cale și ai simțitit nevoia unei discuții directe cu un … om? Schimbările vin deci cu multe provocări  în ceea ce privește încrederea consumatorilor, calitatea interacțiunii și riscurile reputaționale. Despre ce este vorba?

Modelele actuale de call center bazate pe AI s-ar putea împărți în trei grupe:

1. Complet automatizate – unde agenții AI răspund, procesează cereri și închid apeluri fără intervenție umană
2. Hibride – AI asistă agenții umani în timp real, sugerând răspunsuri și soluții adecvate problemei semnalate de client
3. AI ca evaluator – unde acesta este proiectat să analizeze retroactiv conversațiile pentru a oferi feedback și, eventual, a identifica oportunități de vânzare

Pare evident un beneficiu în plus adus de ultimele două grupe comparative cu prima, deși toate aceste soluții sunt menite să aduc eficiență și economie de costuri. În practică însă, efectele sunt mai nuanțate, pentru că problematică este complexă și  vine în contextul obligativității respectării normelor GDPR – confidențialitate a datelor clienților și a prelucrării acestora. Altfel, e de rău, cum s-ar spune, și se lasă cu amenzi și consecințe reputaționale nedorite.

La avantaje bifăm viteză, consistență și disponibilitate non-stop, pentru că un agent AI nu obosește, nu devine iritat și poate răspunde instant la sute de clienți simultan. Mai mult, prin învățare continuă, poate deveni tot mai eficient în timp. Pentru companii, vorbim despre reducerea costurilor operaționale, scalabilitate nelimitată, răspunsuri standardizate, conforme cu politicile interne. În ciuda acestor beneficii, consumatorii nu sunt întotdeauna încântați. Un sondaj realizat în toamna anului trecut, al companiei Five9, arată că 75% dintre consumatori preferă să vorbească cu un agent uman (fizic sau telefonic) în locul unui sistem automatizat atunci când solicită asistență pentru clienți – https://www.businesswire.com/news/home/20241023191274/en/New-Five9-Study-Finds-75-of-Consumers-Prefer-Talking-to-a-Human-for-Customer-Service?utm_source=chatgpt.com. Se confirmă astfel, dacă mai era nevoie, faptul că empatia, contextul și flexibilitatea rămân puncte slabe ale agenților AI. Un AI poate interpreta greșit ironia, poate ignora detalii culturale sau poate aplica reguli rigide în situații care cer judecată umană.

Tocmai de aceea, vorbim despre riscuri pentru business, în cazul în care integrarea agenților AI nu se realizează la cel mai bun nivel cu putință:

1. Pierderea încrederii clienților – Un răspuns greșit sau un comportament rece din partea unui AI poate strica relația cu clientul pentru totdeauna.
2. Reacții negative în media – Înlocuirea completă a personalului uman poate genera reacții negative în social media și chiar campanii de boicot.
3. Riscuri legale și de confidențialitate – În UE, folosirea AI pentru supravegherea angajaților este deja sub lupa autorităților de protecție a datelor.
4. Dependenta de tehnologie – În caz de eroare sistemică sau breșă de securitate, întreaga linie de suport poate deveni nefuncțională.

Am putea afirma fără teama de a greși că viitorul call center-elor nu este complet digital și nici nu va putea rămâne complet uman, ci inteligent hibrid. Companiile care aleg să combine AI cu intervenții umane strategice, să ofere transparență în utilizarea tehnologiei și să păstreze empatia în centrul relației cu clientul vor avea un avantaj competitiv. De altfel, s-a ajuns aproape unanim în lume, în cei aproape patru ani de când trăim cu el, la ideea că AI-ul nu trebuie să înlocuiască umanul, ci să-l completeze. Relațiile cu clienții sunt, în esență, relații interumane. Dacă uităm asta, riscăm să pierdem exact ceea ce încercăm să fidelizăm: încrederea.

Un subiect tot mai controversat în industria call center-elor automatizate este utilizarea AI pentru analiza sentimentelor și a stării emoționale a participanților, fie că este vorba despre clienți sau angajați. Tehnologiile moderne de procesare a limbajului natural (NLP), combinate cu inteligență artificială, sunt capabile să interpreteze tonul vocii, pauzele, intonația, ritmul, dar și expresiile faciale (în cazul apelurilor video), pentru a deduce dacă o persoană este frustrată, supărată, pasivă sau entuziasmată.

Conform GDPR, datele biometrice și informațiile privind starea emoțională pot fi considerate date cu caracter personal sensibil, mai ales dacă sunt legate de o persoană identificabilă. Prelucrarea acestor date este permisă doar în condiții stricte: având consimțământ explicit și informat, în baza unei necesități legale sau contractuale clar definite, cu respectarea principiilor de transparență, proporționalitate și minimizare a datelor. Pe de altă parte, interpretarea emoțiilor poate intra în zona gri a profilării automatizate, reglementată sever de articolul 22 din GDPR, care interzice luarea deciziilor bazate exclusiv pe procesare automată ce produce efecte semnificative asupra persoanei, fără intervenție umană clară.

Trei ar fi problemele reale identificate în analizele de până acum:

1. Consimțământul forțat – Într-un apel, clientul nu este întotdeauna informat că tonul sau vocea sa sunt analizate pentru deducerea emoțiilor. Lipsa informării explicite poate transforma o astfel de practică într-o încălcare gravă a legii.
2. Limitele interpretării – AI-ul poate interpreta greșit o emoție sau poate atribui o stare greșită. Dacă pe baza acestei interpretări se iau decizii automate (de exemplu, întreruperea apelului, escaladarea nejustificată sau evaluarea negativă a unui angajat), apare riscul unei discriminări automate.
3. Supraveghere continuă la locul de muncă – În cazul angajaților, monitorizarea emoțională continuă poate duce la crearea unui mediu invaziv, cu impact asupra sănătății mentale și drepturilor angajaților. În unele jurisdicții europene, astfel de practici pot fi considerate neconstituționale sau abuzive.

AI-ul trebuie să fie explicabil și în transparență totală în relația cu clientul. Pentru a rămâne în legalitate și a menține încrederea publicului, companiile trebuie să comunice clar tipul de analiză efectuată, să asigure dreptul clientului sau angajatului dreptul de a refuza analiza emoțională fără consecințe, să mențină intervenția umană în procesul decizional și să păstreze datele doar atât timp cât este necesar și doar pentru scopul declarat.

Într-un peisaj digital tot mai automatizat, tentația de a “citi” emoțiile prin algoritmi e firească, dar trebuie echilibrată cu respectarea drepturilor fundamentale. Emoțiile sunt profund umane, iar interpretarea lor greșită – fie de către oameni, fie de către mașini – poate avea consecințe personale, legale și reputaționale majore. Prin urmare, este absolut obligatorie respectarea catorva elemente-cheie in designul unui call center mixt (AI plus interventie umana), unde setarile bazate pe AI Emoțional trebuie sa respecte criteriile de mai sus.

În loc de concluzie, am spune astfel: AI-ul ajută enorm, dar trebuie folosit responsabil, atât în soluțiile clasice cât și în cele care integrează emoțiile, pentru că acestea nu sunt simple date, ci sunt intime și complexe. Centrele de Contact, fiindcă acestea se vor afla mereu sub presiunea de a rămâne conforme cu legi complexe și standarde de industrie care se schimbă frecvent, de la reglementări privind protecția datelor până la reguli specifice sectorului, acestea trebuie să navigheze pe un adevărat câmp minat de cerințe de conformitate.