Valentin Ionescu (ISF): Utilizarea excesivă a inteligenței artificiale (AI) poate duce la lipsa de comunicare și la o percepție greșită în interacțiunea clientului cu societățile

Utilizarea inteligenței artificiale (AI) în industria asigurărilor aduce multe beneficii, cum ar fi îmbunătățirea eficienței operaționale, personalizarea ofertelor și automatizarea proceselor. Cu toate acestea, există și riscuri care trebuie gestionate pentru a proteja atât companiile de asigurări, cât și clienții lor, a declarat Valentin Ionescu, Președintele Institutului de Studii Financiare, in cadrul Conferinţei Europene a Serviciilor Financiare ECFS 2025 – Tranziția digitală în serviciile financiare, provocări și oportunități generate de noile reglementări, organizată de ISF.

Iată câteva exemple de riscuri care pot apărea atunci când folosim AI în asigurări, potrivit lui Valentin Ionescu:

Discriminarea și prejudecățile algoritmice

  Algoritmii de AI pot reflecta prejudecăți și inechități care există în datele de antrenament. Dacă un algoritm învață din date istorice care conțin prejudecăți legate de rasă, sex, vârstă sau alți factori, poate lua decizii care sunt discriminatorii, de exemplu, refuzând sau penalizând anumite grupuri de clienți pe baza unor caracteristici care nu sunt relevante pentru evaluarea riscului.

   Un algoritm care folosește datele istorice de la clienți pentru a evalua riscurile de asigurare poate ajunge la concluzii discriminatorii dacă acele date conțin tendințe de discriminare pe baza sexului sau etniei.

Lipsa transparenței și explicabilității.

   Modelele AI complexe, cum ar fi rețelele neuronale, pot fi opace și greu de înțeles pentru utilizatori și reglementatori. Acest lucru poate duce la dificultăți în înțelegerea deciziilor luate de AI și în verificarea corectitudinii acestora.

   Dacă un client nu este acceptat pentru o poliță de asigurare sau nu primește o sumă corectă în urma unui accident, compania ar putea să nu fie capabilă să explice în mod clar motivul deciziei, ceea ce poate afecta încrederea consumatorilor și poate duce la litigii.

 Risc de securitate cibernetică și atacuri

   AI poate fi vulnerabil la atacuri cibernetice, cum ar fi manipularea datelor sau atacuri adversariale care modifică comportamentul algoritmilor. În industria asigurărilor, aceste atacuri pot afecta sistemele de evaluare a riscurilor, de stabilire a prețurilor sau de gestionare a daunelor.

   Un atac cibernetic care modifică algoritmul folosit pentru a evalua cererile de despăgubire poate duce la plăți eronate sau la procesarea incorectă a cererilor de despăgubire, afectând astfel atât compania de asigurări, cât și clienții.

 Dependența de date necorecte sau incomplete.

AI este dependent de calitatea datelor pe care le primește. Dacă datele sunt incomplete, inexacte sau neactualizate, modelele AI pot lua decizii greșite sau pot face estimări incorecte ale riscurilor.

   – Dacă un sistem AI utilizează date incomplete despre istoricul unui client (de exemplu, istoricul de daune neînregistrate corect sau date de sănătate inexacte), poate oferi o evaluare incorectă a riscului și poate stabili prețuri incorecte pentru polițele de asigurare.

Probleme legate de conformitatea cu reglementările

   Utilizarea AI poate întâmpina dificultăți în conformarea cu reglementările legale și etice. De exemplu, reglementările de protecție a datelor (precum GDPR în Uniunea Europeană) impun cerințe stricte privind colectarea și procesarea datelor personale, iar AI poate duce la încălcarea acestor reglementări dacă nu este utilizat corect.

   Dacă un algoritm AI folosește date personale sensibile, cum ar fi istoricul medical al unui client, pentru a determina riscurile și nu există măsuri corespunzătoare de protecție a datelor, compania de asigurări ar putea încălca reglementările de protecție a datelor, ducând la amenzi mari și deteriorarea reputației.

   Nu trebuie uitate nici regulamentul UE privind inteligența artificială (AI ACT). Acesta reprezintă un pas înainte în reglementarea AI (primul de acest fel la nivel mondial) prin abordarea riscurilor generate de utilizate de AI. Sunt stabilite clar de reguli bazate pe risc pentru dezvoltatorii și implementatorii AI cu privire la utilizări specifice ale AI, inclusiv în cazul utilizării acestuia pe piețele financiare. Aceste măsuri au scopul de a garanta siguranța, drepturile fundamentale și utilizarea unor sisteme de AI care să aibă totuși omul la bază”.