Implementarea inteligenței artificiale în organizații trebuie să fie însoțită de măsuri solide de securitate cibernetică, de politici clare privind protecția datelor și de o cultură de securitate dezvoltată la toate nivelurile, a declarat Alexandru Georgescu, Senior Expert în cadrul Departamentului pentru Securitate Cibernetică și Protecția Infrastructurilor Critice al ICI București, la Forumul România Digitală, organizat de Financial Intelligence.
Acesta a atras atenția că dezbaterea despre inteligența artificială este dominată adesea de beneficiile economice și de oportunitățile de dezvoltare, însă există și o dimensiune esențială legată de securitate și reziliență: „Zona de AI este într-adevăr foarte importantă și am auzit numeroase perspective economice. Dar, lucrând în cadrul Departamentului pentru Securitate Cibernetică și Protecția Infrastructurilor Critice, mă gândesc adesea la partea de securitate legată de AI, nu doar la felul în care AI poate fi folosit pentru identificarea vulnerabilităților, pentru protecția sistemelor sau pentru dezvoltarea de noi produse și servicii. Este la fel de important să vedem cum putem implementa sustenabil și în siguranță AI-ul, astfel încât să nu creăm noi riscuri, vulnerabilități și amenințări”.
Expertul ICI București a subliniat că una dintre principalele preocupări ale instituțiilor europene și ale organizațiilor publice este modul în care inteligența artificială va fi integrată în procesele interne fără a compromite securitatea informațiilor.
„În primul rând, vorbim despre cultura de securitate a angajaților și despre felul în care organizația este pregătită să implementeze AI. Gândiți-vă doar la situațiile în care oamenii folosesc ad-hoc instrumente de inteligență artificială și introduc date confidențiale ale companiei, ale clienților sau ale cetățenilor în modele publice, pentru a obține rapid rezultate utile la locul de muncă. Acest lucru poate genera probleme majore de securitate și de conformitate”, a explicat el.
Potrivit lui Alexandru Georgescu, provocările nu se limitează la protecția datelor, ci includ și calitatea modelelor utilizate, controlul asupra informațiilor și modul în care instituțiile publice achiziționează și gestionează soluțiile bazate pe AI.
„Avem întrebări esențiale legate de seturile de date pe care au fost antrenate modelele de inteligență artificială, de felul în care îți menții controlul asupra propriilor date și de modul în care faci procurement pentru AI la nivelul organizațiilor. Pe această zonă lucrăm inclusiv cu ministerele apărării din Europa, în cadrul Agenției Europene de Apărare. În viitor vom vedea apariția unor noi modele de AI, iar organizațiile vor trebui să facă tranziția către acestea, să scoată din uz modelele vechi și să gestioneze corect întregul proces de înlocuire și integrare”, a spus reprezentantul ICI, precizând că şi partea de achiziţii (procurement) de sisteme de AI necesită pregătire, bune practici etc.
El a avertizat că proliferarea agenților AI utilizați de diferite departamente poate crea dificultăți suplimentare în administrarea infrastructurilor digitale.
„Tot mai multe entități folosesc agenți multipli AI, inclusiv departamente care își dezvoltă propriii agenți. După aceea te poți trezi că acești agenți rămân activi prin diferite colțuri ale organizației pentru că nu ai realizat o tranziție corespunzătoare. Sunt probleme pe care trebuie să le anticipăm din timp”, a precizat Georgescu.
Acesta a atras atenția și asupra faptului că inteligența artificială va deveni un instrument utilizat inclusiv în atacurile cibernetice desfășurate de grupări de criminalitate organizată sau de actori statali.
„Partea de securitate este enorm de importantă pentru că vom vedea AI folosit inclusiv ca vector pentru atacuri cibernetice, atât de către criminalitatea organizată transfrontalieră, cât și de către actori statali. Din acest motiv dezvoltarea competențelor în domeniul securității AI reprezintă o prioritate”, a declarat expertul.
În același timp, Alexandru Georgescu a evidențiat unul dintre cele mai importante proiecte câștigate recent de România în domeniul inteligenței artificiale și al calculului de înaltă performanță.
„Anul trecut, în cadrul celui de-al treilea val de proiecte AI Factory europene, România a câștigat un asemenea proiect printr-un consorțiu format din mai multe instituții, coordonat de ICI București și Universitatea Politehnica. Prima infrastructură de supercomputing din România va fi găzduită de ICI București și va ancora un ecosistem de AI care va putea fi accesat atât de companii private, cât și de instituții publice care au nevoie de putere de calcul”, a afirmat acesta.
Georgescu a remarcat că proiectul vine într-un context în care România încearcă să recupereze decalajele existente față de alte state din regiune.
„Suntem deja în urma jocului. Bulgaria are trei astfel de centre de supercomputing, în condițiile în care și noi făceam parte din inițiativele europene dedicate high-performance computing, însă fără să dispunem efectiv de puterea de calcul necesară”, a spus el.
Referindu-se la impactul AI asupra educației, reprezentantul ICI București a susținut că utilizarea tehnologiei trebuie să completeze, nu să înlocuiască dezvoltarea competențelor umane.
„Există interes și există o conștientizare a potențialului pe care îl are inteligența artificială. Totuși, trebuie să rămână în continuare un focus puternic pe dezvoltarea competențelor personale, pe cercetare și argumentare, astfel încât AI să devină un instrument, o extensie a capacităților umane. Cele mai bune rezultate apar atunci când există o adevărată simbioză între om și AI”, a declarat el.
În opinia sa, educația în domeniul securității cibernetice trebuie să înceapă încă din primii ani de viață și să evolueze în ritm cu schimbările tehnologice.
„Cultura de securitate nu este o chestiune care îi privește doar pe angajații instituțiilor publice sau pe cei din corporații. Ea începe acasă și de la cele mai fragede vârste. Tinerii sunt în avangarda acestei revoluții tehnologice și este esențial ca educația, conștientizarea și cultura de securitate să țină pasul cu dezvoltarea tehnologică. În caz contrar, vom genera o serie întreagă de probleme și riscuri noi”, a concluzionat Alexandru Georgescu.
| Știri BVB