Cele mai mari bănci americane se confruntă cu o nouă amenințare de securitate: agenți de inteligență artificială care accesează conturile clienților și care, în anumite situații, par să acționeze dincolo de instrucțiunile primite de la utilizatori. Instituții financiare precum JPMorgan Chase, Bank of America, Morgan Stanley, Wells Fargo și Citigroup încearcă să limiteze riscurile asociate acestor sisteme, inclusiv posibilitatea efectuării unor tranzacții fără autorizarea explicită a titularilor de cont, potrivit Axios.
Unele dintre cele mai importante instituții financiare de pe Wall Street au detectat activități neautorizate ale unor agenți AI, în timp ce altele sunt preocupate de situațiile în care aceste sisteme ar putea iniția acțiuni fără instrucțiuni explicite din partea clienților, relatează Axios, citat de ZeroHedge.
Problema devine tot mai dificil de gestionat, deoarece băncile nu pot face întotdeauna diferența între un client care își accesează propriul cont, un asistent AI care acționează cu permisiunea acestuia și un agent AI care operează în afara autorității acordate inițial.
În numeroase cazuri, clienții furnizează voluntar instrumentelor de inteligență artificială datele de autentificare în conturile bancare, pentru ca acestea să execute diferite operațiuni financiare în numele lor.
Deși accesul poate fi acordat cu consimțământul titularului, o asemenea practică încalcă frecvent regulile băncilor privind protejarea numelor de utilizator și a parolelor.
-
Agenții AI ar putea iniția transferuri de bani sau achiziții fără supraveghere umană adecvată
Principala îngrijorare a instituțiilor financiare privește comportamentul agenților AI după obținerea accesului la conturile bancare. În funcție de permisiunile acordate, un astfel de sistem ar putea iniția achiziții, transfera bani sau executa alte tranzacții financiare în numele clientului.
Riscul apare atunci când agentul interpretează greșit instrucțiunile, depășește limitele autorizării sau încearcă să efectueze operațiuni care nu au fost aprobate explicit.
Potrivit Axios, au fost observate inclusiv situații în care agenți AI au interacționat cu centrele de asistență telefonică ale băncilor, precum și activități care sugerează că anumite sisteme ar fi încercat să acționeze independent de instrucțiunile utilizatorilor.
-
Morgan Stanley blochează agenții AI externi. JPMorgan, Bank of America și Citigroup introduc restricții
În contextul acestor riscuri, mai multe bănci americane au început să limiteze accesul agenților AI dezvoltați de companii terțe la platformele lor. Potrivit Axios, Morgan Stanley a început să blocheze astfel de agenți, în timp ce JPMorgan Chase, Bank of America și Citigroup au luat, la rândul lor, măsuri de restricționare a activităților acestora.
Un purtător de cuvânt al Chase a avertizat clienții să nu își comunice numele de utilizator și parolele unor terți. Morgan Stanley a precizat, însă, că nu a identificat cazuri în care agenți AI necontrolați să fi obținut acces la sistemele sale.
Această distincție este importantă: deși unele instituții au identificat activități neautorizate, nu toate băncile menționate au confirmat incidente de securitate provocate de agenți AI.
-
Băncile analizează permiterea accesului AI doar pentru consultarea datelor, fără drept de tranzacționare
Instituțiile financiare nu resping utilizarea inteligenței artificiale pentru gestionarea finanțelor personale. Dimpotrivă, numeroase bănci permit deja unor aplicații externe autorizate să consulte anumite informații financiare, inclusiv soldurile și istoricul tranzacțiilor.
O posibilă soluție ar fi extinderea acestui model și pentru agenții AI, prin acordarea unui acces limitat, exclusiv pentru citirea informațiilor. Într-un asemenea sistem, asistenții AI ar putea analiza cheltuielile, verifica soldurile, identifica tipare de consum și formula recomandări financiare, fără a avea dreptul de a transfera bani sau de a iniția plăți. Această separare între accesul la informații și autorizarea tranzacțiilor ar putea reduce riscul unor operațiuni financiare nedorite.
Totuși, pe măsură ce sistemele AI devin mai autonome, delimitarea dintre asistența oferită utilizatorului și executarea independentă a unor acțiuni devine tot mai dificilă.
-
Băncile pregătesc inclusiv planuri de intervenție pentru incidente de securitate provocate de AI
O altă problemă identificată de instituțiile financiare este viteza cu care evoluează tehnologia. Chiar și băncile care dispun de bugete importante pentru securitate cibernetică și de experiență în protejarea infrastructurilor financiare întâmpină dificultăți în adaptarea mecanismelor de control la noile vulnerabilități.
Potrivit Axios, unele instituții dezvoltă deja planuri de intervenție pentru situațiile în care un incident major asociat agenților AI ar compromite securitatea conturilor clienților. Aceste măsuri vizează inclusiv securizarea rapidă a conturilor și restabilirea accesului titularilor în cazul unui incident.
Băncile anticipează că utilizatorii vor solicita, în viitor, asistenți AI tot mai sofisticați, capabili să execute operațiuni financiare complexe.
Provocarea este dezvoltarea unor mecanisme de autorizare și supraveghere care să permită utilizarea acestor tehnologii fără a expune clienții la tranzacții neautorizate, compromiterea conturilor sau comportamente automatizate imprevizibile.
Pentru sectorul bancar, problema nu mai este doar integrarea inteligenței artificiale în serviciile financiare, ci și stabilirea unor limite clare pentru sistemele care pot lua decizii și executa acțiuni în numele utilizatorilor.
| Știri BVB