Incidentele de la Meta şi Anthropic au provenit din erori de configurare care au oferit, în mod accidental, modelelor Anthropic acces la internetul deschis. În cazul OpenAI, un agent de inteligenţă artificială a exploatat independent o vulnerabilitate necunoscută anterior pentru a ajunge la internet în timpul testelor de securitate cibernetică.
Încălcările evidenţiază îngrijorările tot mai mari că sistemele avansate de inteligenţă artificială ar putea prezenta noi riscuri de securitate cibernetică şi probabil vor intensifica eforturile administraţiei SUA de a îmbunătăţi siguranţa inteligenţei artificiale, pe măsură ce companiile se grăbesc să dezvolte modele mai performante. Unii lideri proeminenţi în domeniul inteligenţei artificiale au susţinut că dezvoltarea ar trebui să încetinească până când vor fi implementate garanţii mai puternice.
Meta a declarat că investighează un incident în care o configuraţie greşită efectuată de Irregular, o companie independentă care efectuează evaluări de securitate cibernetică pentru Meta, a oferit în mod accidental acces la internet unuia dintre modelele sale în timpul unui test.
Modelul “a exploatat o vulnerabilitate de securitate la un serviciu terţ, într-un mod similar cu cazurile raportate anterior cu alte companii”, a precizat Meta într-un comunicat.
The Information, citând surse, a relatat că modelul implicat a fost Muse Spark 1.1 de la Meta, pe care compania l-a prezentat ca fiind cel mai performant model al său pentru codare şi capacitate de a acţiona independent din lumea reală. Raportul a precizat că modelul a încălcat sistemele unei companii neidentificate şi i-a modificat mediul intern.
Un purtător de cuvânt al Irregular a declarat pentru Reuters că incidentul a fost “exact aceeaşi problemă a mediului de evaluare care a fost deja dezvăluită de Anthropic săptămâna trecută” şi nu a implicat o “evadare dintr-un sandbox sau o acţiune cibernetică sofisticată”.
“Nu există probleme deschise în prezent. Irregular elaborează un document pentru a împărtăşi cele mai bune practici privind izolarea şi executarea în siguranţă a evaluărilor cibernetice”, a precizat Irregular.
Recentele încălcări ale securităţii datelor au stârnit îngrijorări în rândul aleşilor americani cu privire la posibilitatea utilizării unor modele de inteligenţă artificială din ce în ce mai capabile să efectueze sau să faciliteze atacuri cibernetice.
Un grup de procurori generali republicani de stat a solicitat OpenAI să păstreze toate documentele potenţial relevante legate de incidentul Hugging Face. OpenAI a declarat că va lua în serios solicitarea şi va publica un raport tehnic despre incident.
La începutul acestei săptămâni, Casa Albă a invitat companii de inteligenţă artificială de top, inclusiv Meta, Anthropic, OpenAI şi Google, să se întâlnească cu oficialii pentru a discuta un cadru de testare voluntară a securităţii cibernetice, recent finalizat, pentru modelele avansate de inteligenţă artificială.
Administraţia Trump a discutat reguli de testare nepublicate cu reprezentanţii companiilor şi a informat dezvoltatorii de inteligenţă artificială că modelele de inteligenţă artificială deschise, cum ar fi Llama de la Meta şi Nemotron de la Nvidia, nu vor fi supuse regimului său planificat de testare voluntară a siguranţei, a relatat Reuters.
| Știri BVB