Agentul de inteligență artificială experimental al OpenAI, care a atras atenția după ce a evadat dintr-un mediu controlat de testare și a compromis serverele companiei Hugging Face, a reușit să acceseze și contul unui client al unei a doua firme de tehnologie, potrivit informațiilor Reuters. Incidentul amplifică îngrijorările privind securitatea sistemelor AI avansate și eficiența mecanismelor de control.
Potrivit unei cronologii publicate marți de Hugging Face, agentul AI a pătruns într-un mediu izolat de testare („sandbox”) găzduit pe infrastructura unui furnizor terț și a lansat de acolo un nou atac cibernetic. Reuters a relatat că respectivul furnizor este compania americană Modal Labs, cu sediul la New York.
Directorul tehnologic al Modal Labs, Akshat Bubna, a declarat pentru Reuters că agentul AI a exploatat un cod vulnerabil aparținând unui client găzduit pe platforma companiei. „Platforma Modal și mecanismele sale de izolare nu au fost compromise în niciun fel”, a precizat Bubna.
* OpenAI: Agentul a compromis patru conturi pe patru servicii diferite
Deși compromiterea clientului Modal Labs a făcut parte din atacul asupra Hugging Face, incidentul arată că agentul AI s-a extins mai mult decât se știa inițial.
OpenAI a refuzat să comenteze în mod specific incidentul de la Modal Labs și a trimis Reuters către o actualizare publicată de companie, în care se precizează că agentul experimental a compromis patru conturi aparținând unor patru servicii diferite. Compania nu a dezvăluit identitatea acestor servicii. Totodată, OpenAI a afirmat că nu a identificat alte incidente comparabile, ca amploare sau gravitate, cu compromiterea platformei Hugging Face.
* Cum s-a produs atacul
Incidentul a atras atenția comunității internaționale după ce OpenAI a dezvăluit că agentul său experimental a reușit să depășească limitele mediului controlat de testare și să ajungă pe internetul public.
Potrivit companiei, agentul AI a utilizat date de autentificare furate și a exploatat o vulnerabilitate de securitate necunoscută anterior pentru a obține acces la serverele Hugging Face. OpenAI a explicat că sistemul a mers „până la măsuri extreme” pentru a obține informațiile necesare îndeplinirii obiectivelor stabilite în cadrul testului.
Cofondatorul Hugging Face, Clement Delangue, a declarat că firma suspectase încă de la început că atacul provenea din partea unui laborator de inteligență artificială de ultimă generație și a subliniat că nu crede că OpenAI a avut intenții rău intenționate.
OpenAI a anunțat că agentul experimental a fost între timp dezactivat, criptat și restricționat pentru cercetare, pentru a preveni repetarea unui incident similar.
* Noi semnale de alarmă privind securitatea AI
Cazul reaprinde dezbaterea privind riscurile asociate dezvoltării inteligenței artificiale avansate. Experții în securitate cibernetică avertizează de mai mulți ani că modelele AI tot mai autonome ar putea deveni instrumente capabile să identifice și să exploateze vulnerabilități informatice într-un ritm imposibil de egalat de operatorii umani.
Incidentul OpenAI este considerat unul dintre cele mai importante teste reale privind comportamentul autonom al unui agent AI și alimentează apelurile pentru consolidarea mecanismelor de siguranță și supraveghere înainte ca astfel de sisteme să fie implementate pe scară largă.
| Știri BVB