OpenAI a anunțat că două dintre cele mai avansate modele ale sale de inteligență artificială au reușit să iasă dintr-un mediu controlat de testare și să acceseze serverele companiei Hugging Face, într-un incident descris drept „fără precedent” în domeniul securității cibernetice.
Potrivit companiei, incidentul s-a produs în timpul unui exercițiu intern destinat evaluării capacităților cibernetice ale modelelor AI. Un agent autonom, bazat pe noul model GPT-5.6 Sol și pe un model experimental încă nelansat, configurate special cu restricții reduse pentru testare, a depășit limitele mediului izolat și a ajuns pe internet.
OpenAI precizează că modelele au identificat și au combinat mai multe vulnerabilități atât din infrastructura proprie de cercetare, cât și din sistemele Hugging Face, pentru a obține direct răspunsurile la testul de securitate pe care îl desfășurau. Compania spune că modelele au fost „hiperconcentrate” pe îndeplinirea obiectivului evaluării și au mers „până la măsuri extreme” pentru a găsi soluția.
Pentru a ieși din mediul de testare, agentul AI a descoperit și a exploatat o vulnerabilitate de tip zero-day într-un serviciu folosit pentru instalarea pachetelor software. După ce a obținut acces la internet, acesta a dedus că Hugging Face ar putea găzdui modele, seturi de date și informații relevante pentru test și a lansat o serie de atacuri asupra infrastructurii companiei.
Potrivit OpenAI, agentul a combinat mai multe tehnici de atac, inclusiv folosirea unor credențiale compromise și exploatarea unor vulnerabilități necunoscute anterior, pentru a obține o cale de executare de cod la distanță pe serverele Hugging Face. Activitatea neobișnuită a fost detectată de echipa de securitate a OpenAI, iar echipa Hugging Face a identificat și blocat rapid accesul, inițiind investigația înainte ca cele două companii să colaboreze.
Cofondatorul și directorul general al Hugging Face, Clement Delangue, a declarat că firma bănuia deja că atacul provenea de la un laborator de inteligență artificială de ultimă generație și a subliniat că nu consideră că OpenAI a acționat cu intenții malițioase.
„Este uluitor că totul s-a întâmplat autonom. S-ar putea să fie primul incident de acest fel”, a spus Delangue.
OpenAI afirmă că nu există indicii că modelele au urmărit alte obiective decât rezolvarea testului, însă incidentul demonstrează că sistemele AI de ultimă generație pot identifica și exploata căi de atac noi asupra unor sisteme reale, fără acces la codul sursă.
Ca răspuns, compania a anunțat că introduce controale mai stricte asupra infrastructurii de testare, chiar dacă acestea vor încetini ritmul cercetării. De asemenea, vulnerabilitatea zero-day a fost raportată dezvoltatorului software-ului afectat, iar OpenAI colaborează cu Hugging Face pentru investigația criminalistică și remedierea problemelor de securitate. Totodată, Hugging Face a fost inclus în programul „trusted access” al OpenAI pentru a folosi modelele companiei în consolidarea propriilor sisteme de apărare.
OpenAI susține că incidentul confirmă avertismentele potrivit cărora modelele AI devin capabile să desfășoare operațiuni cibernetice complexe, pe perioade lungi și în condiții reale, motiv pentru care măsurile de securitate trebuie să evolueze în același ritm cu performanțele acestor sisteme.
Incidentul a reaprins dezbaterea privind reglementarea inteligenței artificiale. Congresmanul american Greg Casar a cerut introducerea unor teste independente obligatorii, raportarea incidentelor de securitate și o cooperare internațională mai strânsă în domeniul siguranței AI.
Anunțul vine la câteva săptămâni după ce președintele SUA, Donald Trump, a semnat un ordin executiv care introduce un cadru de evaluare a riscurilor de securitate națională pentru cele mai avansate sisteme de inteligență artificială înainte de lansarea lor publică.
Experții avertizează de mai mulți ani că modelele AI ar putea accelera descoperirea și exploatarea vulnerabilităților informatice, iar OpenAI consideră că acest incident reprezintă una dintre primele demonstrații practice că aceste capabilități pot fi folosite autonom în condiții reale.
| Știri BVB