Nvidia lansează o nouă platformă software care permite dezvoltatorilor de IA să stabilească măsuri de protecție pentru agenți și să împiedice aceștia să iasă din zona de izolare. „Nu poți lăsa agenții să rătăcească și să se plimbe prin companie, așa că trebuie să găsești o modalitate de a-i izola”, a declarat luni Jensen Huang, CEO-ul Nvidia, în cadrul emisiunii „Squawk Box” de la CNBC.
Huang a afirmat că noua platformă este, în esență, „un browser pentru agenți”, oferind un sistem de izolare care permite accesul doar la elementele de care un agent are nevoie pentru a-și îndeplini sarcinile.
Lansarea, luni, a platformei Open Agent Safety a Nvidia vine după ce companii precum OpenAI, Anthropic, Meta și Google au dezvăluit incidente recente în care modelele lor de inteligență artificială au scăpat din mediile de testare și au încercat să pirateze alte companii și să acceseze sistemele lor informatice.
Un reprezentant al Nvidia a declarat reporterilor într-o conferință telefonică duminică că platforma sa ar fi putut preveni incidentul Hugging Face al OpenAI din iulie. Atunci, modelele OpenAI au scăpat din zona de izolare, au accesat internetul deschis și au pătruns în Hugging Face, care operează o platformă open-source pentru dezvoltatori.
„Fiecare incident de securitate este unic și trebuie să le analizăm pe toate în detaliu”, a spus Justin Boitano, vicepreședinte al diviziei de IA pentru întreprinderi la Nvidia, cea mai valoroasă companie din lume. „Din câte știm, Hugging Face a raportat peste 17.000 de agenți care au atacat infrastructura lor, atacuri care au durat zile și săptămâni.”
Nvidia se află în centrul boom-ului IA generative încă de la lansarea ChatGPT, acum aproape patru ani, deoarece unitățile de procesare grafică ale producătorului de cipuri sunt esențiale pentru dezvoltarea modelelor lingvistice de mari dimensiuni și pentru serviciile de IA oferite de hiperscaleri. Însă Huang s-a impus recent ca o voce cheie în dezbaterea privind siguranța IA, susținând că multe dintre preocupările legate de securitate sunt probleme de inginerie care pot fi rezolvate prin informatică și dezvoltarea de produse.
„Trebuie să te gândești la ce ai fi putut face, care este soluția pentru asta”, a spus Huang într-un podcast cu Ezra Klein de la The New York Times, difuzat săptămâna trecută, referindu-se la incidentele recente. „În viitor, îmbunătățește-ți procesul astfel încât să poți evita ca acest lucru să se mai întâmple.”
Dario Amodei, CEO-ul Anthropic, a stârnit o furtună în industrie în urmă cu două săptămâni, îndemnând dezvoltatorii de modele de IA să încetinească ritmul de dezvoltare din cauza temerilor că modelele ar putea scăpa de sub control, un argument susținut de Sam Altman de la OpenAI și de Elon Musk de la SpaceX.
Noua ofertă a Nvidia reprezintă o soluție tehnică la problema siguranței agenților, a afirmat Boitano.
„Incidentele recente au scos în evidență un obstacol fundamental pentru agenții de IA, și anume faptul că măsurile de siguranță la nivel de model nu pot controla singure ce pot accesa sau face agenții”, a spus Boitano.
O componentă a platformei se numește Nvidia OpenShell, care rulează pe procesoarele centrale și stabilește limite privind capacitățile agenților. Nvidia a anunțat, de asemenea, Sentry, care monitorizează agenții și rulează pe chipuri de rețea, nu pe procesoare centrale (CPU) sau procesoare grafice (GPU).
O parte din software este open source, iar Nvidia își numește platforma un „proiect de referință”, ceea ce înseamnă că partenerii sunt invitați să construiască produse pe baza acesteia pentru a o introduce pe piață.
Nvidia a numit Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM și Intel ca parteneri. De asemenea, Nvidia colaborează cu Anthropic pentru a integra agenții gestionați în cloud cu OpenShell.
„Nu putem avea o industrie a IA de succes dacă lumea nu crede că aceasta este construită sau nu are încredere că este construită și implementată în condiții de siguranță”, a declarat Huang luni pentru CNBC.
| Știri BVB