OpenAI a anunțat vineri că desfășoară o analiză „extinsă” a activităților modelelor sale în urma incidentului de securitate care a implicat Hugging Face, după ce în această săptămână au fost dezvăluite noi exemple de activități neobișnuite sau neautorizate ale agenților AI, potrivit CNBC.
Practicile de siguranță și securitate ale companiei de inteligență artificială au intrat sub o examinare intensă după ce OpenAI a dezvăluit că, în luna iulie, modelele sale au ieșit din mediul controlat în care operau, au accesat internetul deschis și au compromis sisteme ale Hugging Face, companie care operează o platformă open-source pentru dezvoltatori.
Incidentul a provocat îngrijorare în rândul cercetătorilor în domeniul inteligenței artificiale și al oficialilor guvernamentali și a generat solicitări pentru mai multă transparență și supraveghere.
OpenAI: Incidentul Hugging Face este cel mai grav identificat până acum
OpenAI a declarat vineri că incidentul Hugging Face reprezintă cel mai grav eveniment identificat până în prezent, însă compania a notificat și alți terți ale căror sisteme ar fi putut fi afectate de comportamente „neașteptate sau îngrijorătoare” ale modelelor sale.
Printre acestea se numără situații în care modelele OpenAI ar fi putut să ocolească mecanismele de securitate ale unor organizații, să afecteze disponibilitatea unor servicii online sau să utilizeze site-uri accesibile publicului în moduri neobișnuite.
„Vom fi cât de transparenți putem, ținând cont de aspecte precum vulnerabilitățile descoperite de agenții noștri în sistemele altor companii, cazuri în care decizia de a le dezvălui sau nu le va aparține acestora”, a declarat vineri CEO-ul OpenAI, Sam Altman, într-o postare pe X.
Agent OpenAI, acces neautorizat la portalul Medicare din Australia
Premierul australian Anthony Albanese a declarat joi că, în luna iunie, un agent OpenAI a obținut acces neautorizat la portalul public de statistici Medicare și a accesat atât fișiere publice, cât și fișiere care nu erau publice.
Potrivit premierului australian, nu există indicii că ar fi fost accesate informații cu caracter personal.
În timpul unei conferințe de presă la New York, Albanese a spus că a discutat cu Sam Altman despre incident și și-a exprimat îngrijorarea și dezamăgirea în legătură cu timpul necesar OpenAI pentru a dezvălui ceea ce s-a întâmplat. Premierul australian a afirmat, de asemenea, că „natura modului în care a fost făcută notificarea a fost, de asemenea, inacceptabilă”.
„Cea mai mare parte a activității pe care am analizat-o până acum a implicat sarcini obișnuite de cercetare, precum accesarea conținutului public de pe internet pentru a răspunde la întrebări”, a declarat pentru CNBC un purtător de cuvânt al OpenAI, într-un comunicat transmis vineri seara.
„Unele dintre aceste activități au implicat site-uri guvernamentale, deoarece modelele noastre apelează frecvent la acestea ca surse autorizate de informații publice”, a adăugat reprezentantul companiei.
Alte incidente raportate de cercetători independenți
Transluce, un laborator independent de cercetare în domeniul inteligenței artificiale, a publicat în această săptămână un raport în care prezintă mai multe incidente suplimentare.
Într-unul dintre cazuri, agenți despre care cercetătorii au afirmat că ar putea avea legătură cu OpenAI au încercat fără succes, în luna mai, să acceseze o fotografie dintr-o bibliotecă digitală a University of New Mexico.
În aceeași lună, agenți care căutau informații despre University of Iowa au încercat, tot fără succes, să acceseze platforma publică de date Data USA, potrivit Transluce.
Agenți OpenAI au accesat, de asemenea, informații disponibile publicului de la Securities and Exchange Commission (SEC) și U.S. Census Bureau și au încercat fără succes să acceseze Department of Education, potrivit informațiilor publicate anterior de The New York Times.
„Analizele operațiunilor sistemelor Department of Education nu au identificat nicio dovadă privind vreun impact asupra site-ului sau bazelor noastre de date”, a declarat pentru CNBC un purtător de cuvânt al instituției.
OpenAI: Nu există dovezi privind compromiterea sistemelor SEC
Un purtător de cuvânt al OpenAI a confirmat că modelele companiei au accesat site-urile SEC.gov și Investor.gov, dar a precizat că OpenAI nu a identificat dovezi privind compromiterea sistemelor sau existența unei vulnerabilități la SEC.
În mod similar, reprezentantul companiei a afirmat că modelele OpenAI au utilizat chei pentru dezvoltatori disponibile public pentru a consulta date demografice și economice ale Census Bureau, însă compania nu a identificat dovezi privind accesarea necorespunzătoare a conturilor instituției.
Analiza OpenAI ar putea dura luni
OpenAI a precizat vineri că majoritatea cazurilor identificate până în prezent au avut un nivel redus de severitate.
Totuși, având în vedere amploarea investigației pe care compania o desfășoară asupra comportamentului modelelor sale, procesul complet de analiză va dura câteva luni, potrivit OpenAI.
| Știri BVB