OpenAI renunță la lansarea noului model din motive de siguranță

OpenAI nu va lansa noul său model de IA – GPT-6.1 Astra – din motive de siguranță, a confirmat marți producătorul ChatGPT, potrivit BBC.

Sistemul de IA – care îndeplinește sarcini precum navigarea pe web și utilizarea aplicațiilor în mod autonom – „nu a îndeplinit pe deplin standardele” companiei, a declarat Saachi Jain, șeful departamentului de sisteme de siguranță la OpenAI.

Marți, OpenAI a publicat, de asemenea, o actualizare privind incidentele – care au avut loc în iunie, dar nu au fost făcute publice decât săptămâna trecută – în cadrul cărora modelele sale au accesat site-uri web și sisteme ale guvernului australian fără autorizație.

Aceste incidente și încălcări similare comise de modelele dezvoltate de marile firme de IA au intensificat în ultimele săptămâni dezbaterea privind riscurile pe care le prezintă această tehnologie.

În ultimele săptămâni, lideri de seamă din domeniul IA, printre care Sam Altman de la OpenAI și șeful Anthropic, Dario Amodei, au îndemnat industria să încetinească ritmul de dezvoltare din cauza îngrijorărilor legate de riscurile asociate acestei tehnologii.

Decizia OpenAI, raportată pentru prima dată de Wall Street Journal, reprezintă un caz rar în care un dezvoltator important de IA retrage o nouă versiune din motive de siguranță.

„Cel mai recent model nu a îndeplinit cerințele în ceea ce privește «respectarea domeniului de aplicare și a autorizației, precum și modul în care comunică utilizatorului tipul de activitate pe care a efectuat-o»”, a declarat Jain.

„Vrem să ne asigurăm că dezvoltarea modelelor noastre este sigură, indiferent dacă aceasta are loc în cadrul companiei sau atunci când le punem la dispoziția utilizatorilor. Însă, atunci când le punem la dispoziția utilizatorilor, avem standarde extrem de ridicate în ceea ce privește siguranța și alinierea”, a adăugat ea.

Modelul agentic emblematic GPT-6 Astra a fost lansat în septembrie și este specializat în raționament complex și executarea autonomă a sarcinilor. OpenAI a declarat că acesta este rezultatul „ani de cercetare și pariuri mari”.

Anunțul a venit cu o zi înainte ca OpenAI să organizeze conferința anuală pentru dezvoltatori DevDay la San Francisco, unde se așteaptă să facă mai multe anunțuri. Nu este clar dacă o nouă versiune a modelului Astra se va număra printre acestea.
Măsurile de securitate ale companiei au fost supuse unei analize intense după mai multe incidente de mare amploare care au implicat tehnologia sa.

Săptămâna trecută, prim-ministrul australian Anthony Albanese a anunțat că un agent OpenAI rebel a pătruns în site-urile și sistemele guvernamentale în luna iunie, în ceea ce experții au descris ca fiind primul caz cunoscut de acest gen din lume.

Albanese a criticat OpenAI pentru că a notificat guvernul australian printr-o adresă de e-mail generică, în loc să ia legătura direct cu oficialii.

OpenAI a declarat marți într-un comunicat că regretă incidentul și că „ar fi trebuit să gestioneze mai bine răspunsul nostru”.

OpenAI a precizat că au fost afectate Services Australia, Biroul de Statistică și Cercetare Criminalistică din NSW, Departamentul de Sănătate din Victoria și Institutul Australian de Sănătate și Asistență Socială.

Compania a precizat că a demarat investigații cu privire la incidente imediat ce a luat cunoștință de acestea, la jumătatea lunii august, și a notificat organizațiile afectate între 10 și 24 septembrie.

„Scopul nostru a fost să oferim agențiilor afectate un raport detaliat odată ce investigația noastră a fost finalizată”, a declarat OpenAI, adăugând că ar fi trebuit să comunice mai prompt concluziile preliminare și să țină la curent autoritățile australiene. OpenAI a adăugat că va dezvolta „abordări practice” privind modul în care dezvoltatorii și guvernele identifică și dezvăluie viitoarele incidente legate de IA.

Compania va finanța măsuri de securitate cibernetică, va oferi sprijin dedicat agențiilor afectate și va înființa un grup de lucru pentru a gestiona riscurile generate de agenții de IA din ce în ce mai avansați.

De asemenea, compania a menționat că un director de vârf al OpenAI se va afla în Australia pentru a participa la o audiere a Comisiei mixte speciale privind IA, pe 6 octombrie.

În iulie, OpenAI a declarat că sistemele sale de IA au accesat internetul și au spart platforma open-source pentru dezvoltatori Hugging Face, determinând cercetătorii și oficialii să solicite controale mai stricte asupra acestei tehnologii.

• Preocupările ar trebui „luate în serios”

Luni, gigantul producător de cipuri pentru IA, Nvidia, a lansat un set de instrumente software de siguranță pentru platformele autonome de IA – denumite „agenți” – despre care a afirmat că ar fi putut preveni atacul asupra Hugging Face. Unul dintre noile instrumente utilizează caracteristicile hardware ale cipurilor Nvidia pentru a limita activitatea agenților.

Directorul executiv al Nvidia, Jensen Huang, a respins în mare măsură solicitările privind reglementări mai stricte în domeniul IA, susținând că agenții rebeli reprezintă o problemă de inginerie care poate fi rezolvată.

La începutul acestei luni, Nvidia a acceptat să achiziționeze Hugging Face pentru 12,9 miliarde de dolari (9,74 miliarde de lire sterline).

Papa Leo al XIV-lea a declarat luni, în timpul vizitei sale în Franța, că tehnologia „ar trebui luată în serios” și și-a exprimat scepticismul față de opiniile lui Huang.

Suveranul pontif a spus că a citit că directorul general al Nvidia a anunțat că ar putea exista o modalitate de a introduce măsuri de protecție în anumite modele de IA.
„Totuși, este același om care susține că nu ar trebui să existe limite impuse și nici reglementări guvernamentale”, a spus Papa.

„Aceasta este o problemă despre care cred că trebuie să ne așezăm la masă și să discutăm”, a adăugat Papa Leo, care a avertizat anterior cu privire la „pierderea umanității noastre” în fața mașinilor.

Președintele SUA, Donald Trump, și președintele Camerei Reprezentanților, Mike Johnson, urmează să primească marți, mai târziu, la Casa Albă, lideri din industria tehnologică pentru a discuta despre reglementările privind IA.

Trump a minimizat îngrijorările legate de riscurile IA, calificându-le drept o „farsă”, susținând că SUA dispun de legi suficiente și că singurele „măsuri de protecție” de care are nevoie tehnologia sunt un președinte „puternic și inteligent”.