OpenAI dizolvă echipa concentrată pe riscurile AI pe termen lung, la mai puțin de un an de la anunțarea acesteia; Ilya Sutskever, co-fondatorul OpenAI, părăsește producătorul ChatGPT

• OpenAI și-a desființat echipa concentrată pe riscurile pe termen lung ale inteligenței artificiale, a confirmat pentru CNBC o persoană familiarizată cu situația.

• Vestea vine la câteva zile după ce ambii șefi de echipă, co-fondatorul OpenAI Ilya Sutskever și Jan Leike, și-au anunțat plecarea de la startup-ul susținut de Microsoft.

• Echipa de Superalignment a OpenAI, anunțată în 2023, a lucrat pentru a obține „descoperiri științifice și tehnice pentru a conduce și controla sistemele AI mult mai inteligente decât noi”.

• La acea vreme, OpenAI a spus că va dedica 20% din puterea sa de calcul inițiativei pe parcursul a patru ani.

OpenAI și-a desființat echipa concentrată pe riscurile pe termen lung ale inteligenței artificiale la doar un an după ce compania a anunțat înființarea grupului, a confirmat vineri o persoană familiară cu situația pentru CNBC.

Persoana, care a vorbit sub condiția anonimatului, a spus că unii dintre membrii echipei au fost realocați în mai multe alte echipe din cadrul companiei.

Vestea vine la câteva zile după ce ambii șefi de echipă, co-fondatorul OpenAI Ilya Sutskever și Jan Leike, și-au anunțat plecarea de la startup-ul susținut de Microsoft. Leike a scris vineri:  „Cultura și procesele de siguranță ale OpenAI au trecut pe planul din spate în fața produselor strălucitoare”.

Echipa de Superalignment a OpenAI, anunțată anul trecut, s-a concentrat pe „descoperiri științifice și tehnice pentru a conduce și controla sistemele AI mult mai inteligente decât noi”. La acea vreme, OpenAI a spus că va dedica 20% din puterea sa de calcul inițiativei, pe parcursul a patru ani.

OpenAI nu a oferit niciun comentariu, dar, în schimb, a direcționat CNBC către postarea recentă a cofondatorului și CEO-ului Sam Altman pe X, unde a împărtășit că este trist să-l vadă pe Leike plecând și că firma are mai mult de lucru. Sâmbătă, cofondatorul OpenAI, Greg Brockman, a postat o declarație atribuită atât lui, cât și lui Altman pe X, afirmând că firma  a „crescut conștientizarea riscurilor și oportunităților AGI, astfel încât lumea să se poată pregăti mai bine pentru aceasta”.

Vestea dizolvării echipei a fost raportată pentru prima dată de Wired.

Sutskever și Leike și-au anunțat marți plecările pe platforma de socializare X, la câteva ore distanță, dar vineri, Leike a împărtășit mai multe detalii despre motivul pentru care a părăsit startup-ul.

„M-am alăturat pentru că am crezut că OpenAI ar fi cel mai bun loc din lume pentru a face această cercetare”, a scris Leike pe X. „Cu toate acestea, nu sunt de acord cu conducerea OpenAI cu privire la prioritățile de bază ale companiei de ceva timp, până când am ajuns în sfârșit la un punct de rupere.”

Leike a scris că o parte companiei ar trebui să se concentreze mai mult pe securitate, monitorizare, pregătire, siguranță și impact societal.

„Aceste probleme sunt destul de greu de rezolvat și sunt îngrijorat că nu suntem pe o traiectorie pentru a ajunge acolo”, a scris el. „În ultimele luni, echipa mea a navigat împotriva vântului. Uneori ne luptam pentru [resurse de calcul] și era din ce în ce mai greu să ducem la bun sfârșit această cercetare crucială.”

Leike a adăugat că OpenAI trebuie să devină o „companie AGI pe primul loc în siguranță”.

„Construirea unor mașini mai inteligente decât oamenii este un efort în mod inerent periculos”, a scris el. „OpenAI își asumă o responsabilitate enormă în numele întregii umanități. Dar în ultimii ani, cultura și procesele de siguranță au trecut pe planul din spate în fața produselor strălucitoare.”

Leike nu a răspuns imediat unei solicitări de comentarii.

Cele două plecări vin  la câteva luni după ce OpenAI a trecut printr-o criză de conducere care l-a implicat Altman.

În noiembrie, consiliul OpenAI l-a înlăturat pe Altman, spunând într-o declarație că Altman nu a fost „consecvent sincer în comunicările sale cu consiliul”.

Problema părea să devină din ce în ce mai complexă în fiecare zi, The Wall Street Journal și alte instituții media raportând că Sutskever și-a concentrat atenția pentru a se asigura că inteligența artificială nu va dăuna oamenilor, în timp ce alții, inclusiv Altman, erau mai dornici să continue cu livrarea de  tehnologie nouă.

Înlăturarea lui Altman a provocat demisii sau amenințări de demisie, inclusiv o scrisoare deschisă semnată de toți angajații OpenAI și scandal din partea investitorilor, inclusiv Microsoft.

În decurs de o săptămână, Altman s-a întors în companie, iar membrii consiliului de administrație Helen Toner, Tasha McCauley și Ilya Sutskever, care votaseră pentru înlăturarea lui Altman, au plecat din conducere. Sutskever a rămas în cadrul OpenAI la acea vreme, dar nu în calitate de membru al consiliului. Adam D’Angelo, care votase și el pentru înlăturarea lui Altman, a rămas în consiliu.

Când Altman a fost întrebat despre situația lui Sutskever la un apel Zoom cu reporterii în martie, el a spus că nu există actualizări de transmis. „Îl iubesc pe Ilya… sper să lucrăm împreună pentru restul carierei noastre, cariera mea, orice”, a spus Altman. „Nimic de anunțat astăzi.”

Marți, Altman și-a împărtășit gândurile despre plecarea lui Sutskever.

„Este foarte trist pentru mine; Ilya este una dintre cele mai mari minți ale generației noastre, o lumină călăuzitoare a domeniului nostru și un prieten drag”, a scris Altman despre X. „Strălucirea și viziunea lui sunt binecunoscute; căldura și compasiunea lui sunt mai puțin cunoscute, dar nu mai puțin importante”. Altman a spus că directorul de cercetare Jakub Pachocki, care este la OpenAI din 2017, îl va înlocui pe Sutskever în calitate de șeful departamentului de știință.

Știrile despre plecările lui Sutskever și Leike și dizolvarea echipei de Superalignment vin la câteva zile după ce OpenAI a lansat un nou model AI și o versiune desktop a ChatGPT, împreună cu o interfață de utilizator actualizată, cel mai recent efort al companiei de a extinde utilizarea popularului său chatbot.

Actualizarea aduce modelul GPT-4 tuturor, inclusiv utilizatorilor gratuiti ai OpenAI, a declarat șeful tehnologiei Mira Murati luni într-un eveniment transmis în direct. Ea a adăugat că noul model, GPT-4o, este „mult mai rapid”, cu capacități îmbunătățite în text, video și audio.

OpenAI a spus că intenționează să permită utilizatorilor să converseze video cu ChatGPT. „Este prima dată când facem cu adevărat un pas uriaș înainte când vine vorba de ușurința în utilizare”, a spus Murati.