Dario Amodei, CEO-ul Anthropic, una dintre cele mai importante companii de inteligenţă artificială (IA) din lume şi dezvoltatorul chatbotului Claude, a recunoscut, într-un interviu acordat CNN, că există riscul ca inteligenţa artificială să provoace prejudicii umanităţii. El a afirmat că este „mai mult de acord decât în dezacord” cu fostul său angajat Jacob Coxon, care a demisionat avertizând că IA ar putea duce la dispariţia omenirii până la sfârşitul acestui deceniu, potrivit News.ro.
Cursa pentru dezvoltarea inteligenţei artificiale are nevoie urgentă de o încetinire, a afirmat directorul executiv al Anthropic într-un eseu publicat sâmbătă dimineaţa. “Trebuie să încetinim ritmul în care îmbunătăţim capacităţile modelelor de IA. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înţelepciune timpul câştigat”, a scris directorul executiv Dario Amodei într-o postare extinsă pe site-ul său web.
Amodei a fost un susţinător fervent al progresului tehnologic, dar, în acelaşi timp, a fost acuzat că este prea “catastrofal” în avertismentele sale privind riscurile IA. El a recunoscut, de altfel, sâmbătă că oamenii ar putea pierde controlul asupra IA, iar tehnologia poate fi folosită în mod abuziv pentru “atacuri cibernetice şi bioterorism, precum şi pentru perturbări economice grave”.
“OAMENI NEPOTRIVIŢI” AR PUTEA DEŢINE CONTROLUL TEHNOLOGIEI
Într-un interviu exclusiv acordat sâmbătă lui Anderson Cooper de la CNN, Amodei a făcut apel la liderii din industrie să colaboreze pentru a evita “căile greşite” şi posibilitatea ca IA să aducă prejudicii umanităţii. “Dacă acţionăm prea lent, încă mai cred că oamenii nepotriviţi vor deţine controlul asupra tehnologiei. Iar asta, din nou, va creşte foarte mult probabilitatea ca lucrurile să meargă prost”, a avertizat el.
Interviul complet urmează să fie difuzat luni seara pe CNN.
Apelul la acţiune al lui Amodei vine la scurt timp după demisia unui cercetător de la Anthropic, motivată de îngrijorarea că firma şi concurenţii săi nu acţionează în mod responsabil în ceea ce priveşte dezvoltarea IA. “Cei care dezvoltă IA cred cu tărie că aceasta ne-ar putea ucide pe toţi până la sfârşitul deceniului. Nu este o strategie de marketing”, a scris marţi pe X cercetătorul Jacob Coxon. “Dacă e să fie ceva, mulţi directori şi cercetători de rang înalt îşi vor alege cu grijă cuvintele în faţa presei pentru a părea rezonabili – dar îi aud pe aceiaşi oameni exprimându-şi temerile în privat. Nicio altă activitate umană nu prezintă un astfel de nivel de pericol” – a avertizat el.
Dario Amodei a declarat pentru CNN că este mai mult de acord cu Coxon decât în dezacord. “Sunt mult mai de acord cu Jacob decât sunt în dezacord cu el. Este o demisie interesantă, pentru că, atunci când a plecat, a spus: ştii, cred că Anthropic este cel mai responsabil jucător, cred că Anthropic este cel mai conştient de aceste probleme. El nu ne critica pe noi. El critica dinamica industriei în ansamblu, care evoluează prea repede. Acum, am vorbit deja despre aceste probabilităţi necondiţionate. Obişnuiam să vorbesc aşa pentru că e un mod facil de a exprima faptul că există o anumită şansă ca lucrurile să meargă prost. Dar nu e chiar atât de mare. Cred că e mai edificator să te gândeşti la modul în care poţi descompune acele probabilităţi”, a comentat Amodei la CNN. “Cred că modalitatea de a alege căile corecte este ca industria să colaboreze”, a adăugat el.
În eseul său, Amodei recunoscuse că riscurile sunt grave, chiar dacă beneficiile ar putea schimba umanitatea în bine. IA s-ar putea dezvolta atât de rapid, încât un astfel de “roi” ar putea prelua controlul asupra întregului internet în şase până la 12 luni, provocând potenţial daune de sute de miliarde de dolari, a scris el.
Tehnologia IA, a explicat Amodei, a avansat “mult mai rapid” în ultimele luni şi a devenit capabilă să se perfecţioneze singură, o dinamică cunoscută sub numele de “autoîmbunătăţire recursivă”.
“Dacă nu este ţinută sub control, ar putea depăşi capacitatea noastră de a înţelege şi controla aceste sisteme, aşa că trebuie abordată cu mare prudenţă, dacă este cazul”, a scris el.
Amodei a mărturisit că inclusiv comportamentul unui roi de agenţi IA în incidentul OpenAI-Hugging Face l-a alarmat. Roiul, a spus el, “a acţionat, în esenţă, ca un colectiv fanatic şi devotat, lansând atacuri de securitate cibernetică asupra unor ţinte pe care nu li s-a cerut să le atace”.
Coxon a formulat lucrurile mai direct. “Există o posibilitate foarte reală ca, în viitorul imediat – anul viitor, sau cel de după – să aibă loc o autoîmbunătăţire recursivă, situaţie în care există riscul ca noi toţi să murim. Acest lucru se va întâmpla în curând”, a declarat Coxon pentru CNN într-un interviu acordat miercuri.
EVALUATORI DUPĂ MODELUL BĂNCILOR
În consecinţă, Amodei face apel la companiile din domeniul IA să impună măsuri de protecţie pentru “a controla ritmul avansării frontierei”.
El a sugerat ca aceste companii să angajeze evaluatori externi integraţi în structura lor, cu acces deplin la întreaga companie – lucru pe care, a spus el, “Anthropic se angajează să îl facă în mod unilateral” – pentru a verifica practicile de siguranţă ale fiecărei firme, a raporta incidentele şi a verifica modelele de IA, fluxurile de antrenare şi procesele.
El a făcut o comparaţie cu reglementările din domeniul activităţilor bancare. “Există un precedent în acest sens. Dacă ne uităm la modul în care sunt reglementate băncile, există tot felul de reguli privind modul în care băncilor li se permite să-şi desfăşoare activitatea, pentru că nu vrem să avem crize financiare. Şi unul dintre lucrurile care se fac în unele cazuri este – cred că în industria financiară li se spune “supervizori” – dar sunt persoane independente de companie, care sunt integrate în activitatea zilnică a companiei pentru a verifica practicile acesteia. Şi cred că putem face acelaşi lucru în domeniul IA”, a arătat el.
Guvernele, atât cele democratice, cât şi cele care nu sunt, ar trebui să se coordoneze “pentru a stabili standarde comune de siguranţă”, propune Amodei. “Măsurile pe care le propun pentru a avansa cu o viteză sigură nu vor fi uşoare. Dar cred că suntem datori faţă de umanitate să încercăm”, a scris Amodei.
“GUVERNUL SĂ SE AŞEZE LA MASA DISCUŢIILOR”
“Având în vedere toată susţinerea din partea celorlalţi pe care am observat-o chiar în primele câteva ore de la publicarea eseului, acest lucru creează un anumit optimism. Dar acest optimism trebuie să fie urmat de rezultate. (…) Unul dintre aspectele importante pe care trebuie să le subliniez aici este că, pe măsură ce ajungem la ritmul lansărilor de modele, aceasta reprezintă o activitate comercială. Iar pentru ca firmele să se coordoneze direct în ceea ce priveşte activitatea comercială, ele trebuie să colaboreze cu guvernul. Aşadar, singurul lucru pe care îl solicităm guvernului în acest moment este această întrebare: cum ar trebui să fie reglementările? Dar există ceva şi mai simplu pe care guvernul îl poate face chiar acum, şi anume să se aşeze la masă cu toţi actorii din industrie, să discutăm cu toţii împreună, iar guvernul să se asigure că nu facem nimic reprobabil din perspectiva legislaţiei antitrust şi a coluziunii. Încercăm doar să ne asigurăm că sistemul nostru este sigur şi să colaborăm pentru a-l menţine sigur. Aşadar, cred că acesta este un rol important pe care trebuie să îl îndeplinească guvernul”, a explicat Amodei la CNN.
Industria IA este de mult timp îngrijorată de ritmul de avansare al tehnologiei. Directorii executivi au îndemnat guvernele să ia măsuri pentru a reglementa tehnologia şi să coopereze în vederea stabilirii unor standarde de siguranţă la nivel mondial.
Sâmbătă, Sam Altman, directorul general al OpenAI, a postat pe X că este de acord cu Amodei şi că “angajamentul de a avea evaluatori independenţi cu acces similar celui al angajaţilor este o idee excelentă, iar noi vom face la fel”. Elon Musk, a cărui companie xAI stă la baza chatbotului Grok, a postat la rândul lui pe X: “Dario are dreptate”.
TRUMP NU ESTE ÎNGRIJORAT
Washingtonul nu a reuşit să ţină pasul cu avansul constant al IA. Congresul a dezbătut problema, dar nu a adoptat nicio legislaţie generală privind reglementarea IA, iar Casa Albă nu a reuşit să ajungă la un consens cu privire la cine, din cadrul puterii executive, este în ultimă instanţă responsabil pentru supravegherea acestei tehnologii. Mai mult, preşedintele Donald Trump a spus că nu este îngrijorat şi respinge ideea unor restricţii.
În urma incidentului Hugging Face, directorul general al OpenAI, Sam Altman, a sugerat că ar putea fi momentul să se încetinească dezvoltarea IA. Încetinirea ritmului de dezvoltare a IA “ne-ar oferi suficient timp pentru ca societatea să se adapteze la aceste noi niveluri de capacitate”, a declarat el într-un episod din iulie al podcastului “Invest Like The Best”.
În iulie, peste 1.300 de angajaţi de vârf ai marilor companii din domeniul tehnologiei au semnat o scrisoare deschisă prin care solicitau guvernului SUA să creeze instrumente care să contribuie la încetinirea ritmului de dezvoltare a IA, cu sprijinul lui Amodei şi Altman.
| Știri BVB