Vicepreședintele SUA, JD Vance, a respins apelurile pentru o reglementare globală a riscurilor generate de inteligența artificială și a transmis companiilor care dezvoltă cele mai avansate modele că responsabilitatea pentru tehnologiile potențial periculoase le aparține în primul rând lor, potrivit The Guardian. Declarațiile vin în contextul intensificării dezbaterii din industria AI privind încetinirea dezvoltării celor mai puternice sisteme și introducerea unor mecanisme de control.
-
Vance, către industria AI: „Dacă faceţi Frankenstein, opriți-vă”
Într-un discurs susținut la un summit dedicat inteligenței artificiale la Los Angeles, Vance și-a îndreptat criticile în special către Dario Amodei, cofondator și CEO al Anthropic, care a cerut coordonare între guverne și industria tehnologică pentru limitarea riscurilor generate de sistemele AI foarte avansate.
„Dacă veți crea Frankenstein, nu veniți la guvern să spuneți că avem nevoie de reglementare”, a declarat vicepreședintele american.
Potrivit acestuia, liderii companiilor tehnologice ar trebui să își asume direct responsabilitatea pentru ceea ce construiesc: dacă dezvoltă sisteme pe care le consideră periculoase, ar trebui să oprească dezvoltarea acestora și să ofere companiilor instrumentele necesare pentru a se apăra împotriva noilor amenințări.
Vance a sugerat anterior că apelurile unor lideri AI pentru reguli mai stricte ar putea funcționa ca un „cal troian”, ridicând problema dacă marile companii încearcă, prin reglementare, să creeze bariere care să le consolideze poziția în raport cu competitorii. Dezbaterea este legată de riscul de „regulatory capture” – situația în care regulile ajung să fie influențate de actorii economici pe care ar trebui să îi supravegheze.
-
Anthropic cere încetinirea ritmului de dezvoltare
Poziția lui Vance contrastează cu avertismentele formulate de Dario Amodei. CEO-ul Anthropic a cerut în ultimele zile încetinirea ritmului în care cresc capabilitățile celor mai avansate modele, pentru ca măsurile de siguranță și capacitatea de control să poată ține pasul cu tehnologia.
Amodei a propus inclusiv standarde comune de siguranță, audituri independente și cooperare între guverne pentru gestionarea riscurilor asociate celor mai performante sisteme AI. AP notează că mai mulți lideri din industrie au susținut în ultimele zile necesitatea unor măsuri suplimentare de siguranță, deși există diferențe importante privind modul în care acestea ar trebui implementate.
Amodei a avertizat, de asemenea, că ritmul actual de dezvoltare ar putea face ca grupuri de agenți AI să dobândească, într-un interval de șase până la 12 luni, capacități extrem de puternice în mediul online. Acestea sunt însă scenarii și avertismente formulate de liderul Anthropic, nu evoluții demonstrate ca inevitabile; probabilitatea și chiar fezabilitatea unor asemenea scenarii sunt intens disputate între specialiști.
-
Avertismente extreme privind riscul pentru omenire, dar fără consens științific
Dezbaterea a fost amplificată și de declarațiile unor cercetători din domeniul siguranței AI. Evan Hubinger, cercetător Anthropic specializat în „alignment”, a estimat recent la peste 10% probabilitatea ca inteligența artificială să provoace dispariția omenirii în următorul deceniu.
Afirmația a venit în contextul plecării unui alt cercetător, Jacob Coxon, de la Anthropic, acesta exprimând temeri similare. Coxon și-a nuanțat ulterior poziția, afirmând că o încetinire suficientă a dezvoltării ar putea reduce radical riscurile și recunoscând dificultatea de a descrie scenarii concrete prin care AI ar putea provoca un asemenea rezultat.
Nu există însă un consens între specialiști privind probabilitatea ca inteligența artificială să provoace dispariția umanității sau privind intervalul în care sisteme capabile de asemenea acțiuni ar putea apărea. AP descrie actuala dezbatere drept o reluare a unei controverse vechi privind posibilitatea ca sistemele AI să depășească mecanismele umane de control.
-
Trump: Ideea că AI va distruge omenirea este o „farsă”
Poziția exprimată de JD Vance diferă inclusiv ca argumentație de cea a președintelui Donald Trump. În timp ce Vance admite existența unor riscuri, dar consideră că responsabilitatea principală revine dezvoltatorilor, Trump a respins scenariile potrivit cărora AI ar putea prelua controlul și distruge omenirea, calificându-le drept o „farsă”.
Președintele american a prezentat în schimb inteligența artificială drept un potențial motor major al dezvoltării economice. Administrația sa favorizează, în general, o abordare cu mai puține constrângeri asupra dezvoltării tehnologiei, într-un context în care competiția SUA-China reprezintă una dintre preocupările centrale ale Washingtonului.
-
Altman și Zuckerberg: companiile trebuie să acționeze și fără reguli impuse de stat
Disputa nu se limitează la Anthropic și administrația americană. CEO-ul OpenAI, Sam Altman, a susținut că firmele nu ar trebui să condiționeze propriile măsuri de siguranță de comportamentul concurenților. Meta, la rândul său, a susținut ideea că laboratoarele trebuie să ia unilateral măsuri atunci când identifică riscuri semnificative.
Dezbaterea din SUA se concentrează astfel pe o întrebare cu implicații economice și geopolitice majore: cine trebuie să stabilească limitele dezvoltării celor mai puternice sisteme AI – companiile care le construiesc sau autoritățile publice prin reguli obligatorii?
În pofida intensificării avertismentelor din industrie, adoptarea rapidă a unui cadru federal amplu de reglementare rămâne incertă. În Congres există inițiative bipartizane privind supravegherea riscurilor generate de modelele de frontieră, însă acestea se confruntă cu opoziție politică și cu disputa mai largă privind efectele reglementării asupra competitivității tehnologice americane.
| Știri BVB