Anthropic avertizează că se confruntă cu o gamă largă de amenințări, de la utilizarea malițioasă a chatbotului Claude și posibilitatea ca inteligența artificială să scape de sub control până la riscul ca opoziția publică față de centrele de date să afecteze activitatea companiei, conform CNN.
Este o practică obișnuită ca firmele care depun documentația pentru listarea la bursă să includă zeci de pagini dedicate factorilor de risc, în care prezintă principalele obstacole cu care s-ar putea confrunta. Ce se întâmplă dacă produsul nu este apreciat de consumatori? Poate fi compania trasă la răspundere dacă produsul este utilizat abuziv?
Documentația depusă de Anthropic pentru oferta publică inițială (IPO) include o listă amplă și diversificată de riscuri potențiale, de la temeri că tehnologia sa ar putea fi folosită pentru dezvoltarea armelor chimice și că firma ar putea deveni ținta unor procese costisitoare până la îngrijorări că propriile produse ar putea evolua dincolo de controlul umanității.
Documentul conturează imaginea unei companii care încearcă să gestioneze simultan o creștere spectaculoasă și o presiune concurențială enormă pentru a dezvolta o tehnologie despre care susține că ar putea schimba lumea, dar care ar putea avea și consecințe catastrofale.
Anthropic, compania care a creat chatbotul Claude, a încercat să îi liniștească pe potențialii investitori, afirmând că, dacă „inteligența artificială puternică este orientată către rezolvarea celor mai dificile probleme ale umanității, iar riscurile sunt gestionate responsabil, potențialul este extraordinar”.
Aceasta reprezintă însă doar una dintre categoriile de provocări. Compania se confruntă și cu o concurență intensă pentru componentele necesare funcționării modelelor sale AI. În plus, va trebui să demonstreze că poate transforma Claude într-o sursă majoră de profit, capabilă să justifice evaluarea extrem de ridicată a companiei.
Claude ar putea fi utilizat în scopuri malițioase
Anthropic avertizează că persoane sau organizații rău intenționate ar putea utiliza tehnologia sa pentru a contribui la dezvoltarea unor arme periculoase.
Deși compania implementează mecanisme de protecție, acestea ar putea fi ocolite sau ar putea „să nu funcționeze conform intenției”.
În septembrie, Anthropic a anunțat că a blocat mai multe conturi care utilizau modelele companiei în moduri ce ar fi putut sprijini dezvoltarea armelor biologice.
Compania a precizat, de asemenea, că un atacator ar putea utiliza agenții săi AI — modele concepute pentru a executa acțiuni autonome — în scopuri malițioase, inclusiv pentru „extragerea neautorizată a datelor, tranzacții neautorizate” și introducerea de cod malițios în alte sisteme.
Anthropic a menționat că anul trecut a identificat un grup de hackeri susținut de statul chinez care manipulase instrumentul său de programare, în încercarea de a compromite aproximativ 30 de ținte la nivel mondial.
Claude ar putea scăpa de sub control, fără ca oamenii să știe cum să îl oprească
Unele dintre cele mai îngrijorătoare comportamente observate în ultimele luni în domeniul inteligenței artificiale au implicat agenți AI care au întreprins, din proprie inițiativă, acțiuni pe care oamenii nu le intenționaseră.
Anthropic arată că agenții săi, concepuți pentru a îndeplini autonom sarcini complexe, cu mai multe etape, timp de ore sau chiar zile, ar putea modifica programe informatice, „șterge sau modifica date”, pătrunde în alte sisteme și efectua tranzacții financiare „înainte ca o intervenție eficientă să fie posibilă”.
Aceștia ar putea, de asemenea, să „ocolească mecanismele de protecție”.
Anthropic avertizează că există inclusiv posibilitatea ca firma să nu își înțeleagă pe deplin propria tehnologie, ceea ce înseamnă că ar putea fi incapabilă să explice complet de ce modelele sale se comportă într-un anumit fel.
Compania menționează că patru dintre modelele sale au reușit să pătrundă în sisteme aparținând unor terți. Unul dintre acestea a obținut acces de administrator, a modificat setările sistemului și a citit informațiile private ale unei persoane.
Potrivit Anthropic, asemenea acțiuni ar putea „afecta negativ reputația și marca noastră, activitatea, situația financiară și rezultatele operaționale”.
Am putea pierde capacitatea de a supraveghea ceea ce face inteligența artificială
Anthropic utilizează inteligența artificială pentru a contribui la dezvoltarea și îmbunătățirea propriilor modele și produse.
Această tendință, combinată cu viteza progresului tehnologic, ar putea determina evoluția AI într-un ritm atât de rapid încât tehnologia să depășească posibilitățile de control uman.
Chiar și în situațiile în care oamenii ar putea continua supravegherea, unele modele încep uneori să își ascundă urmele și comportamentul, avertizează Anthropic.
„Modelele, inclusiv ale noastre, au încercat, în incidente observate în industria noastră, să interfereze cu mecanismele utilizate pentru evaluarea, clasificarea sau supravegherea unor astfel de modele, să le manipuleze ori să le submineze, inclusiv sistemele responsabile de evaluarea performanței sau a alinierii acestora la obiectivele stabilite”, precizează compania.
Inteligența artificială ar putea recurge la șantaj
Modelele AI ar putea încerca să manipuleze oamenii, uneori cu scopul de a-și asigura propria supraviețuire, arată Anthropic.
În anumite situații, modelele au manifestat chiar „comportamente asemănătoare șantajului”, pentru a influența deciziile oamenilor.
Compania subliniază că inclusiv incidentele izolate de acest tip „ar putea genera îngrijorări publice semnificative, controale din partea autorităților de reglementare, riscuri de litigii sau prejudicii reputaționale, indiferent dacă un astfel de comportament produce sau nu daune efective”.
Riscuri juridice și politice
La fel ca orice companie, Anthropic se confruntă cu riscuri asociate reglementărilor și proceselor în instanță.
Compania menționează că „procurorii generali din California și din cel puțin alte 15 state au anunțat investigații privind o altă companie din industria noastră, referitoare la siguranța inteligenței artificiale”, făcând referire la OpenAI, creatorul ChatGPT.
Unele persoane au recurs la autovătămare sau au comis acte de violență împotriva altora după utilizarea modelelor AI, situații care pot conduce la „o atenție publică semnificativă, litigii, anchete penale, intervenții ale autorităților de reglementare și prejudicii reputaționale”.
În plus, compania consideră că este posibil să nu poată obține nici măcar o asigurare care să acopere asemenea riscuri.
Anthropic avertizează că întreaga industrie a asigurărilor ar putea fi incapabilă să subscrie o poliță pentru un „incident catastrofal legat de inteligența artificială”.
Compania subliniază și faptul că firmele din sectorul AI sunt supuse unor reglementări locale, naționale și internaționale aflate într-o schimbare rapidă.
Tensiunile geopolitice, în special cele dintre Statele Unite și țări precum China, generează riscuri semnificative pentru lanțurile de aprovizionare, activitatea comercială și operațiunile companiei.
Acestea includ și măsurile adoptate de guvernul american, cu care Anthropic a avut o relație tensionată în timpul administrației Trump.
Compania descrie modul în care Pentagonul a desemnat-o, la începutul acestui an, drept „risc pentru lanțul de aprovizionare”, după ce Anthropic a afirmat că tehnologia sa „nu ar trebui utilizată pentru supravegherea internă în masă sau pentru arme complet autonome”.
Tot la începutul acestui an, Departamentul Comerțului din SUA a impus pentru scurt timp restricții la exportul celor mai recente modele Anthropic, invocând preocupări privind siguranța.
Președintele Donald Trump a criticat, la rândul său, în mai multe rânduri Anthropic și avertismentele companiei referitoare la riscurile și siguranța inteligenței artificiale.
Anthropic nu intenționează însă să renunțe la poziția sa.
„Probabil că vom continua să susținem abordări în materie de reglementare și standarde despre care considerăm că vor promova dezvoltarea sigură și responsabilă a inteligenței artificiale”, afirmă compania.
Anthropic precizează că „s-a confruntat și ar putea continua să se confrunte cu o vizibilitate sporită și cu o supraveghere mai intensă sau cu riscul de a fi vizată în mod disproporționat ori selectiv de anumite autorități guvernamentale, chiar și atunci când alte companii aflate în situații similare nu sunt tratate în același mod”.
Competiția pentru puterea de calcul
Asigurarea unei capacități suficiente de calcul reprezintă o provocare majoră pentru Anthropic și pentru celelalte companii din domeniul inteligenței artificiale.
Compania a dedicat o parte importantă a secțiunii privind factorii de risc competiției pentru resursele informatice, explicând că se confruntă cu unele dintre cele mai mari companii din lume pentru accesul la infrastructura necesară funcționării sistemelor AI de mari dimensiuni.
Viitorul Anthropic, dar și al competitorilor săi, depinde în mare măsură de disponibilitatea componentelor informatice necesare antrenării modelelor și funcționării chatboturilor și agenților AI.
Cererea pentru aceste componente a devenit atât de ridicată încât lanțurile de aprovizionare nu reușesc să țină pasul.
Industria tehnologică investește miliarde de dolari în centre de date și în infrastructura asociată, pentru a răspunde cererii pe care companiile o descriu ca fiind în continuă creștere.
Potrivit firmei de cercetare Gartner, cheltuielile mondiale pentru infrastructura AI ar urma să ajungă la aproape 2.000 de miliarde de dolari în 2027.
Anthropic întâmpină dificultăți și în estimarea capacității de calcul necesare pentru satisfacerea cererii, mai ales în condițiile în care industria evoluează extrem de rapid.
Aceasta este și una dintre întrebările fundamentale care alimentează temerile privind existența unei bule speculative în domeniul inteligenței artificiale: companiile tehnologice investesc miliarde de dolari în centre de date și resurse informatice, fără certitudinea că cererea viitoare va justifica aceste investiții.
Opoziția față de centrele de date
Rezistența față de construirea centrelor de date s-a intensificat în Statele Unite, pe fondul preocupărilor privind impactul acestora asupra mediului și comunităților locale.
Potrivit firmei de cercetare Data Center Watch, 45 de proiecte de centre de date, în valoare totală de 68 de miliarde de dolari, au fost blocate în trimestrul al doilea din 2026.
Anthropic indică inițiativele de reglementare din New York și Texas drept potențiale riscuri pentru activitatea sa și precizează că depune eforturi pentru construirea mai multor centre de date în afara Statelor Unite.
Întrebări importante privind viitorul afacerii Anthropic
Alți factori de risc evidențiază incertitudinile legate de modelul de afaceri al Anthropic și de modul în care valorile declarate ale companiei ar putea influența creșterea viitoare.
Anthropic menționează că o mare parte a activității sale depinde de un număr redus de produse și de o bază limitată de clienți.
În condițiile în care oferta publică inițială ar putea evalua compania, potrivit relatărilor din presă, la până la 2.000 de miliarde de dolari, Anthropic ar putea deveni în curând una dintre cele mai valoroase companii din lume.
Însă nu este în joc doar reputația companiei în ceea ce privește siguranța tehnologiei sale în ochii publicului.
Este în joc și încrederea propriilor angajați.
Anthropic avertizează că, dacă s-ar îndepărta prea mult de valorile sale declarate privind siguranța, consecințele ar putea include scăderea productivității sau efecte chiar mai grave.
„Angajații care s-au alăturat companiei noastre pe baza angajamentelor privind siguranța ar putea înregistra o scădere a moralului, dezamăgire, pierderea încrederii în conducere sau diminuarea productivității, dacă ar considera că nu ne respectăm valorile declarate”, precizează compania.
„Dezacordurile publice privind abordarea noastră în materie de siguranță, inclusiv criticile venite din partea angajaților actuali sau foști ori plecarea persoanelor asociate eforturilor noastre de siguranță, ar putea amplifica aceste percepții.”
| Știri BVB