Șefii marilor companii AI cer încetinirea dezvoltării, dar apar întrebările: Cine oprește cursa și cum poate fi convinsă China să facă același lucru? (BBC)

Apelurile lansate de unii dintre cei mai importanți lideri ai industriei inteligenței artificiale pentru încetinirea ritmului de dezvoltare a celor mai puternice modele ridică o problemă dificilă: cum ar putea fi pusă în practică o asemenea măsură, cine ar putea să o supravegheze și, mai ales, ce s-ar întâmpla dacă Statele Unite și companiile occidentale ar încetini, iar China nu ar face același lucru?

Acestea sunt întrebările ridicate într-o analiză BBC, după ce Dario Amodei, CEO-ul Anthropic, a cerut sâmbătă încetinirea ritmului de dezvoltare a inteligenței artificiale, iar Sam Altman, CEO-ul OpenAI, și Elon Musk, proprietarul xAI, au declarat că sunt de acord cu avertismentul său.

În același timp, Jacob Coxon, cercetător care a demisionat recent de la Anthropic și care a lucrat anterior și la OpenAI, a declarat pentru BBC că angajații care dezvoltă aceste sisteme sunt „cu adevărat îngroziți” în legătură cu viitorul umanității.

Astfel, avertismentele privind riscurile AI nu mai vin doar din exteriorul industriei, ci inclusiv de la oameni care conduc sau au lucrat direct la dezvoltarea unora dintre cele mai avansate sisteme.

• Problema fundamentală: dacă unii încetinesc, ceilalți vor continua

Potrivit BBC, una dintre cele mai mari dificultăți ale unei eventuale încetiniri este competiția tehnologică dintre Statele Unite și China.

Președintele american Donald Trump a declarat duminică faptul că SUA se află înaintea Chinei în cursa inteligenței artificiale și a sintetizat miza competiției astfel: „Cine câștigă în domeniul IA, câștigă”.

În aceste condiții, companiile se confruntă cu o dilemă asemănătoare celei întâlnite în dezbaterile istorice privind dezarmarea: nimeni nu vrea să fie primul care încetinește dacă adversarul continuă să avanseze.

Persoane din industrie consultate de BBC susțin că o companie care ar opri sau ar încetini unilateral dezvoltarea riscă pur și simplu să fie depășită de concurenți. Dario Amodei a recunoscut, de altfel, această problemă. CEO-ul Anthropic consideră că orice încetinire trebuie concepută astfel încât să nu permită Chinei să preia conducerea în cursa AI.

• Cine ar controla companiile AI?

O altă problemă majoră este mecanismul prin care o asemenea încetinire ar putea fi impusă.

Amodei a propus un plan bazat pe trei componente: monitorizarea independentă a modelelor AI pe măsură ce sunt dezvoltate, reglementarea la nivelul industriei și reglementarea la nivel global. Rămâne însă neclar cine ar avea autoritatea de a controla respectarea acestor reguli și cum ar putea fi verificat faptul că o companie nu continuă în secret dezvoltarea unor modele mai performante.

„Nimeni nu a oferit o explicație substanțială despre ce înseamnă «încetinire»”, a declarat pentru BBC Ed Zitron, CEO al EZ Primary Research. El avertizează că oprirea antrenării modelelor ar putea permite laboratoarelor chineze să recupereze rapid decalajul față de companiile americane.

„Acest lucru ar putea sparge bula. Dar, în acest moment, avem foarte puține detalii despre ce înseamnă o «încetinire»”, spune Zitron.

• AI, între riscuri existențiale și miliardele investitorilor

Dezbaterea apare într-un moment în care guvernele occidentale consideră inteligența artificială una dintre principalele surse potențiale de creștere economică.

În Marea Britanie, de exemplu, autoritățile intenționează să extindă utilizarea AI în sistemul de sănătate, iar sectorul reprezintă o componentă importantă a strategiei guvernamentale pentru stimularea economiei.

Un fost consilier guvernamental britanic a descris pentru BBC importanța tehnologiei într-o formulare tranșantă: „Nu există un plan B”.

În același timp însă, industria consumă cantități uriașe de capital și resurse, fără ca veniturile generate până acum să fie comparabile cu investițiile realizate. BBC notează că există relatări potrivit cărora unele dintre companiile care au adoptat tehnologia sunt dezamăgite de rezultate.

Economiștii iau în calcul inclusiv posibilitatea unei corecții majore în industrie – o eventuală „spargere a bulei” – și estimează că nu toate companiile care domină astăzi sectorul vor supraviețui.

Cele care vor reuși însă ar putea deveni unele dintre cele mai puternice corporații din lume, ceea ce ridică alte probleme privind concentrarea puterii economice și tehnologice.

• „Nimeni nu poate prezice cu certitudine cum va evolua această tehnologie”

Alexander Voica, reprezentant al companiei britanice de AI Synthesia, atrage atenția că problema centrală rămâne impredictibilitatea evoluției tehnologiei. „Una dintre cele mai mari provocări pe care le avem acum este că nimeni nu poate prezice cu certitudine cum va evolua această tehnologie”, a declarat acesta pentru BBC. Sistemele devin tot mai performante, spune Voica, însă nu este clar unde și cum vor fi utilizate și nici cum poate societatea profita pe deplin de potențialul lor.

În opinia sa, o reglementare adoptată în grabă, într-un moment în care există încă numeroase necunoscute, ar putea avea efectul opus celui urmărit.

• „Nu mă îngrijorează riscurile existențiale ale AI, ci lăcomia corporativă”

Există și specialiști care consideră că problema principală nu este inteligența artificială în sine, ci comportamentul companiilor care o dezvoltă. „Nu mă îngrijorează riscurile existențiale ale AI, mă îngrijorează lăcomia corporativă a companiilor care o creează”, afirmă Sasha Luccioni, fondatoarea Sustainable AI.

Profesorul Dame Wendy Hall, specialist în informatică și fost consilier al ONU în domeniul inteligenței artificiale, consideră, la rândul său, că actuala criză este legată de faptul că firmele nu s-au comportat suficient de responsabil. Hall compară situația cu cea a unui fermier al cărui taur scapă din țarc și provoacă distrugeri, după care proprietarul dă vina pe animal. Problema reală, în această analogie, este că gardurile nu au fost suficient de solide. Același lucru s-ar întâmpla acum cu mecanismele de siguranță ale sistemelor AI.

• Reglementarea riscă să devină ea însăși parte a confruntării

Nu există însă consens nici asupra ideii că mai multă reglementare reprezintă automat soluția. Parker Thayer, cercetător la think tank-ul conservator Capital Research Center, a susținut pe X că ar exista o încercare motivată politic de a introduce reguli care să „reglementeze AI până la dispariție”.

BBC subliniază că aceasta este o afirmație extremă și nedovedită, însă reacția – postarea sa a atras milioane de vizualizări – arată cât de polarizată a devenit dezbaterea. Industria AI se găsește astfel într-un paradox: liderii unora dintre companiile care concurează pentru dezvoltarea celor mai performante sisteme avertizează ei înșiși că viteza cu care avansează tehnologia poate deveni periculoasă, dar o încetinire unilaterală ar putea însemna pierderea avantajului economic și strategic. Iar problema este sintetizată de Wendy Hall într-o întrebare care privește inclusiv încrederea investitorilor în industrie: „Ai investi într-o companie care spune că va provoca dispariția omenirii?”