Elon Musk şi un grup de experţi în inteligenţă artificială şi de directori din industrie solicită, într-o scrisoare deschisă, o pauză de şase luni în dezvoltarea unor sisteme mai puternice decât modelul GPT-4, recent lansat de OpenAI, invocând potenţiale riscuri pentru societate şi umanitate, relatează Reuters.

La începutul acestei luni, OpenAI, susținut de Microsoft, a dezvăluit cea de-a patra iterație a programului său AI GPT (Generative Pre-trained Transformer), care a uimit utilizatorii, implicându-i în conversații umane, compunând melodii și rezumând documente lungi.

“Sistemele puternice de inteligenţă artificială ar trebui să fie dezvoltate numai după ce suntem siguri că efectele lor vor fi pozitive şi că riscurile lor vor fi gestionabile”, se arată în scrisoare.

„Sistemele puternice de inteligență artificială ar trebui dezvoltate doar după ce suntem încrezători că efectele lor vor fi pozitive și că riscurile vor fi gestionabile”, se spune în scrisoarea emisă de Institutul Future of Life. Organizația nonprofit este finanțată în principal de Fundația Musk, precum și de grupul din Londra Founders Pledge și Silicon Valley Community Foundation, conform registrului de transparență al Uniunii Europene.

„AI mă stresează”, a spus Musk la începutul acestei luni. El este unul dintre co-fondatorii liderului industrial OpenAI, iar producătorul său auto Tesla (TSLA.O) folosește AI pentru un sistem de pilot automat.

Musk, care și-a exprimat frustrarea față de autoritățile de reglementare care critică eforturile de a reglementa sistemul de pilot automat, a căutat o autoritate de reglementare pentru a se asigura că dezvoltarea IA servește interesului public.

„Este… profund ipocrit să semneze Elon Musk, având în vedere cât de mult a luptat Tesla împotriva răspunderii pentru IA defectuoasă din mașinile sale cu conducere autonomă”, a declarat James Grimmelmann, profesor de drept digital și informațional la Universitatea Cornell.

„O pauză este o idee bună, dar scrisoarea este vagă și nu ia în serios problemele de reglementare”, a mai spus James Grimmelmann.

Luna trecută, Tesla a trebuit să recheme peste 362.000 de vehicule din SUA pentru a actualiza software-ul, după ce autoritățile americane de reglementare au declarat că sistemul de asistență pentru șofer ar putea provoca accidente, ceea ce l-a determinat pe Musk să scrie pe Twitter că termenul „rechemare” pentru o actualizare de software este “anacronică și pur și simplu greșită!”

OpenAI nu a răspuns imediat unei solicitări de comentarii cu privire la scrisoarea deschisă, care a îndemnat la o pauză în dezvoltarea avansată a AI până când vor fi elaborate protocoale comune de siguranță de experți independenți, cerând  dezvoltatorilor să colaboreze cu factorii de decizie în ceea ce privește guvernanța.

„Ar trebui să lăsăm mașinile să ne inunde canalele de informare cu propagandă și neadevăr?… Ar trebui să dezvoltăm minți non-umane care, în cele din urmă, ar putea să ne depășească numeric, să ne păcălească, să ne depășească intelectual și să ne înlocuiască?”, se arată în scrisoare, spunând că „astfel de decizii nu trebuie delegate liderilor nealeși din domeniul tehnologiei”.

Scrisoarea a fost semnată de peste 1.000 de persoane, inclusiv de Musk. Sam Altman, directorul executiv la OpenAI, nu se află printre cei care au semnat scrisoarea. Nici Sundar Pichai și Satya Nadella, directori executivi ai Alphabet și Microsoft, nu s-au numărat printre cei care au semnat.

Printre cosemnatari se numără CEO-ul Stability AI, Emad Mostaque, cercetătorii de la DeepMind, deținut de Alphabet, precum şi experţi recunoscuţi din domeniul inteligenţei artificiale precum Yoshua Bengio şi Stuart Russell.

Îngrijorările apar pe măsură ce ChatGPT atrage atenția parlamentarilor din SUA cu întrebări despre impactul său asupra securității naționale și educației. Forța de poliție a UE Europol a avertizat luni despre posibila utilizare abuzivă a sistemului în tentative de phishing, dezinformare și criminalitate cibernetică.

Între timp, guvernul Regatului Unit a publicat propuneri pentru un cadru de reglementare „adaptabil” în jurul AI.

“Scrisoarea nu este perfectă, dar spiritul este corect: trebuie să încetinim până când vom înţelege mai bine ramificaţiile”, a declarat Gary Marcus, profesor emerit la Universitatea din New York. “Pot provoca daune serioase. Marii jucători devin tot mai secretoşi în legătură cu ceea ce fac, ceea ce face ca societăţii să-i fie greu să se apere împotriva unor eventuale daune care s-ar putea materializa”, arată profesorul.

De la lansarea sa, anul trecut, ChatGPT al OpenAI, susţinut de Microsoft, a determinat rivalii să accelereze dezvoltarea unor modele similare de limbaj, de mari dimensiuni, iar companiile să integreze modele generative de inteligenţă artificială în produsele lor.

Microsoft a refuzat să comenteze scrisoarea, iar Alphabet nu a răspuns la apeluri și e-mailuri pentru un comentariu.

„O mare parte din puterea de a dezvolta aceste sisteme a fost constant în mâinile câtorva companii care au resursele necesare pentru a face acest lucru”, a spus Suresh Venkatasubramanian, profesor la Universitatea Brown și fost director asistent la Biroul Casei Albe pentru Politică în Știință și Tehnologie.