În ultimele săptămâni, lumea inteligenței artificiale a fost în fierbere în urma afirmațiilor făcute de firma de top Anthropic cu privire la noul său model, Claude Mythos, potrivit BBC.
Compania susține că a descoperit că instrumentul poate depăși performanțele umane în anumite sarcini de hacking și securitate cibernetică, ceea ce a stârnit discuții în rândul autorităților de reglementare, al legiuitorilor și al instituțiilor financiare cu privire la pericolele pe care le-ar putea prezenta pentru serviciile digitale.
Mai mulți giganți din domeniul tehnologiei au primit acces la Mythos prin intermediul unei inițiative numite Project Glasswing, concepută pentru a consolida reziliența față de Mythos însuși.
Alții subliniază însă că este în interesul Anthropic să sugereze că instrumentul său are capacități fără precedent, ceea ce înseamnă – ca întotdeauna în cazul IA – că poate fi dificil să se facă distincția între afirmațiile justificate și exagerările de marketing, potrivit BBC.
Ce este Claude Mythos?
Mythos este unul dintre cele mai recente modele ale Anthropic, dezvoltat ca parte a sistemului său mai amplu de IA numit Claude. Acesta cuprinde asistentul de IA al companiei și familia de modele, rivalizând cu ChatGPT de la OpenAI și Gemini de la Google.
A fost dezvăluit de Anthropic la începutul lunii aprilie sub numele de „Mythos Preview”.
Cercetătorii care testează modul în care modelele de IA gestionează anumite solicitări sau sarcini, cunoscuți sub numele de „echipe roșii”, au afirmat într-un raport că Mythos este „remarcabil de capabil în ceea ce privește sarcinile de securitate informatică”.
Ei au descoperit că instrumentul putea localiza bug-uri latente ascunse în coduri vechi de zeci de ani și le putea exploata cu ușurință.
Așadar, în loc să-l pună la dispoziția utilizatorilor Claude, Anthropic a acordat acces la acesta unui număr de 12 companii de tehnologie prin intermediul Project Glasswing, pe care l-a descris ca fiind „un efort de a securiza cele mai critice programe software din lume”.
Printre acestea se numără gigantul de cloud computing Amazon Web Services, producătorii de dispozitive Apple, Microsoft și Google, precum și producătorii de cipuri Nvidia și Broadcom.
Crowdstrike, a cărui actualizare defectuoasă de software a provocat o întrerupere majoră la nivel global în iulie 2024, se numără, de asemenea, printre partenerii proiectului, Anthropic afirmând că a acordat acces la Mythos și pentru peste 40 de organizații responsabile de software critic.
Într-un videoclip lansat odată cu lansarea Proiectului Glasswing, șeful Anthropic, Dario Amodei, a declarat că s-a oferit să colaboreze cu oficialii guvernului SUA pentru a „ajuta la apărarea împotriva riscului pe care îl prezintă aceste modele”.
De ce există îngrijorări?
Anthropic afirmă că, în timpul testelor, a constatat că modelul era extrem de priceput la sarcini de securitate cibernetică și hacking, depășind performanțele oamenilor.
„Mythos Preview a identificat deja mii de vulnerabilități de gravitate ridicată, inclusiv unele în fiecare sistem de operare și browser web important”, a afirmat Anthropic pe 7 aprilie.
„Având în vedere ritmul progresului IA, nu va trece mult timp până când astfel de capacități se vor răspândi, potențial dincolo de actorii care se angajează să le implementeze în siguranță.”
Compania a afirmat că poate localiza – fără prea multă supraveghere – bug-uri critice care necesită acțiune imediată în sistemele vechi, inclusiv o vulnerabilitate care era prezentă într-un sistem de 27 de ani, și poate sugera modalități de a le exploata.
Unii miniștri de finanțe, bancheri centrali și finanțiști și-au exprimat îngrijorări serioase cu privire la acesta, temându-se că modelul ar putea submina securitatea sistemelor financiare.
Ministrul canadian al finanțelor, François-Philippe Champagne, a declarat pentru BBC că Mythos a fost discutat la o reuniune a Fondului Monetar Internațional (FMI) la Washington DC în această săptămână.
„Cu siguranță este suficient de grav pentru a justifica atenția tuturor miniștrilor de finanțe”, a spus el, descriind tehnologia ca fiind un „necunoscut necunoscut”.
Andrew Bailey, guvernatorul Băncii Angliei, a declarat pentru BBC: „trebuie să analizăm foarte atent acum ce ar putea însemna această ultimă evoluție a IA pentru riscul de criminalitate cibernetică”.
Între timp, UE a declarat că se află, de asemenea, în discuții cu Anthropic cu privire la îngrijorările sale legate de Mythos.
Ce au spus experții în securitate cibernetică despre acesta?
Ciaran Martin, fostul șef al Centrului Național de Securitate Cibernetică din Marea Britanie, a declarat pentru BBC la începutul acestei săptămâni că afirmația potrivit căreia Mythos ar putea descoperi vulnerabilități critice mult mai rapid decât alte modele de IA „a șocat cu adevărat oamenii”.
„Al doilea aspect este că, chiar și în cazul punctelor slabe existente despre care știm, dar pe care organizațiile s-ar putea să nu le fi remediat și împotriva cărora s-ar putea să nu fie bine apărate, este pur și simplu un hacker foarte bun”, a spus el.
Mulți analiști și experți independenți în securitate cibernetică nu au reușit încă să îl testeze ei înșiși, iar unii rămân sceptici cu privire la performanța lui Mythos.
Institutul pentru Siguranța IA din Marea Britanie a concluzionat recent că, deși este un model foarte puternic, cea mai mare amenințare a sa ar fi împotriva sistemelor vulnerabile, slab apărate.
„Nu putem spune cu certitudine dacă Mythos Preview ar fi capabil să atace sisteme bine apărate”, au spus cercetătorii săi.
Așadar, acolo unde există o securitate cibernetică bună, acest model ar fi, în teorie, sperăm, oprit.
Ar trebui să ne facem griji în legătură cu asta?
Temerile legate de IA nu sunt o noutate.
Apar tot timpul noi modele și instrumente, care sunt adesea însoțite de promisiuni că ne vor revoluționa viețile, în bine sau în rău.
Valorificarea acestui amestec de teamă și entuziasm față de IA și impactul său viitor a devenit, de asemenea, o trăsătură distinctivă a sectorului și a strategiilor sale de marketing în ultimii ani.
În cazul Mythos, încă nu știm suficient pentru a ști dacă aceste speranțe sau temeri sunt justificate sau dacă sunt mai degrabă o reflectare a entuziasmului excesiv care înconjoară industria, scrie BBC.
În ambele cazuri, potrivit NSCS, cel mai important lucru pe care îl putem face acum este să nu intrăm în panică și să ne concentrăm în schimb pe necesitatea de a asigura corect securitatea cibernetică de bază.
La urma urmei, majoritatea hackerilor nu au nevoie de instrumente super-IA pentru a sparge sistemele, când de multe ori sunt suficiente atacuri mult mai simple.
„Pentru unii, acesta este un eveniment apocaliptic, pentru alții pare a fi doar multă agitație”, a declarat Martin pentru BBC.
Dar el a spus că, indiferent dacă este vorba de acest instrument sau de altele create ulterior de Anthropic sau de rivalii săi, pe lângă riscuri există și oportunitatea de a construi o lume online mai sigură.
„Pe termen mediu, există oportunitatea de a folosi aceste instrumente pentru a remedia multe dintre vulnerabilitățile fundamentale ale internetului”, a spus el.
| Știri BVB