Un oficial american a declarat marți pentru The Associated Press că unul dintre modelele de inteligență artificială ale Anthropic a identificat vulnerabilități în sistemele informatice extrem de sensibile și securizate ale guvernului SUA în timpul unui exercițiu de testare, potrivit CNBC.
Oficialul, care a vorbit sub condiția anonimatului pentru a discuta această chestiune, a spus că Anthropic a colaborat cu agențiile de informații americane pentru a efectua teste folosind modelul Mythos al companiei. Acesta a identificat anumite vulnerabilități în câteva ore, dar asta nu înseamnă că modelul a fost capabil să le exploateze în acel interval de timp, a precizat oficialul.
Oficialul a spus că testarea a fost realizată prin intermediul unei inițiative a Anthropic numită Project Glasswing, care a reunit giganți ai tehnologiei și alte companii în speranța de a proteja software-ul critic la nivel mondial de consecințele „grave” pe care modelul Mythos le-ar putea avea asupra siguranței publice, securității naționale și economiei.
Senatorul democrat Mark Warner din Virginia a menționat pe scurt testele în cadrul unei audieri din 11 iunie în fața Comisiei Senatului pentru Bănci, Locuințe și Afaceri Urbane. Warner a declarat: „Acest instrument a pătruns în aproape toate sistemele noastre clasificate, nu în câteva săptămâni, ci în câteva ore.” El a atribuit această informație șefului Agenției Naționale de Securitate (NSA) și al Comandamentului Cibernetic al SUA, generalul Joshua Rudd.
NSA a refuzat să comenteze această chestiune într-un e-mail. Un purtător de cuvânt al Anthropic a refuzat, de asemenea, să comenteze.
În ciuda cooperării recente dintre Anthropic și agențiile americane pentru testarea vulnerabilităților, tensiunile dintre compania din California și administrația Trump au crescut. Anthropic și-a exprimat îngrijorarea cu privire la modul în care armata SUA ar utiliza inteligența sa artificială, în timp ce administrația a restricționat utilizarea unor modele ale Anthropic.
Administrația a emis o directivă la începutul acestei luni prin care îi impune companiei Anthropic să împiedice cetățenii străini să utilizeze cele mai recente modele de inteligență artificială ale sale, cunoscute sub numele de Fable 5 și Mythos 5. Anthropic a lansat modelul Fable la scară largă la începutul acestei luni. Acest model este o versiune limitată a modelului mai avansat Mythos, la care compania a restricționat strict accesul din cauza temerilor legate de securitatea cibernetică.
Directiva a fost emisă la 10 zile după ce președintele Donald Trump a semnat un ordin executiv pentru stabilirea unui cadru prin care guvernul federal să evalueze riscurile la adresa securității naționale ale celor mai avansate sisteme de IA cu până la o lună înainte de lansarea lor publică. Participarea dezvoltatorilor de IA ar fi voluntară, se preciza în ordin.
Anthropic a declarat că a dezactivat modelele pentru toți clienții săi pentru a se conforma directivei administrației. Gigantul din domeniul IA a afirmat că nu consideră că măsurile luate de guvern sunt justificate de îngrijorarea pe care a semnalat-o cu privire la o potențială problemă de securitate.
Un grup de directori din domeniul securității cibernetice a solicitat, de asemenea, administrației Trump să ridice această directivă, afirmând că această măsură ar putea ajuta adversarii SUA mai mult decât le-ar face rău. Peste 100 de experți și lideri în securitate cibernetică din companii precum Adobe și Nvidia au transmis guvernului, într-o scrisoare, că modelele Mythos ale Anthropic sunt „destul de bune” la identificarea defectelor din software și la transformarea vulnerabilităților în arme — dar „nu sunt singurele bune la aceste sarcini”.
Mulți dintre semnatarii scrisorii au declarat că utilizează în mod regulat alte modele de bază și open-source pentru audituri de securitate și instruire. În scrisoare se menționează că este periculos să se renunțe la cele mai bune capacități de apărare cibernetică „fără un motiv întemeiat”, în condițiile în care adversarii Americii avansează rapid.
| Știri BVB