Microsoft spune că a prins hackeri din China, Rusia și Iran folosind instrumentele sale AI

Hackerii susținuți de stat din Rusia, China și Iran au folosit instrumente de la OpenAI, susținut de Microsoft, pentru a-și perfecționa abilitățile și a-și păcăli țintele, potrivit unui raport publicat miercuri, citat de Reuters.

Microsoft (MSFT.O) a declarat în raportul său că a urmărit grupuri de hacking afiliate serviciilor de informații militare ruse, Garda Revoluționară a Iranului și guvernele chinez și nord-coreean, în timp ce încercau să-și perfecționeze campaniile de hacking folosind modele lingvistice mari. Acele programe de calculator, numite adesea inteligență artificială, folosesc cantități masive de text pentru a genera răspunsuri care sună uman.

Compania a anunțat descoperirea, în timp ce a lansat o interdicție generală asupra grupurilor de hacking susținute de stat care folosesc produsele sale AI.

„Independent de faptul că există vreo încălcare a legii sau vreo încălcare a termenilor și condițiilor, pur și simplu nu vrem ca acei actori pe care i-am identificat – pe care îi urmărim și știm că reprezintă amenințări de diferite tipuri – nu dorim să aibă  acces la această tehnologie”, a declarat pentru Reuters vicepreședintele Microsoft pentru securitatea clienților, Tom Burt, într-un interviu înainte de publicarea raportului.

Oficialii diplomatici ruși, nord-coreeni și iranieni nu au răspuns la mesaje care solicită comentarii asupra acuzațiilor, scrie Reuters.

Purtătorul de cuvânt al ambasadei SUA a Chinei, Liu Pengyu, a declarat că se opune „defăimărilor și acuzațiilor fără temei împotriva Chinei” și a pledat pentru desfășurarea „sigură, fiabilă și controlabilă” a tehnologiei AI pentru „îmbunătățirea bunăstării comune a întregii omeniri”.

Afirmația potrivit căreia hackerii susținuți de stat au fost prinși folosind instrumente AI pentru a le ajuta să-și sporească capacitățile de spionaj este probabil să sublinieze preocupările cu privire la proliferarea rapidă a tehnologiei și potențialul ei de abuz. Înalți oficiali de securitate cibernetică din Occident au avertizat încă de anul trecut că actorii necinstiți au abuzat de astfel de instrumente, deși, până acum, detaliile nu au fost date publicităţii.

„Acesta este unul dintre primele, dacă nu primul, cazuri în care o companie de inteligență artificială iese și discută public despre modul în care actorii amenințărilor de securitate cibernetică folosesc tehnologiile de inteligență artificială”, a spus Bob Rotsted, care conduce departamentul de informații despre amenințările de securitate cibernetică la OpenAI.

OpenAI și Microsoft au descris utilizarea de către hackeri a instrumentelor lor AI ca fiind „în stadiu incipient” și „incremental”. Burt a spus că nu a văzut spioni cibernetici făcând vreo descoperire. „I-am văzut într-adevăr folosind această tehnologie ca orice alt utilizator”, a spus el.

Raportul a descris grupurile de hacking care utilizează modelele mari de limbaj în mod diferit.

Hackerii pretinși că lucrează în numele agenției militare de spionaj a Rusiei, cunoscută pe scară largă sub numele de GRU, au folosit modelele pentru a cerceta „diverse tehnologii de satelit și radar care ar putea avea legătură cu operațiunile militare convenționale din Ucraina”, a spus Microsoft.

Microsoft a spus că hackerii nord-coreeni au folosit modelele pentru a genera conținut „care ar putea fi folosit în campanii de spear-phishing” împotriva experților regionali.

Hackerii iranieni au folosit modele pentru a scrie e-mailuri mai convingătoare, a spus Microsoft, folosindu-le la un moment dat pentru a redacta un mesaj care încearcă să atragă „feministe proeminente” pe un site web cu capcană.

Gigantul de software a spus că hackerii chinezi susținuți de stat au experimentat și modele mari de limbaj, de exemplu pentru a pune întrebări despre agențiile de informații rivale, problemele de securitate cibernetică și „persoane remarcabile”.