Modelul de inteligență artificială Claude a fost utilizat de diferiți actori pentru activități care au inclus dezvoltarea unor sisteme de armament, operațiuni cibernetice, colectarea de informații și supravegherea unor persoane și organizații, susține Anthropic într-un raport privind amenințările, citat de Reuters. Compania descrie cazuri legate de actori din China, Rusia, Iran și nordul Yemenului și precizează că a blocat mai multe dintre conturile implicate.
Printre cele mai sensibile situații prezentate de Anthropic se numără utilizarea Claude pentru dezvoltarea unui software destinat războiului electronic împotriva apărării aeriene a Taiwanului, realizarea unor specificații pentru un sistem anti-torpilă destinat marinei chineze, dezvoltarea de software pentru rachete în Yemen și pentru un roi autonom de drone de atac în Rusia.
Raportul arată însă și limitele mecanismelor de siguranță ale sistemelor AI. În cazul proiectului de rachete din Yemen, Anthropic recunoaște că sistemele sale de protecție au blocat multe dintre solicitări, „dar nu pe toate”. Compania precizează totodată că nu are dovezi că actorii respectivi au reușit să construiască o armă operațională.
-
Anthropic: Claude, utilizat într-un proiect privind apărarea aeriană a Taiwanului
Unul dintre cele mai importante cazuri descrise de companie privește un actor cu sediul în China, despre care Anthropic susține că a utilizat Claude pentru dezvoltarea unei suite software destinate războiului electronic și suprimării apărării aeriene.
Software-ul clasifica ținte și modela bruiajul radar. În timpul proiectului, simularea a fost modificată pentru a include 12 ținte din Taiwan, între care un radar de avertizare timpurie, baterii de rachete Patriot și Tien Kung, baze aeriene și un buncăr de comandă.
Anthropic afirmă că informațiile asociate contului indică legături cu instituții chineze de cercetare, inclusiv Academia de Științe Militare a Armatei Populare de Eliberare. Compania spune că a interzis conturile asociate actorului respectiv.
Ministerul chinez de Externe a declarat că nu are cunoștință de raport și a precizat că Beijingul susține dezvoltarea inteligenței artificiale în scopuri benefice și se opune denaturării faptelor și campaniilor de denigrare împotriva Chinei.
-
Un sistem anti-torpilă pentru marina chineză
Într-un alt caz, Anthropic afirmă că un actor din China a folosit Claude pentru elaborarea specificațiilor și a software-ului de control al focului pentru un sistem anti-torpilă destinat marinei chineze.
Modelul AI ar fi fost utilizat inclusiv pentru elaborarea unei propuneri tehnice de peste 200 de pagini, compararea sistemului cu tehnologia Marinei SUA și simularea unor evaluări tehnice critice pentru îmbunătățirea proiectului.
„Considerăm că actorul era asociat cu un producător din industria de apărare chineză”, a precizat Anthropic.
Compania mai susține că un actor din domeniul informațiilor de apărare din China a utilizat Claude pentru cercetarea armelor străine cu microunde de mare putere, identificarea componentelor și furnizorilor și urmărirea lanțurilor de aprovizionare. Scopul ar fi inclus obținerea de informații utile pentru inginerie inversă și dezvoltarea unor contramăsuri.
-
Rachete cu rază de peste 2.000 km și tehnologie hipersonică în Yemen
Raportul descrie și un caz privind un grup de actori din nordul Yemenului.
Potrivit Anthropic, aceștia au folosit Claude pentru dezvoltarea software-ului destinat unei rachete ghidate, unei rachete balistice planificate să aibă o rază de acțiune de peste 2.000 de kilometri și unei variante care ar fi urmat să încorporeze un vehicul hipersonic planant. AI-ul ar fi fost utilizat pentru programare, simulare și depanare, inclusiv după ceea ce părea să fi fost un test eșuat al unei rachete ghidate. Anthropic subliniază că nu are dovezi că proiectele au condus la realizarea unei arme operaționale și nu identifică actorii respectivi drept membri ai grupării Houthi.
-
Rusia: software pentru un roi autonom de drone de atac
În Rusia, Anthropic afirmă că actori probabil independenți au folosit Claude pentru dezvoltarea software-ului unui roi autonom de drone FPV de atac. Proiectul ar fi inclus sisteme pentru ghidarea terminală, selectarea țintelor și coordonarea între mai multe aeronave.
Dronele FPV de mici dimensiuni au devenit o componentă importantă a războiului din Ucraina, fiind utilizate pe scară largă atât de Rusia, cât și de Ucraina. Ambasada Rusiei la Washington nu a răspuns întrebărilor Reuters privind acuzațiile Anthropic.
Un alt utilizator din Rusia ar fi apelat la Claude pentru identificarea unor intermediari din China și Hong Kong care puteau facilita achiziționarea unor produse europene cu potențială utilizare militară și pentru stabilirea unor rute prin state terțe care ar fi putut ascunde destinația finală a mărfurilor. Printre produsele vizate s-ar fi aflat magnetometre fabricate în Germania, panouri fotovoltaice de calitate spațială și sisteme de oxigen pentru aviație.
-
Operațiuni cibernetice împotriva a aproximativ 50 de organizații
Raportul Anthropic prezintă și utilizarea AI în operațiuni cibernetice. Operatori vorbitori de limba chineză, probabil localizați în Changsha, ar fi folosit Claude împotriva a aproximativ 50 de organizații, inclusiv rețele guvernamentale străine.
Anthropic susține că grupul a utilizat fluxuri de lucru bazate pe AI pentru identificarea unor vulnerabilități software necunoscute anterior, dezvoltarea de exploit-uri și executarea unor etape ale intruziunilor cu o supraveghere umană limitată.
Separat, un grup de hackeri ar fi utilizat AI în aproape toate etapele unor operațiuni care vizau ținte guvernamentale, militare și diplomatice ucrainene. Activitățile ar fi inclus phishing, compromiterea rețelelor Wi-Fi ale hotelurilor și preluarea conturilor WhatsApp.
Anthropic afirmă că tehnicile semănau cu cele atribuite grupării Midnight Blizzard, asociată anterior de autoritățile americane cu serviciul rus de informații externe SVR.
-
Iran: informații despre forțele navale americane
Anthropic afirmă că a identificat și blocat activitatea unui operator legat de Iran care folosea Claude pentru colectarea și analizarea informațiilor publice în vederea formulării unor recomandări privind ținte aparținând forțelor navale americane din regiune. Datele colectate ar fi inclus informații despre personal american extrase din fotografii militare publice, identificatori publici ai transponderelor navelor și aeronavelor și scripturi pentru interogarea imaginilor satelitare comerciale.
Operatorul ar fi cerut Claude și informații privind vulnerabilități software ale unor sisteme aflate la bordul navelor.
-
AI folosită și pentru supravegherea politică și religioasă
Raportul merge dincolo de utilizările militare și cibernetice. Anthropic susține că actori legați de China au folosit Claude pentru colectarea de informații despre cardinali catolici, lideri creștini taiwanezi, budiști tibetani, disidenți și activiști.
Într-o altă operațiune, AI-ul ar fi fost utilizat pentru automatizarea unor rapoarte de tip guvernamental privind uiguri, tibetani, politicieni taiwanezi, activiști sindicali, studenți și instituții media străine.
Anthropic mai afirmă că a blocat 16 conturi Claude operate de două structuri asociate unor agenții paramilitare și de securitate internă iraniene. Una dintre acestea ar fi susținut că deține o bază de date cu informații de identitate ale cetățenilor iranieni, iar cealaltă ar fi folosit Claude pentru dezvoltarea unei extensii de browser malițioase destinate colectării în masă a identităților utilizatorilor rețelelor sociale.
-
42 de partide și organizații europene, vizate de un actor francofon
Raportul include și o componentă politică europeană. Anthropic afirmă că a identificat un actor francofon care utiliza Claude într-o operațiune ce viza 42 de partide politice europene, instituții media, think tank-uri și furnizori de servicii software folosiți de aceste organizații.
Sistemul ar fi fost utilizat pentru furtul de date și credențiale și pentru construirea unei platforme special concepute pentru colectarea și publicarea informațiilor personale despre numeroase persoane.
Cazurile descrise de Anthropic aduc astfel o dimensiune concretă dezbaterii privind riscurile inteligenței artificiale: aceleași modele dezvoltate pentru programare, analiză și automatizarea activităților civile pot fi adaptate de utilizatori pentru operațiuni militare, cibernetice, de informații sau supraveghere.
Raportul arată, în același timp, că mecanismele de protecție pot împiedica o parte dintre utilizările periculoase, dar – după cum recunoaște chiar Anthropic în cazul proiectului de rachete din Yemen – nu reușesc să blocheze toate solicitările.
| Știri BVB