-
Anthropic afirmă că un grup cu legături în Rusia a folosit IA în operațiuni de phishing, deturnarea rețelelor Wi-Fi din hoteluri și preluarea conturilor WhatsApp
-
Anthropic susține că Moonshot și DeepSeek au redirecționat conversațiile live ale clienților prin Claude pentru a obține date de antrenare
-
Anthropic a semnalat, de asemenea, utilizarea abuzivă a modelului Claude pentru dezvoltarea de software destinat armelor și pentru activități de achiziții asociate programelor de armament
Anthropic a declarat joi că, în ultimele opt luni, a împiedicat mai multe presupuse utilizări rău intenționate ale modelelor sale Claude, inclusiv o campanie suspectată de spionaj cibernetic cu legături în Rusia și acțiuni ale unor companii chineze de inteligență artificială, pe care le-a acuzat că au încercat să extragă și să reproducă unele dintre capacitățile Claude, potrivit Reuters.
Infractorii cibernetici și hackerii susținuți de state folosesc din ce în ce mai mult inteligența artificială nu doar pentru a-i ajuta în îndeplinirea anumitor sarcini, ci și pentru a orchestra și executa părți importante ale atacurilor cibernetice, a afirmat Anthropic în cel mai recent raport al său privind amenințările. Compania a adăugat că oamenii joacă adesea mai degrabă rolul de supraveghetori decât pe cel de operatori activi.
„Utilizarea IA a depășit simplele întrebări și răspunsuri ale unui chatbot, implicând, mai degrabă, utilizarea unor cadre multi-agent care execută sarcini”, a afirmat Anthropic.
Anthropic a declarat că, în perioada analizată, a blocat atacuri provenite de la șapte laboratoare cu sediul în China. Printre entitățile menționate de companie se numără gigantul tehnologic Alibaba, Moonshot, DeepSeek și Xiaomi.
Operatorii pe care Anthropic i-a asociat cu Alibaba ar fi derulat ceea ce compania americană a descris drept cel mai amplu atac de „distilare ilicită”, care ar fi urmărit extragerea capacităților modelelor Claude și utilizarea acestora pentru îmbunătățirea modelelor Qwen ale companiei chineze. Alibaba nu a răspuns imediat solicitării Reuters de a comenta.
Anthropic a declarat că a identificat peste 151 de milioane de schimburi, pe care le-a atribuit Alibaba, între mai și iulie 2026, cu un vârf de aproape 3 milioane de interacțiuni pe zi, provenind de la peste 3.500 de conturi descrise de companie drept frauduloase.
Distilarea este o tehnică prin care un model mai mic este antrenat folosind rezultatele generate de un model mai mare și mai performant, una dintre mize fiind reducerea costurilor necesare dezvoltării și antrenării unui nou model de inteligență artificială.
În loc să efectueze interogări în masă, Moonshot, compania care a creat chatbotul Kimi, și DeepSeek ar fi redirecționat prin Claude conversații live cu clienții, care conțineau uneori informații sensibile, și ar fi utilizat răspunsurile modelului drept date de antrenare, susține Anthropic.
-
Anthropic: IA, utilizată în aproape fiecare etapă a unei operațiuni de spionaj cibernetic
Un grup de hackeri ale cărui tehnici ar fi fost compatibile cu cele ale actorului de amenințare cunoscut sub numele de Midnight Blizzard, asociat cu Rusia, ar fi desfășurat operațiuni de phishing, ar fi compromis rețele Wi-Fi din hoteluri și ar fi preluat conturi WhatsApp, vizând ținte ucrainene din sectoarele guvernamental, militar și diplomatic. Potrivit Anthropic, atacatorii ar fi folosit inteligența artificială în aproape fiecare etapă a operațiunilor.
Guvernul SUA a asociat anterior Midnight Blizzard – denumire folosită de Microsoft pentru acest actor cibernetic – cu Serviciul de Informații Externe al Rusiei (SVR). Ambasada Rusiei la Washington nu a răspuns imediat unei solicitări de comentarii.
Grupul ar fi utilizat inteligența artificială inclusiv pentru construirea unui sistem capabil să detecteze automat momentul în care programele sale malware erau identificate de sistemele de securitate și să rescrie codul până când acesta reușea din nou să evite detectarea.
-
Claude, utilizat abuziv pentru software destinat armelor
Anthropic a identificat, de asemenea, ceea ce a descris drept „noi categorii de actori care reprezintă o amenințare” și care utilizează abuziv platforma Claude.
Printre aceștia se numără operatori care ar fi folosit platforma pentru „dezvoltarea de software pentru arme convenționale, inclusiv arme de foc, rachete, drone înarmate, bombe și alte tipuri de muniții, precum și pentru sistemele de țintire și control care le operează”.
Raportul prezintă incidente în care operatorii ar fi utilizat Claude pentru dezvoltarea de software destinat proiectării și dezvoltării armelor sau pentru sprijinirea activităților de colectare de informații și de achiziții asociate programelor de armament din China, Rusia și Yemen.
Compania a mai declarat că a detectat și blocat activități asociate unor afiliați ai grupării de criminalitate cibernetică ShinyHunters, una dintre cele mai active organizații de acest tip din ultimele luni, implicată în atacuri asupra unor mari corporații din întreaga lume.
Jacob Klein, șeful departamentului de informații privind amenințările din cadrul Anthropic, a declarat pentru Reuters că modelele de inteligență artificială au devenit semnificativ mai performante în ultimul an, ceea ce generează și noi categorii de riscuri.
„Acum un an, să spunem că ai fi vrut să optimizezi o dronă sau software-ul unei rachete; modelele pur și simplu nu ar fi fost la fel de eficiente în această sarcină cum sunt acum”, a spus Klein.
| Știri BVB