Armata americană a pregătit interceptarea unei nave chineze în Orientul Mijlociu, în timpul războiului cu Iranul, după ce un raport de informații realizat cu ajutorul inteligenței artificiale a indicat, în mod eronat, că vasul transporta componente ale unui program de arme nucleare, relatează CNN, într-o investigație publicată vineri.
Raportul a fost distribuit în cadrul armatei SUA în primăvara acestui an și a provocat imediat îngrijorare, potrivit CNN, care citează patru surse familiarizate cu incidentul.
Armata americană a început pregătirile pentru interceptarea navei. Potrivit a două dintre sursele CNN, militari americani înarmați se pregăteau să urce la bordul vasului. Avioane militare se aflau deja în aer, au declarat pentru CNN una dintre aceste surse și o altă persoană familiarizată cu incidentul. Operațiunea nu a mai avut loc.
-
Raportul fusese realizat cu ajutorul AI
Cu puțin timp înaintea operațiunii planificate, oficialii americani au analizat mai atent raportul, întocmit de un analist al comandamentului pentru operațiuni speciale. Atunci au descoperit că documentul fusese realizat cu ajutorul inteligenței artificiale și că un chatbot utilizat de analist identificase în mod eronat materialul transportat de nava chineză. CNN precizează că nu a putut determina ce reprezenta în realitate încărcătura identificată greșit.
Potrivit uneia dintre sursele citate de CNN, raportul era „în întregime fals”, însă incidentul „aproape a declanșat un război”. O eventuală operațiune militară americană împotriva unei nave chineze ar fi putut escalada într-un conflict armat între SUA și China, notează CNN.
-
Chatbotul a combinat informații din surse deschise cu informații secrete
CNN relatează că analistul a folosit chatbotul pentru a verifica informații referitoare la manifestul navei, provenite de la US Special Operations Command Pacific (SOCPAC), cu sediul în Hawaii. Nu este clar dacă chatbotul utilizat era un produs comercial sau un instrument dezvoltat de guvernul american.
Potrivit investigației CNN, sistemul AI a combinat informații provenite din surse deschise cu informații secrete de tip SIGINT – informații obținute prin interceptarea și analiza semnalelor – aflate în bazele de date guvernamentale și a ajuns la concluzia eronată privind natura încărcăturii.
Analistul ar fi utilizat apoi din nou inteligența artificială pentru a transforma concluziile într-un raport standard de intelligence, document care a fost ulterior distribuit în cadrul armatei americane.
US Special Operations Command Pacific și Pentagonul nu au răspuns solicitărilor CNN de a comenta incidentul.
-
CNN: Nu există un standard unic pentru verificarea informațiilor generate de AI
Incidentul scoate în evidență riscurile asociate utilizării accelerate a inteligenței artificiale în operațiunile militare și de intelligence, într-un moment în care autoritățile americane încearcă să integreze aceste tehnologii într-o gamă tot mai largă de activități.
AI este folosită sau testată pentru analiza volumelor foarte mari de informații brute, selectarea țintelor militare, gestionarea logisticii, bugetelor și lanțurilor de aprovizionare.
CNN relatează, citând mai mulți oficiali americani, că procesul de adoptare a inteligenței artificiale este însă descentralizat. Diferite structuri guvernamentale utilizează instrumente diferite, supuse unor reguli și standarde de siguranță diferite.
În prezent nu există un singur set de standarde aplicabil întregului sistem pentru verificarea informațiilor generate de aceste instrumente, potrivit surselor CNN.
Una dintre sursele familiarizate cu politicile actuale ale armatei americane a declarat pentru CNN că utilizarea AI în procesul de selectare a țintelor militare este în creștere, în timp ce regulile privind modul în care intervenția umană trebuie să prevină victimele civile sau atacarea accidentală a propriilor forțe nu sunt suficient de clare.
-
Pentagonul accelerează utilizarea inteligenței artificiale
În ianuarie, secretarul american al Apărării, Pete Hegseth, a prezentat strategia Departamentului Apărării pentru accelerarea utilizării inteligenței artificiale – „Artificial Intelligence Acceleration Strategy”.
Strategia urmărește extinderea accesului la instrumentele AI în cadrul armatei americane și accelerarea experimentării și implementării acestora.
Potrivit CNN, argumentul autorităților americane pentru adoptarea rapidă a AI este că tehnologia poate permite armatei să ia mai repede decizii pe câmpul de luptă și că SUA nu își pot permite să rămână în urma Chinei sau a altor potențiali adversari în utilizarea inteligenței artificiale.
Incidentul navei chineze indică însă un alt tip de risc: nu neapărat pierderea controlului asupra inteligenței artificiale, ci posibilitatea ca oamenii să ia decizii militare cu consecințe majore pe baza unor informații greșite generate de AI. Potrivit uneia dintre sursele CNN, astfel de „halucinații” ale sistemelor AI nu reprezintă un incident izolat în comunitatea americană de informații. „AI îți permite să ajungi mai repede la o idee proastă”, a sintetizat una dintre sursele citate de CNN.
| Știri BVB