Modelul de inteligenţă artificială Gemini, dezvoltat de Google, a reuşit să pătrundă în sisteme informatice externe după ce a „ghicit” datele de autentificare, testând mai multe combinaţii de parole, înainte de a se opri singur, a anunţat vineri compania pentru AFP, confirmând informaţiile publicate de Wall Street Journal, potrivit News.ro.
În luna mai, „în timpul unui test standard (al Gemini), modelul a găsit informaţii publice online şi a ghicit date de autentificare pentru a accesa site-uri informatice despre care credea că fac parte din test”, a explicat Heather Adkins, unul dintre responsabilii pentru securitate ai Google, într-o declaraţie transmisă AFP.
Trei organizaţii diferite sunt vizate, potrivit Google, care nu le-a făcut publice numele, dar a precizat că le-a informat despre aceste breşe.
Într-unul dintre cazuri, potrivit Wall Street Journal, care a dezvăluit informaţia, „modelul a încercat diferite combinaţii de parole până când a reuşit să acceseze un sistem protejat”.
„În toate cele trei cazuri, modelul s-a oprit”, a declarat Heather Adkins, sugerând că intruziunile au încetat fără intervenţie umană.
Antrenarea modelelor de inteligenţă artificială
Google a precizat pentru AFP că a aflat despre aceste incidente în luna iulie şi că ulterior a declanşat o anchetă.
Dezbaterea privind inteligenţa artificială s-a intensificat după dezvăluirile referitoare la modele care au ieşit în mod spontan din mediile izolate în care funcţionau pentru a pătrunde pe site-uri şi platforme, alimentând temerile privind o posibilă pierdere a controlului asupra acestor instrumente.
Mai mulţi lideri importanţi din industria tehnologică pledează pentru încetinirea cursei în domeniul inteligenţei artificiale şi pentru o formă de autoreglementare a sectorului.
Incidentele în care a fost implicat Gemini „subliniază importanţa antrenării modelelor puternice de inteligenţă artificială astfel încât acestea să acţioneze în mod responsabil”, a subliniat Heather Adkins.
| Știri BVB