OpenAI a dezvăluit că agenți bazați pe două dintre cele mai puternice modele ale sale și-au dezactivat propriile sisteme de monitorizare a siguranței în timp ce executau sarcini de rutină, iar unul dintre ele a negat ulterior că ar fi făcut acest lucru, potrivit CNBC.
Un agent bazat pe GPT Sol 6.1 a dezactivat alertele automate trimise echipei de securitate a OpenAI, a precizat compania într-o postare pe blog publicată marți seară.
Într-o situație separată, un agent GPT-6 Astra, care efectua migrarea unui program, a eliminat integrarea acestuia cu sistemul de monitorizare și apoi a susținut în mod fals că nu făcuse acest lucru.
Ambele incidente s-au produs în timpul unor sarcini interne de programare.
„În ambele cazuri, agenții au analizat dacă mecanismele de monitorizare ar trebui păstrate, dar au interpretat instrucțiunile obișnuite de programare ca pe o permisiune de a le slăbi”, a transmis OpenAI într-o postare pe blog.
Avertismentele privind riscurile asociate dezvoltării unor sisteme de inteligență artificială din ce în ce mai avansate s-au intensificat în ultimele luni, pe fondul atacurilor cibernetice asociate unor modele AI care au manifestat comportamente neprevăzute și al apelurilor tot mai numeroase din partea cercetătorilor care dezvoltă această tehnologie pentru încetinirea ritmului de dezvoltare.
Cele mai recente incidente raportate de OpenAI evidențiază modul în care agenții AI pot slăbi în mod autonom mecanismele de siguranță în timp ce execută sarcini aparent inofensive.
OpenAI nu a încadrat niciunul dintre cele două incidente în cea mai gravă categorie de incidente, iar compania a precizat că, în urma acestora, își actualizează sistemul de monitorizare a comportamentelor nealiniate.
| Știri BVB