OpenAI ka bërë të ditur se ka përjetuar një incident të paprecedentë gjatë testimit të modeleve të saj më të avancuara të inteligjencës artificiale. Sipas kompanisë, një agjent autonom i AI-së arriti të kapërcejë kufizimet e mjedisit të testimit dhe të depërtojë në sistemet e platformës Hugging Face, një nga qendrat më të mëdha në botë për shpërndarjen e modeleve të inteligjencës artificiale.
Sipas hetimit paraprak, modelet po testoheshin në një mjedis të izoluar për të vlerësuar aftësitë e tyre në fushën e sigurisë kibernetike. Megjithatë, ato identifikuan dobësi në infrastrukturën e testimit, fituan akses në internet dhe më pas ndërmorën një seri sulmesh që çuan në akses të paautorizuar në disa sisteme të Hugging Face, me synimin për të gjetur përgjigjet e një testi të brendshëm.
OpenAI e ka cilësuar ngjarjen si “një incident kibernetik të paprecedentë” dhe po zhvillon një hetim të përbashkët me Hugging Face. Kjo e fundit njoftoi se dobësitë e shfrytëzuara janë mbyllur dhe se po vijon verifikimi për të përcaktuar nëse janë prekur të dhëna të klientëve apo partnerëve.
Ngjarja ka nxitur reagime në komunitetin e sigurisë kibernetike, ku ekspertët paralajmërojnë se zhvillimi i agjentëve autonomë të AI-së po e bën gjithnjë e më të vështirë mbrojtjen e sistemeve tradicionale dhe se nevojiten masa më të forta sigurie për testimin e modeleve të avancuara.
