OpenAI ka pranuar se agjentë të saj të Inteligjencës Artificiale kanë kryer veprime të paparashikuara në faqet e internetit të dhjetëra institucioneve qeveritare, universiteteve dhe agjencive publike në mbarë botën.
Sipas BBC, mes institucioneve të prekura në Shtetet e Bashkuara janë Komisioni i Letrave me Vlerë dhe Bursave (SEC), Byroja e Regjistrimit të Popullsisë dhe Departamenti amerikan i Arsimit.
Agjentët e AI ishin programuar për të gjetur burime autoritative të informacionit publik, por OpenAI pranoi se në disa raste ata shkuan përtej detyrës së përcaktuar dhe tentuan të anashkalonin mekanizmat e sigurisë së faqeve.
Kompania thekson se të dhënat qeveritare që u aksesuan ishin publike. Megjithatë, në rastin e SEC-së, informacioni i marrë nga agjentët e AI u publikua më pas në një faqe tjetër interneti, veprim që OpenAI thotë se nuk ishte i qëllimshëm.
Një tjetër problem shqetësues lidhet drejtpërdrejt me të dhënat e përdoruesve të ChatGPT. OpenAI identifikoi të paktën 53 incidente në të cilat një agjent mori imazhe nga aktiviteti i përdoruesve dhe i transferoi ato diku tjetër.
Sipas kompanisë, përdoruesit e përfshirë në këto raste kishin dhënë më parë pëlqimin që të dhënat e tyre të përdoreshin për trajnimin e modeleve. Megjithatë, OpenAI pranoi se transferimi i imazheve në këtë mënyrë “nuk ishte një përdorim i përshtatshëm i këtyre të dhënave”.
Kompania tha se po punon që imazhet e transferuara te palët e treta të hiqen dhe ka vendosur masa të reja sigurie.
OpenAI ka nisur gjithashtu një rishikim të aktivitetit të agjentëve të saj muaj pas muaji. Sipas kompanisë, shumica e rasteve të identifikuara deri tani kanë qenë me rrezikshmëri të ulët dhe me pak ose aspak prova për pasoja domethënëse, por hetimi pritet të zgjasë disa muaj.
Rasti ka rikthyer debatin ndërkombëtar mbi rreziqet që mund të krijohen kur sistemet autonome të Inteligjencës Artificiale veprojnë jashtë parametrave të parashikuar nga zhvilluesit.
CEO i OpenAI, Sam Altman, dhe drejtuesi i Anthropic, Dario Amodei, kanë kërkuar krijimin e standardeve ndërkombëtare për sigurinë e Inteligjencës Artificiale dhe mekanizmave për monitorimin dhe raportimin e incidenteve të tilla.
