Një “kill switch”, ose mekanizëm që mund të fikë plotësisht një sistem të Inteligjencës Artificiale në rast se bëhet i rrezikshëm, mund të duhet të bëhet i detyrueshëm me ligj për kompanitë e teknologjisë.
Propozimi vjen nga Jack Clark, bashkëthemelues i Anthropic, kompania që ka krijuar chatbotin Claude. Në një intervistë për BBC, Clark tha se laboratorët kryesorë të IA-së kanë mënyra për të “hequr prizën”, por shtroi pyetjen nëse një mekanizëm i tillë duhet të jetë i detyrueshëm dhe i verifikueshëm nga një palë e tretë.
“Po luajmë zare me rreziqe të jashtëzakonshme”, paralajmëroi Clark, duke argumentuar se zhvillimi i IA-së si një industri tërësisht e parregulluar nuk është një alternativë e pranueshme.
Debati është intensifikuar pas paralajmërimeve të disa prej figurave të njohura të sektorit. Drejtuesi i Anthropic, Dario Amodei, ka kërkuar që ritmi i zhvillimit të IA-së të ngadalësohet dhe teknologjia të monitorohet më nga afër. Ndërkohë, studiuesi i kompanisë Evan Hubinger ka deklaruar se, sipas vlerësimit të tij personal, rreziku që IA të shkaktojë zhdukjen e njerëzimit brenda dekadës së ardhshme është mbi 10%.
Edhe Geoffrey Hinton, fitues i Nobelit dhe një prej pionierëve të Inteligjencës Artificiale, e ka cilësuar një probabilitet prej 10% si “jo të paarsyeshëm”.
Por jo të gjithë në industrinë e teknologjisë ndajnë këto parashikime. Kritikët argumentojnë se rreziku i zhdukjes së njerëzimit po ekzagjerohet dhe se kompanitë e IA-së mund ta përdorin frikën edhe për të justifikuar vlerësimet e tyre marramendëse dhe rëndësinë ekonomike.
Debati ka mbërritur edhe në politikë. Në SHBA është propozuar një “Kill Switch Act”, që do t’i detyronte kompanitë të kishin mundësi për të çaktivizuar sistemet problematike të IA-së. Presidenti Donald Trump, nga ana tjetër, ka kundërshtuar përpjekjet për ngadalësimin e zhvillimit të teknologjisë, duke i cilësuar paralajmërimet se IA mund të marrë kontrollin dhe të shkatërrojë njerëzimin si një “mashtrim”.
Edhe qeveria britanike ka kundërshtuar deri tani krijimin e një mekanizmi të detyrueshëm “kill switch”, me argumentin se ai nuk do të pengonte zhvillimin apo keqpërdorimin e sistemeve të IA-së në vende të tjera.
