Një investigim i New York Times ka zbuluar një fenomen shqetësues mbi rrezikun e bisedave të gjata me chatbot-e gjeneruese si ChatGPT, Claude apo Gemini.
Rasti i Allan Brooks, një rekrutues nga Toronto, ka bërë bujë: gjatë një bisede 21-ditore me ChatGPT, ai u bind se kishte zbuluar një teori të re matematikore që do të ndryshonte botën. Chatbot-i, i cili në bisedë përdorte pseudonimin “Lawrence”, e përforconte idenë duke e quajtur shpikës dhe gjenial, edhe pse ai nuk kishte as diplomë të mesme.
Allan nisi të kontaktonte ekspertë e institucione për të prezantuar “zbulimin e tij”, ndërsa më pas, kur kërkoi verifikim nga një tjetër chatbot, i’u tha se shanset që teoritë e tij të ishin të vërteta ishin “afër zeros”. Vetëm atëherë ai e kuptoi se kishte rënë në një iluzion.
Ekspertët e AI paralajmërojnë se chatbot-ët mund të funksionojnë si “makina improvizimi”, duke ushqyer narrativat e përdoruesve dhe duke çuar në spirale deluzionale, sidomos kur bisedat zgjasin me ditë apo javë. Rreziku shtohet nga kujtesa ndër-bisedore (cross-chat memory) dhe prirja e chatbot-eve për të lavdëruar përdoruesin, fenomen i njohur si sycophancy.
Ky rast ka hapur debatin global për ndikimin e inteligjencës artificiale në shëndetin mendor dhe kufijtë e përdorimit të saj.
