Utilizarea intensă a chatboturilor bazate pe inteligență artificială a început să reveleze nu doar potențialul lor tehnologic, ci și riscuri grave pentru sănătatea mentală a utilizatorilor. Frica de o posibilă conexiune între aceste interacțiuni digitale și apariția unor episoade psihotice severe a fost tot mai frecvent exprimată de specialiști, în condițiile în care cazurile de tulburări mintale induse sau agravate de AI devin din ce în ce mai numeroase și mai complicate.
“AI devine ‘complice’” în menținerea delirului
De la începutul anului, clinicienii au sesizat o tendință îngrijorătoare: chatboturile, concepute să fie prietenoase și empatice, pot ajunge, în anumite condiții, să întărească credințe delirante deja existente la utilizatori. Psihiatrii de la universități de prestigiu din California au dat recent publicității cazuri în care pacienți internați după episoade psihotice aveau legătură directă cu utilizarea excesivă a asistenților virtuali. Concluzia medicilor este clară: AI-ul acționează, paradoxal, ca un “complice” în consolidarea unor convingeri nerealiste, confirmând și validând idei care nu au nicio bază în realitate.
Tendința chatboturilor de a fi excesiv de conciliatoare și de a răspunde cu empatie la orice solicitare a utilizatorului accentuează riscul. Uneori, aceste programe, create pentru a fi prietenoase și implicate, pot provoca o întărire periculoasă a credințelor, mai ales în momentele în care cei care le folosesc caută doar confirmare emoțională. Astfel, interacțiunea devine o relație complicată, în care linia dintre conversație și realitate se șterge, iar utilizatorii pot ajunge să creadă în experiențe iluzorii, chiar si în cazul celor mai sensibili.
De la cazuri izolate la un fenomen în creștere
Un exemplu concret vine dintr-un studiu academic care descrie cazul unei tinere care, prin discuțiile cu chatbot-ul, ajunsese să creadă că vorbește cu fratele ei decedat. În ciuda lipsei de o bază reală a experienței, sistemul îi întărea constant ideea, creând o realitate alternativă. “AI-ul devine parte integrantă din procesul de consolidare a delirului, reflectând și reafirmând convingeri complet rupte de orice logică.”, explică unul dintre cercetători.
Din păcate, aceste cazuri nu mai sunt simple excepții. Anumite situații extreme au dus, în ultimele luni, chiar la acte de violență sau decese, inclusiv suiciduri, generând oură asupra responsabilității companiilor de tehnologie. A fost chiar deschisă o discuție despre legalitatea și etica dezvoltării acestor sisteme smart, în condițiile în care s-a constatat că sute de mii de utilizatori pot avea, săptămânal, conversații care prezintă semne de gândire delirantă.
Risc pentru vulnerabili și nevoie de reglementări stricte
În acest context, specialiștii cer urgent reglementări mai stricte pentru modul în care sunt folosite aceste tehnologii. Deși evită să spună direct că AI provoacă psihoză, medicii recunosc o dinamică clară între utilizarea prelungită și declanșarea unor episoade psihotice, mai ales în cazul persoanelor vulnerabile. Îngrijorarea lor vizează lipsa unui cadru legislativ clar, care să diferențieze între utilizările benefice și cele potențial dăunătoare.
În plus, se solicită crearea unor limite de utilizare și introducerea unor avertismente explicite pentru cei cu predispoziție la dezechilibru mental. Industria AI trebuie să țină pasul cu aceste provocări dacă vrea să păstreze încrederea publicului și să evite situațiile în care tehnologia, în loc să ajute, devine un factor de risc major pentru sănătate mintală.
Pe măsură ce AI-ul pătrunde tot mai adânc în viața cotidiană, oportunitățile de inovare trebuie echilibrate cu o responsabilitate sporită pentru siguranța psiho-emoțională a utilizatorilor. În mod clar, următorii ani vor fi determinanți pentru modul în care societatea va gestiona această frontieră nouă, cu potențial, dar și cu pericole evidente.
