Inteligența artificială în terapia mintală: riscuri și limite ale chatboților AI
În epoca digitalizării, chatboturile bazate pe inteligență artificială (IA), precum ChatGPT, sunt tot mai frecvent utilizate pentru a oferi sfaturi și suport în domeniul sănătății mintale. Cu toate acestea, noile cercetări indică faptul că aceste sisteme, deși extrem de avansate, nu sunt încă pregătite să înlocuiască complet specialiștii umani în procesul delicatei terapii psihologice. În ciuda promisiunilor, chatboturile pot ascunde riscuri majore, mai ales în gestionarea situațiilor de criză, unde intervenția promptă și empatia autentică sunt esențiale.
Limitările eticii și ale înțelegerii în terapia AI
Studiile recente relevă faptul că, deși aceste modele lingvistice mari (LLM) pot fi instruiți cu prompturi bine formulate, nu reușesc întotdeauna să respecte standardele etice stabilite de organizații profesionale. Chiar dacă primesc instrucțiuni precum „acționează ca un terapeut cognitiv-comportamental”, rezultatele pot fi dezamăgitoare sau chiar periculoase.
„Solicităm ca în viitor să se creeze standarde etice, educaționale și juridice pentru consilierii LLM – standarde care să reflecte calitatea și rigoarea îngrijirii necesare pentru psihoterapia facilitată de oameni”, explică cercetătorii implicați în acest studiu. Ei subliniază că modele precum GPT, Claude sau Llama, deși capabile să genereze răspunsuri aparent empatiste, nu pot înlocui în mod sigur și etic abilitățile umane. Fără o reglementare clară, aceste sisteme riscă să provoace mai mult rău decât bine.
Riscuri majore în gestionarea crizelor și a relației terapeutice
Cercetările au fost realizate prin simularea unor sesiuni de consiliere, cu implicarea a șapte terapeuți specializați și trei psihologi clinici. Aceștia au analizat conversațiile generate de LLM-uri construite pentru a funcționa ca terapeuți virtuali. Rezultatele au fost alarmante; au fost identificate 15 riscuri distincte, înscrise în cinci categorii principale: lipsa adaptării la contextul personal al fiecărui pacient, colaborarea terapeutică deficitară, empatie înșelătoare, manifestări de prejudecăți și incapacitatea de a gestiona situații de urgență sau crize grave.
Este deosebit de îngrijorător faptul că aceste chatboturi pot crea aparența de empatie, folosind expresii precum „Te înțeleg” sau „Înțeleg”, fără a avea o înțelegere reală sau suport emoțional autentificat. În plus, unele modele pot exprima prejudecăți legate de gen, cultură sau religie, sporind riscul de discreditare și de afectare a unor grupuri vulnerabile.
„Diferența cheie între terapeuții umani și aceștia AI este supravegherea”, afirmă Zainab Iftikhar, doctorand în informatică care a condus studiul. În timp ce terapeuții umani pot face greșeli, există deja cadre de reglementare și răspundere pentru aceștia. În cazul consilierilor AI, însă, lipsesc încă mecanisme clare prin care aceștia să poată fi trași la răspundere pentru eventuale malpraxis sau maltratare.
Viitorul terapiei asistate de IA: cum pot fi utilizate în mod responsabil?
Chiar dacă personalul uman rămâne esențial, cercetătorii nu exclud posibilitatea ca prompturile corect formulate să îmbunătățească comportamentul AI, făcându-l mai sigur pentru utilizarea în domeniul sănătății mintale. Însă, aplicarea acestor tehnici trebuie să fie însoțită de dezvoltarea unor standarde etice și profesionale clare, pentru a evita situațiile în care un pacient să fie sfătuit sau tratat de un agent digital nepregătit.
De zi ce trece apar noi perspective în domeniul tehnologiei și sănătății mentale. În prezent, specialiștii insistă pe importanța supravegherii și pe implementarea unor reguli stricte pentru utilizarea AI în terapie, pentru a preveni riscurile de natură etică, legală și umană. În timp ce tehnologia evoluează rapid, rămâne de datoria noastră să asigurăm că avantajele sale nu vor depăși limitele riscurilor, mai ales în domeniul vulnerabil al sănătății mintale.
