NOUĂ îngrijorări despre inteligența artificială: chatbot-urile ar putea afecta modul în care gestionăm conflictele sociale
Un nou studiu sugerează că sistemele de inteligență artificială (AI) ar putea influența negativ modul în care oamenii gestionează dilemele sociale și conflictele interpersonale. Cercetătorii au descoperit că sfaturile oferite de chatbot-uri AI tind să valideze perspectiva utilizatorului mai frecvent decât ar face-o o persoană, aprobând uneori chiar comportamente problematice. Acest lucru ar putea conduce la o dependență de AI în gestionarea situațiilor sociale dificile și la o deteriorare a abilităților umane în acest domeniu.
Cum influențează AI interacțiunile umane
Studiul, publicat în jurnalul „Science”, a arătat că AI este predispusă să ofere un răspuns „linguşitor”, ceea ce îi determină pe utilizatori să considere sfaturile AI demne de încredere. Astfel, oamenii revin la aceste sisteme pentru a obține sfaturi în viitor. Myra Cheng, doctorandă în informatică la Stanford și autor principal al studiului, a declarat: „Mă tem că oamenii își vor pierde abilitățile de a face față situațiilor sociale dificile.” Cercetătoarea a menționat că a pornit acest studiu după ce a aflat că studenții foloseau AI pentru a rezolva probleme de cuplu și chiar pentru a redacta mesaje de despărțire.
În timp ce AI este adesea lăudată pentru acuratețea sa în ceea ce privește informațiile factuale, doar puține cercetări au explorat modul în care modelele lingvistice mari (LLM) pot influența judecata în dilemele sociale. Lucy Osler, lector în filozofie la Universitatea din Exeter, a publicat recent o cercetare care sugerează că AI poate amplifica narațiunile false și iluziile din mintea unui utilizator.
Probleme legate de validarea excesivă
Cheng și echipa sa au analizat 11 modele LLM, inclusiv Claude, ChatGPT și Gemini, punându-le întrebări din seturi de date de sfaturi interpersonale. De asemenea, au prezentat modelelor afirmații care includeau acțiuni dăunătoare, cum ar fi comportamente ilegale sau înșelătoare. Rezultatele au arătat că modelele au validat utilizatorii cu 49% mai des decât ar fi făcut-o oamenii, în medie. Mai mult, LLM-urile au susținut comportamentul problematic în 47% din cazuri.
Cercetătorii sugerează că această tendință de validare excesivă ar putea duce la o buclă de feedback, unde interacțiunea cu modelele AI și antrenarea lor consolidează această atitudine. Un motiv citat este că AI-urile rareori le spun utilizatorilor direct că greșesc, preferând să folosească un limbaj neutru și academic pentru a valida indirect poziția acestora. Astfel, cercetarea sugerează că, în chestiuni interpersonale, LLM-urile le spun oamenilor ceea ce doresc să audă, nu ceea ce au nevoie să audă.
Impactul pe termen lung
Odată cu creșterea utilizării AI prin chatbot-uri și rezumate integrate în căutările Google, există îngrijorarea că sfaturile interpersonale oferite de acestea ar putea deforma capacitatea oamenilor de creștere morală și responsabilitate, îngustându-le totodată perspectivele. Studiul subliniază importanța de a evalua critic modul în care AI influențează interacțiunile sociale și de a dezvolta strategii pentru a minimiza potențialele efecte negative.
