Conform HotNews: Accesul la inteligența artificială, precum chatbot-urile, poate afecta negativ una dintre cele mai importante abilități cognitive umane: capacitatea de a recunoaște când nu știm. Un nou studiu sugerează că simpla prezență a unui AI ne poate slăbi acest mecanism, determinându-ne să răspundem greșit, dar cu o încredere sporită.
Efectul AI asupra judecății umane
Cercetătorii de la Milano-Bicocca, Ecole Normale Superieure și Universitatea Sapienza au realizat cinci experimente la care au participat peste 3.000 de persoane. Scopul a fost de a investiga cum inteligența artificială influențează criteriile pe baza cărora indivizii decid dacă pot sau nu să ofere un răspuns la o întrebare.
Participanții au fost confruntați cu întrebări dificile, având întotdeauna opțiunea de a declara „nu știu”. Un grup a avut însă acces la răspunsurile unui chatbot AI. Pentru a izola efectul psihologic al interacțiunii cu AI-ul, cercetătorii au conceput întrebările într-un mod specific: detalii vizuale foarte precise din filme, informații pe care modelele lingvistice tind să le „halucineze”.
Încrederea crește, acuratețea scade
Studiul a utilizat intenționat un model AI care greșea în mod frecvent. Acest lucru a fost făcut pentru ca încrederea acordată răspunsurilor sale să nu poată fi explicată prin competența generală a sursei. Rezultatele au fost clare: în absența AI-ului, 44% dintre participanți au ales să spună „nu știu”. Când au avut acces la chatbot, procentul a scăzut dramatic la doar 3%.
În paralel, acuratețea răspunsurilor a scăzut considerabil, în timp ce încrederea participanților în propriile răspunsuri a aproape dublat. Oamenii au răspuns mai des, au greșit mai mult și au fost mult mai convinși că au dreptate. „Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”, a explicat Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și unul dintre autorii studiului.
Metacogniția, o victimă a AI-ului
În timp ce cercetările anterioare s-au concentrat pe externalizarea efortului cognitiv sau pe pierderea competențelor în urma utilizării frecvente a AI, noul studiu abordează impactul asupra metacogniției. Aceasta este capacitatea de a ne evalua propriile cunoștințe și de a determina când deținem suficiente informații pentru a răspunde. Metacogniția ne ajută să diferențiem între „știu”, „cred că știu” și „nu știu”. Fără ea, suntem mai vulnerabili la erori și la concluzii trase cu prea multă încredere, riscând să „halucinăm” răspunsuri, la fel cum fac adesea chatboturile.
Confuzia dintre fluență și corectitudine
Autorii studiului subliniază că oamenii nu sunt convinși de AI pentru că acesta ar fi mereu corect, ci pentru că răspunsurile sale sună convingător. Fluența, coerența și lipsa ezitărilor din textul generat de un chatbot pot crea o aparență de siguranță, pe care creierul nostru o poate confunda cu dovada corectitudinii informației. În loc să verificăm faptele, acceptăm răspunsurile pentru că sunt bine formulate și par plauzibile.
Modelele lingvistice sunt construite să genereze un răspuns la aproape orice întrebare, neavând capacitatea de a recunoaște propriile limite. Acest comportament, dacă devine o normă pentru noi, ne poate face să facem același lucru: să evităm să recunoaștem incertitudinea. Studiul a arătat că, în unele cazuri, AI-ul i-a determinat pe oameni să renunțe la răspunsuri pe care le-ar fi oferit corect bazându-se pe propria judecată, înlocuindu-le cu raționamente greșite, dar prezentate cu un grad înalt de încredere. Fascinația constă în faptul că, în mod normal, oamenii sunt sceptici față de sfaturile altora, dar în acest experiment, chiar și atunci când răspunsul AI contrazicea convingerile inițiale, participanții și-au crescut încrederea în răspunsul final.
Sursa: HotNews
