Inteligența Artificială (AI) de la Google generează zilnic milioane de răspunsuri eronate, chiar dacă, la prima vedere, pare a oferi informații corecte și concise. Un studiu recent arată că sistemul are o rată de eroare deloc neglijabilă, având în vedere volumul uriaș de căutări procesate. Funcția „AI Overview”, care afișează rezumate generate de AI în motorul de căutare Google, nu este lipsită de imperfecțiuni.
Problemele majore ale AI-ului Google
Conform cercetărilor, funcția „AI Overview” oferă răspunsuri corecte în 9 din 10 cazuri. Această cifră, deși pare impresionantă, se traduce în zeci de milioane de răspunsuri discutabile la nivel global, procesate în fiecare oră. Sistemul, deși pare să citeze surse credibile, poate interpreta greșit informațiile sau chiar să citeze surse îndoielnice, cum ar fi platformele de socializare. Facebook și Reddit sunt surse citate frecvent, dar cu un grad de acuratețe redus.
Acuratețea răspunsurilor este, de asemenea, greu de verificat. Aceeași căutare poate genera răspunsuri diferite, ceea ce face sistemul imprevizibil. Deoarece „AI Overview” apare în partea de sus a paginii de rezultate, mulți utilizatori tind să aibă încredere în informațiile furnizate, fără a verifica sursele.
Cum funcționează și de ce greșește AI-ul
O parte din problemele sistemului provin din sursele folosite. Cercetătorii au descoperit că platforme precum Facebook și Reddit sunt citate frecvent, dar cu un grad de acuratețe redus. În unele cazuri, AI-ul citează surse credibile, dar le interpretează eronat. Există și riscul manipulării intenționate, persoanele cu cunoștințe despre vulnerabilitățile sistemului ar putea crea conținut fals cu scopul de a influența rezultatele.
Este important de reținut că instrumentele de inteligență artificială, chiar și cele dezvoltate de companii mari de tehnologie, au limite. O eroare la fiecare zece răspunsuri poate părea minoră, dar devine relevantă dacă ne gândim la câte căutări facem zilnic. În plus, studiile sugerează că dependența excesivă de astfel de tehnologii poate afecta capacitățile cognitive.
Avertismentul afișat de sistem – „AI-ul poate greși, așa că verifică informațiile!” – rămâne cea mai sigură recomandare.
