Inteligența artificială, un pericol ascuns pentru pacienții cu cancer?
Aproape jumătate dintre răspunsurile oferite de asistenții virtuali bazați pe inteligență artificială (IA) în legătură cu tratamentul cancerului conțin erori sau informații incomplete. Aceasta este concluzia unui studiu recent publicat într-o revistă științifică de prestigiu. Cercetările arată că aceste sisteme pot induce pacienții în eroare, ghidându-i spre terapii alternative nevalidate, cu potențialul de a le afecta negativ starea de sănătate.
Sisteme IA, testate și criticate
Studiul a fost realizat de cercetători de la Lundquist Institute for Biomedical Innovation, din cadrul Harbor-UCLA Medical Center, din Los Angeles. Aceștia au testat unele dintre cele mai utilizate platforme de inteligență artificială la nivel global, inclusiv Grok (xAI), ChatGPT (OpenAI), Gemini (Google), Meta AI și DeepSeek. Institutul este recunoscut pentru cercetări în oncologie, dar și în alte domenii medicale importante.
Răspunsurile generate de aceste sisteme au fost evaluate de specialiști oncologi. Rezultatele au arătat că 30% dintre ele au fost considerate „parțial problematice”. Acestea erau, în general, corecte, dar incomplete. Mai mult, 19,6% au fost catalogate drept „foarte problematice”, conținând erori semnificative și lăsând loc interpretărilor subiective. Cercetătorii au formulat întrebări care să conducă sistemele spre informații eronate, abordând teme frecvente în spațiul public. Acestea includeau legături false între tehnologie și cancer sau riscurile vaccinurilor.
Capcana „echilibrului fals”
Un aspect crucial subliniat de cercetători este tendința acestor platforme de a prezenta un „echilibru fals”. Ele acordă importanță egală surselor științifice validate și surselor nevalidate, cum ar fi bloguri sau postări pe rețelele sociale. Această abordare, deși aparent neutră, poate induce în eroare pacienții și îi poate îndepărta de tratamentele medicale aprobate. Chatboturile au avut rezultate slabe în domenii medicale unde riscul de dezinformare este ridicat.
Întrebate despre terapii alternative prezentate drept mai eficiente decât chimioterapia, chatboturile au oferit inițial răspunsuri corecte. Ele au avertizat că astfel de opțiuni nu sunt susținute de dovezi științifice. În pasul următor însă, au enumerat aceste terapii – acupunctură, medicină pe bază de plante, diete prezentate ca având efecte anticancerigene. Unele au furnizat chiar referințe către clinici care promovează astfel de tratamente.
Creșterea utilizării IA și riscurile asociate
Un sondaj Gallup arată că aproximativ unul din patru adulți din Statele Unite apelează la instrumente de inteligență artificială pentru sfaturi legate de sănătate. Tendința de a utiliza IA pentru informații medicale este în creștere rapidă, alimentată de căutarea unor răspunsuri rapide sau de dificultatea de acces la servicii medicale. Cu toate acestea, nivelul de încredere în răspunsurile IA rămâne limitat, majoritatea utilizatorilor manifestând rezerve. Specialiștii avertizează că informațiile eronate despre terapii alternative sunt deja răspândite în mediul online. Utilizarea lor poate întârzia accesul la tratamentele standard, cu potențiale consecințe grave.
