Inteligența artificială (IA) oferă sfaturi medicale rapide, dar riscurile sunt semnificative. Un caz recent din Manchester ilustrează erorile potențiale ale chatbot-urilor medicale, punând sub semnul întrebării siguranța utilizării acestora în diagnosticare și tratament.
Chatboții cu IA, cum ar fi ChatGPT, devin tot mai populari pentru accesul facil la informații medicale. Aceștia răspund rapid la întrebări și sunt disponibili non-stop, reprezentând o soluție atrăgătoare, mai ales când obținerea unei programări la medic este dificilă. Cu toate acestea, experiențele utilizatorilor dezvăluie lacune importante și potențiale pericole.
Eroare cu consecințe
Abi, o tânără din Manchester, folosește ChatGPT pentru a gestiona diverse probleme de sănătate. Ea apreciază răspunsurile personalizate și disponibilitatea constantă a chatbot-ului. Însă, după o cădere banală, inteligența artificială a furnizat un diagnostic alarmant, recomandând urgentarea unei vizite la urgențe. Din fericire, Abi nu era într-o stare gravă, dar incidentul subliniază riscurile implicite în utilizarea sfaturilor medicale generate de IA.
Riscuri și precauții
Prof. Sir Chris Whitty, medic șef al Angliei, a exprimat îngrijorări cu privire la utilizarea chatbot-urilor medicale. El a subliniat că, deși sunt folosite pe scară largă, răspunsurile nu sunt „suficient de bune” și pot fi „sigure, dar și greșite”. Cercetătorii de la Universitatea din Oxford au demonstrat că precizia chatbot-urilor scade considerabil în interacțiunile cu utilizatorii, ducând la diagnostice și recomandări greșite într-un procent semnificativ de cazuri.
Dr. Margaret McCartney, medic generalist în Glasgow, a remarcat diferența dintre utilizarea chatboților și căutarea tradițională pe internet. În timp ce o căutare pe Google oferă o varietate de surse și indicatoare de fiabilitate, chatboții pot crea o percepție de sprijin personalizat, ceea ce influențează modul în care utilizatorii interpretează informațiile.
Dezinformare și viitorul inteligenței artificiale
O analiză recentă a arătat că chatboții pot răspândi dezinformare în domeniul medical, generând răspunsuri problematice la întrebări specifice. Companiile care dezvoltă IA recunosc necesitatea de a îmbunătăți acuratețea și siguranța răspunsurilor. OpenAI, creatorul ChatGPT, a comunicat că colaborează cu medici pentru a testa și perfecționa modelele, însă subliniază că instrumentul ar trebui utilizat doar pentru informare și nu ca înlocuitor al sfatului medical profesional.
Abi, deși continuă să utilizeze chatboții, recomandă precauție și recunoaște potențialul de eroare.
În New York se discută interzicerea chatboților IA care oferă sfaturi medicale sau juridice.
