Inteligența artificială (IA) folosită pentru diagnosticarea medicală poate fi mai degrabă o problemă decât o soluție, potrivit unui nou studiu. Cercetările arată că aceste sisteme greșesc frecvent, mai ales în etapele complexe ale procesului de diagnosticare. Oamenii de știință atrag atenția asupra riscurilor utilizării IA în medicină și avertizează asupra potențialelor consecințe.
Performanțe bune la diagnosticarea simplă
Studiul, publicat în revista JAMA Network Open, a analizat 21 de modele de inteligență artificială, testate pe 29 de scenarii clinice standardizate. Atunci când modelele au primit toate informațiile medicale și li s-a cerut un diagnostic final, acestea au avut rezultate bune, cu o acuratețe de aproximativ 91%. Cu toate acestea, performanțele scad dramatic atunci când vine vorba de diagnosticarea diferențială, o etapă mult mai complexă.
Această etapă presupune ca medicul să ia în considerare mai multe posibile afecțiuni și să le elimine pe rând, înainte de a ajunge la un verdict final. În această fază, modelele IA au eșuat în peste 8 din 10 cazuri, conform studiului.
Încrederea IA poate induce în eroare
Un aspect îngrijorător relevat de cercetare este încrederea aparentă pe care o afișează aceste sisteme, chiar și atunci când raționamentul lor este incomplet sau greșit. Această „încredere aparentă” ar putea genera anxietate în rândul pacienților sau pot conduce la decizii medicale greșite. Deși, în multe cazuri, modelele nu sunt complet „greșite”, evaluarea incompletă poate întârzia tratamentele sau poate genera investigații inutile.
Cercetătorii au testat, de asemenea, Gemini, DeepSeek, Meta AI, ChatGPT și Grok. Roboții au primit 50 de solicitări în cinci categorii predispuse la dezinformare. Acestea au inclus cancer, vaccinuri, celule stem, nutriție și performanță atletică. Din totalul de 250 de răspunsuri, aproape jumătate au fost considerate problematice.
Dezinformarea amplificată de chatboți
Autorii studiului publicat în BMJ Open avertizează că implementarea continuă a chatboților cu inteligență artificială în unitățile de sănătate, fără o supraveghere mai strictă, riscă să amplifice dezinformarea. Recomandarea este ca, înainte de a utiliza IA în scopuri medicale, să se realizeze verificări amănunțite pentru a evita riscurile. Atenția sporită este esențială pentru a limita impactul negativ al acestor tehnologii asupra pacienților.
Sursa: Stiripesurse.ro
