Un bărbat internat în spital, cu fața îngrijorată, ilustrează o problemă serioasă: chatboții precum ChatGPT pot greși diagnosticele medicale în peste 80% din cazuri, conform unui nou studiu. Cercetătorii avertizează asupra riscurilor utilizării acestor instrumente de inteligență artificială în scopuri medicale, subliniind lipsa lor de informații adecvate.
Modelurile lingvistice, deși impresionante în capacitățile lor de procesare a limbajului, nu dispun de cunoștințele medicale necesare pentru a oferi un diagnostic corect. Studiul, realizat de specialiști din Massachusetts, a testat mai multe modele de inteligență artificială și a constatat o rată alarmantă de erori. Utilizatorii, în căutare de informații medicale, pot fi induși în eroare, ajungând la concluzii greșite și, implicit, la decizii eronate privind sănătatea lor.
Riscurile autodiagnosticării cu ajutorul ia
Rezultatele cercetării arată că chatboții de tip ChatGPT și Gemini sunt predispuși să ofere sfaturi medicale incorecte. În peste patru din cinci cazuri, pacienții riscă să primească un diagnostic greșit sau o indicație terapeutică inadecvată. Această situație este cu atât mai gravă cu cât mulți oameni folosesc deja aceste instrumente ca sursă primară de informații despre sănătate.
Specialiștii atrag atenția că, deși inteligența artificială poate fi un instrument util în anumite domenii, în medicină, unde precizia și acuratețea sunt vitale, utilizarea ei trebuie abordată cu extremă prudență. Lipsa de experiență și de date medicale specifice face ca aceste modele să nu poată înlocui experiența și cunoștințele unui medic. Autodiagnosticarea bazată pe informații furnizate de inteligența artificială poate avea consecințe grave, inclusiv întârzierea tratamentului adecvat sau chiar agravarea stării de sănătate.
Impactul asupra sistemului medical și al pacienților
Folosirea necontrolată a chatboților pentru diagnosticare medicală poate supraîncărca sistemul de sănătate. Pacienții, informați incorect, pot solicita investigații medicale inutile sau pot amâna prezentarea la medic, creând presiune suplimentară asupra resurselor medicale deja limitate. În plus, neîncrederea în metodele tradiționale de diagnostic poate submina relația de încredere dintre medic și pacient, fundamentală pentru succesul tratamentului.
De asemenea, este important de menționat că, pe măsură ce aceste tehnologii evoluează, ele pot deveni din ce în ce mai sofisticate în modul în care prezintă informațiile. Acest lucru ar putea crește încrederea pacienților în exactitatea informațiilor furnizate de ele, chiar dacă acestea sunt eronate. Prin urmare, este crucial ca pacienții să fie educați cu privire la limitele inteligenței artificiale și să fie încurajați să consulte un medic pentru orice problemă de sănătate.
Recomandări și direcții viitoare
Datele studiului au fost publicate în rețeaua JAMA Network Open, aducând în prim-plan o problemă de actualitate. Experții recomandă o abordare responsabilă asupra utilizării inteligenței artificiale în medicină, cu focus pe dezvoltarea de instrumente care să completeze expertiza medicilor, nu să o înlocuiască. O colaborare strânsă între specialiștii în inteligență artificială și cei din domeniul medical este esențială pentru a asigura dezvoltarea unor soluții fiabile și sigure.
Studiul arată clar că, în stadiul actual de dezvoltare, chatboții nu pot și nu trebuie să înlocuiască experiența și judecata medicilor.
