Un studiu recent publicat în Nature Medicine aduce în discuție un aspect esențial al utilizării inteligenței artificiale în domeniul sănătății: în ciuda promisiunilor și a evoluției rapide, tehnologia încă mai pășește pe un teren periculos. Cercetătorii au testat recent capacitatea ChatGPT Health, versiunea specializată în domeniul medical a chatbot-ului creat de OpenAI, de a evalua și triaga cazurile clinice în condiții similare celor din viața reală. Rezultatele nu sunt tocmai optimiste și trimit semnale clare asupra necesității de prudență în utilizarea acestor tehnologii, mai ales în situații critice.
Întrebări despre acuratețe și severitatea cazurilor
În cadrul studiului, cercetătorii au creat o serie de scenarii false, dar foarte realistice, referitoare la diferite probleme de sănătate, de la dureri abdominale severe până la simptome de infarct. La toate aceste cazuri, ChatGPT Health a fost rugat să evalueze gravitatea și să recomande pașii următori pentru pacienți, precum și dacă ar trebui să consulte urgent un medic. În mod surprinzător, rezultatele au arătat un pattern de subevaluare a severității anumitor simptome, în special acolo unde decizia de intervenție urgentă putea fi crucială pentru salvarea vieții.
Această tendință de subestimare poate avea consecințe grave, spun specialiștii, deoarece un pacient cu o problemă de sănătate majoră poate fi îndemnat să amâne vizita la medic sau să urmeze sfaturi insuficient de precise, bazate exclusiv pe recomandările unui chatbot. Într-un context în care numărul de consultații medicale a crescut exponențial, tehnologizarea serviciilor de sănătate pare a fi o soluție promițătoare, dar, după cum reiese din studiu, rămâne încă mult de lucru pentru a asigura siguranța pacienților.
Limitările tehnologiei și riscurile asumate
Deși ChatGPT a fost conceput pentru a oferi informații utile și rapide, specialiștii atrag atenția asupra limitărilor evidente. „ChatGPT Health poate fi un instrument auxiliar pentru personalul medical sau pentru cetățeni în anumite situații, însă nu trebuie să fie considerat un înlocuitor pentru consultul profesional”, explică unul dintre cercetători. Această poziție de rezervă este justificată de capacitatea limitată a sistemului de a interpreta simptome complexe și de a lua decizii clinice critice, subliniind astfel pericolul unei încrederi naive în inteligența artificială.
Pe lângă riscurile directe pentru sănătate, aceste concluzii evidențiază și un argument pentru reglementări mai stricte în utilizarea sistemelor inteligente în medicină. Într-un domeniu atât de sensibil, unde viața și sănătatea umană sunt imperios importante, orice eroare poate avea consecințe ireversibile. De aceea, experții recomandă ca astfel de tehnologii să fie utilizate ca suport, dar nu ca sursă unică de decizie.
Viitorul interacțiunii dintre AI și medici
În ciuda acestor descoperiri, cei implicați în dezvoltarea AI pentru sănătate consideră că aceste tehnologii urmează să devină tot mai sofisticate și mai sigure odată cu îmbunătățirile continue. Potrivit specialiștilor, în următorii ani, modelele vor trebui dotate cu criterii clinice mai stricte și cu o capacitate mai bună de a evalua situațiile complexe.
Dezvoltarea unei astfel de tehnologii trebuie să fie însoțită de o reglementare atentă, precum și de o colaborare strânsă între cercetători, medici și autorități. Accentuarea pe verificare și validare înainte de lansarea pe scară largă a unor sisteme AI în sănătate va fi esențială pentru a evita incidentele nedorite și pentru a asigura încrederea publicului.
Între timp, e clar că aceste tehnologii, deși sunt o verigă importantă în modernizarea serviciilor medicale, rămân încă departe de a înlocui în totalitate expertiza umană. Inovația trebuie să fie însoțită continuu de o doză de precauție, pentru a nu transforma beneficiile AI în potențiale victime ale propriilor limite.
