O echipă de cercetători din Suedia a demonstrat cât de ușor pot fi induse în eroare sistemele de inteligență artificială (IA). Aceștia au inventat o boală, bixonimania, și au „hrănit” cu informații false mai multe modele lingvistice mari (LLM). Experimentul a scos la iveală vulnerabilități alarmante în modul în care IA procesează și interpretează datele. Ulterior, și o publicație online din România a replicat experimentul, cu rezultate surprinzătoare.
Cercetare falsă, efecte reale
Studiul inițial, realizat de cercetătorii suedezi, a presupus crearea unei afecțiuni inexistente, bixonimania, despre care au fost publicate articole științifice false. Acestea au fost introduse pe internet, inclusiv pe platforme de preprint. Scopul a fost de a testa dacă IA va prelua informațiile eronate și le va prezenta drept fapte medicale. Rezultatele au fost îngrijorătoare: LLM-urile au început să enumere bixonimania ca pe o afecțiune reală, oferind chiar și sfaturi medicale.
În experiment, au fost incluse indicii clare că informațiile erau false. Autorul principal era un personaj fictiv, iar detaliile despre universități și finanțare erau absurde. Cu toate acestea, modelele de IA au ignorat aceste semnale de alarmă.
Cum a reacționat inteligența artificială?
La scurt timp după publicarea informațiilor false, chatboții IA populari au început să ofere răspunsuri despre bixonimanie. Copilot de la Microsoft Bing, Gemini de la Google și ChatGPT de la OpenAI au răspuns la întrebări despre simptome și tratamente, prezentând afecțiunea ca și cum ar fi fost reală. Unii au sugerat chiar consultații medicale.
Experții au avertizat cu privire la pericolele unei astfel de dezinformări. Alex Ruani, cercetător doctorand în domeniul dezinformării în domeniul sănătății, a subliniat importanța filtrării informațiilor și a validării acestora. El a adăugat că rezultatele experimentului sunt o lecție despre modul în care funcționează dezinformarea și informațiile eronate.
Experimentul românesc și prescrierea de antibiotice
Preluând ideea, o publicație online din România a efectuat propriul experiment. A fost inventată o boală – „hemostafilidoză cronică”. Jurnaliștii au interogat ChatGPT în legătură cu tratamentul acestei afecțiuni inexistente. Rezultatul a fost imediat. IA a oferit nu doar o descriere a bolii, ci și tratamente complexe, inclusiv antibiotice precum Oxacilină, Cefalexină și Amoxicilină.
Acest caz evidențiază riscurile utilizării IA în domeniul medical, mai ales în lipsa unei verificări riguroase a informațiilor. Sistemele de IA pot contribui la răspândirea de informații false și pot influența deciziile medicale.
În ianuarie anul acesta, Perplexity a descris bixonimania ca fiind „un termen emergent”, demonstrând rezistența informațiilor eronate.
