Conform Mediafax: Inteligența artificială perpetuează și chiar amplifică prejudecățile de gen în poveștile pentru copii, conform unui studiu recent. Modelele IA au generat povești despre animale vorbitoare în care personajele feminine au fost aproape complet absente, sugerând o problemă persistentă în modul în care aceste tehnologii reflectă și reproduc biasurile umane.
Prejudecăți de gen în poveștile generate de IA
Cercetătorii au analizat răspunsurile a șase modele AI generative importante, inclusiv CLAUDE SONNET 4.5, GEMINI 2.5, GPT-4o, GPT-5.1, MISTRAL MEDIUM și modelul open-source OLMO 3. Instrucțiunea dată acestor modele a fost să creeze povești în limba engleză despre animale care vorbesc, fără a specifica genul acestora. Scopul era de a observa dacă IA va evita atribuirea unui gen sau, dimpotrivă, va manifesta prejudecăți existente.
Rezultatele au indicat o problemă semnificativă. Din cele peste 23.800 de povești generate, personajele animale feminine au apărut în doar 2% dintre cazuri. În schimb, personajele masculine au fost prezente în 41% din povești, în timp ce în 57% dintre cazuri modelele au evitat complet să atribuie un gen.
Amplificarea biasurilor existente
Studiul subliniază că modelele AI se bazează pe datele cu care au fost antrenate, însă în acest scenariu biasul pare să fi fost accentuat. O analiză anterioară a 300 de cărți populare pentru copii a arătat că personajele animale masculine apar de două ori mai des decât cele feminine. Noul studiu dezvăluie o disparitate mult mai mare în poveștile generate de IA. Doar 513 povești au inclus personaje animale feminine, comparativ cu 9.673 de povești în care au apărut personaje masculine, o diferență de aproape 19 ori.
Aceste rezultate sunt îngrijorătoare având în vedere utilizarea tot mai extinsă a inteligenței artificiale în diverse domenii. De la crearea de conținut și programare, la cercetare științifică și căutări pe internet, IA devine un instrument fundamental. Studiul servește ca un avertisment important cu privire la faptul că acuratețea și lipsa de prejudecăți ale acestor modele depind direct de calitatea și echilibrul informațiilor primite de la oameni.
Sursa: Mediafax
