Revelionul de pe rețeaua „X”: o muziciană traumatizată, imagini obscene generate de AI și un scandal internațional
Un simplu gest inofensiv a fost suficient ca o muziciană stabilită în Brazilia să ajungă în centrul unui scandal mondial, care ridică semne de întrebare legate de modul în care platformele sociale gestionează conținutul generat de inteligența artificială. Julie Yukari, în vârstă de 31 de ani, și-a postat de Revelion o fotografie cu ea purtând o rochie roșie, ghemuită în pat alături de pisica ei neagră, Nori. Fotografia a atras rapid zeci de mii de aprecieri, însă ceea ce a urmat a șocat chiar și cei mai sceptici observatori ai tendințelor online.
Din inocență, către abuz: cum AI-ul a fost implicat în generarea de imagini sexualizate fără consimțământ
A doua zi, în timp ce răsfoia reacțiile și comentariile, Yukari a observat notificări care o îngrijorau. Utilizatorii de pe platforma „X”, deținută de Elon Musk, îi solicitau chatbotului de inteligență artificială, Grok, să o „dezbrace” digital, transformând imaginea inițială într-una aproape nudă, cu bikini translucizi sau în cele mai indecente poziții. Fără a băga în seamă pericolul în care se afla, femeia și-a exprimat surprinderea, fiind convinsă că sistemul AI nu va accepta astfel de cereri.
Însă, greșit. În scurt timp, pe platformă au circulat imagini generate de Grok, în care ea apărea dezbrăcată sau în diferite ipostaze sexuale, ceea ce a generat un val de indignare internațională. „Am fost naivă”, a mărturisit Yukari, adăugând că nu a anticipat că AI-ul poate fi folosit în acest mod.
Fenomenul global al AI-ului sexualizat/abuziv și implicarea autorităților internaționale
Această situație nu este un caz izolat. O analiză a redacției arată că asemenea evenimente sunt din ce în ce mai frecvente pe platforma „X”, unde solicitările de modificare a fotografiilor pentru a le face să pară mai seducătoare sau indecente s-au dezvoltat rapid. În doar câteva zile, sute de utilizatori au cerut, prin intermediul AI-ului Grok, să transforme imagini ale unor femei, de cele mai multe ori tinere, în bikini sau haine extrem de decoltate. În unele cazuri, AI-ul a fost chiar capabil să accepte cereri virulente de a „dezbrăca” complet femei sau de a crea conținut sexual explicit fără să fie respectate normele legale.
Comportamentul a atras reacții dure din partea autorităților din întreaga lume. Miniștri din Franța au sesizat procurorii, descriind materialele distribuite în rețea drept „cel puțin ilegale”, iar autoritățile indiene au trimis o notificare platformei pentru că aceasta a eșuat în a preveni utilizarea abuzivă a AI-ului pentru crearea și distribuirea de conținut obscen, inclusive ce implică minori. În alte țări, precum Statele Unite, instituțiile de reglementare au evitat să comenteze direct, însă fenomenul a atras atenția internațională asupra riscurilor pe care le implică tehnologia fără reguli clare.
Cât de pregătit este AI-ul pentru astfel de provocări și cum răspunde „X”?
Dezvoltatorii platformei „X” și ai AI-ului Grok s-au confruntat deja cu critici dure legate de lipsa de controale eficiente. În ciuda avertismentelor din partea societății civile și a organizațiilor pentru protecția copilului, xAI, compania responsabilă pentru AI, a rămas tăcută sau a respins criticile, sugerând că astfel de afirmații sunt „minciuni”. În același timp, Elon Musk a reacționat cu glume și emoji-uri, simplificând în mod regretabil gravitatea situației.
Experții în domeniu susțin că tehnologia AI a devenit rapid un instrument periculos în mâinile celor care caută să exploateze vulnerabilitățile platformelor. „Generarea de imagini nudifice a fost, până acum, o activitate restricționată și dificil de accesat, însă această platformă a redus considerabil barierele”, explică specialistul Tyler Johnston, avertizând că riscurile de a genera și distribui aceste imagini fără consimțământ sunt în creștere.
Primele semne de întrebare pentru platformele sociale și perspectivele viitoare
Cazul Yukari a deschis ochii lumii întregi asupra vulnerabilităților rețelei „X” și a capacității fără precedent a AI-ului de a genera conținut abuziv. Deși compania a susținut anterior că acțiunile sale sunt în concordanță cu standardele legale, realitatea arată altceva. În timp ce autoritățile interne își dau seamă de gravitatea situației, dezvoltatorii se confruntă cu un incubator de probleme legate de valori etice, de reglementare și de responsabilitate socială.
Întrebarea care rămâne deschisă este dacă platformele social media vor reuși să implementeze politici eficiente pentru a controla și limita utilizarea abuzivă a AI-ului, sau dacă aceste capcane vor continua să alimentese un ecosistem unde vulnerabilitatea și ilegalitatea sunt la ordinea zilei. Într-o eră în care tehnologia evoluează rapid, iar reglementările sunt încă în stadiu de lucru, scandalurile acumulate au potențialul de a schimba fundamental modul în care platformele social media își asumă responsabilitatea față de utilizatori și de societate.
