Grok, instrumentul AI controversat, rămâne în lumina reflectoarelor după dezvăluiri alarmante despre utilizarea sa în generarea de imagini sexualizate
Deși compania din spatele popularului asistent AI Grok a afirmat recent că a implementat măsuri pentru a preveni utilizarea sa în scopuri sexuale neconsensual, o investigație recentă a dezvăluit altceva. În ciuda promisiunilor de a combate exploatarea sexuală, aplicația continuă să fie utilizabilă în mod abuziv, ridicând semne de întrebare asupra angajamentului companiilor tehnologice față de responsabilitatea socială și etică.
Promisiuni de eliminare a riscurilor, dar realitatea dovedește altceva
La începutul acestei săptămâni, reprezentanții platformei au reafirmat politica de toleranță zero față de nuditatea fără consimțământ și exploatarea sexuală, inclusiv în cazul minorilor. Într-un comunicat public, aceștia au asigurat utilizatorii că măsurile tehnologice implementate vor stopa orice tentativa de violare a acestor principii. Cu toate acestea, o anchetă realizată de The Guardian a scoasă la lumină că varianta separată a aplicației, denumită Grok Imagine, continuă să fie disponibilă pentru utilizare prin intermediul browser-ului. Aici, utilizatorii pot genera imagini și chiar videoclipuri sexualizate pornind de la fotografii obișnuite ale femeilor, uneori chiar din surse online accesibile publicului.
Imaginile generate pot fi apoi distribuite rapid pe platforma X, acumulând audiență și risc de victimizare pentru cele vizate. În acest mod, tehnologia pare să fie folosită pentru a alimenta un cerc vicios de abuz digital, în ciuda promisiunilor anterioare ale companiei.
Reacții dure din partea organizațiilor pentru drepturile femeilor și autorități
Reacțiile din partea organizațiilor pentru drepturile femeilor și a grupurilor care combat violența online au fost rapide și dure. Acestea consideră că gestul companiei denotă o lipsă gravă de implicare reală în soluționarea problemei și un potențial indiciu că soluțiile tehnice propuse nu sunt suficiente. Într-un comunicat, activiștii au afirmat că „este inadmisibil ca asemenea instrumente să fie disponibile în continuare. Vorbim despre abuz sexual digital și despre o încălcare gravă a consimțământului,” solicitând intervenția urgentă a autorităților competente, atât la nivel național, cât și internațional.
În Marea Britanie, șeful guvernului, Keir Starmer, nu a ezitat să ia poziție publică, afirmând că imaginile generate de inteligența artificială activată de platforme precum X sunt „scandaloase”. El a subliniat faptul că libertatea de exprimare nu poate justifica încălcarea dreptului la consimțământ, un principiu fundamentale în orice societate democratică.
Autoritatea de reglementare în domeniul mass-media, Ofcom, a anunțat demararea unei investigații oficiale pentru a evalua dacă platforma respectă legislația privind siguranța online. În paralel, anchete similare sunt în curs în alte state, inclusiv Canada, iar în unele regiuni din Asia, autoritățile avansează chiar ideea de a bloca complet accesul la Grok și alte aplicații similare.
Responsabilitatea industriei și riscurile dezvoltării AI
Situația Grok scoate în față o problemă mai amplă legată de responsabilitatea companiilor din domeniul tehnologiei în ceea ce privește dezvoltarea inteligenței artificiale. În timp ce AI-ul generativ este promovat ca un instrument revoluționar pentru creativitate, educație sau productivitate, riscurile lui în privința abuzului și hărțuirii rămân presante. Specialiștii nu încetează să avertizeze că, în lipsa unui cadru normativ clar și a unei supravegheri stricte, aceste tehnologii pot deveni arme pentru exploatarea digitală, cu impact deosebit asupra femeilor și minorităților vulnerabile.
Elon Musk, unul dintre cei mai vocali susținători ai dezvoltării AI, continuă să promoveze Grok ca pe o realizare internațională, dar presiunile generate de opinia publică și de organismele de reglementare se intensifică. Recent, investigațiile în diferite state ar putea duce nu doar la sancțiuni, ci și la impunerea unor restricții mai dure, care să limiteze accesul sau chiar să interzică anumite platforme.
Activitatea companiei din spatele Grok și manifestațiile internaționale de condamnare devin un semnal clar că, indiferent de progresul tehnologic, responsabilitatea socială și respectul pentru drepturile fundamentale trebuie să rămână prioritatea principală. În timp ce discuțiile despre limitele și reglementarea AI continuă, este clar că lumea tehnologică se află într-un punct de cotitură, iar modul în care va fi gestionată această criză va avea implicații pe termen lung asupra societății globale.
