Investigație în Franța privind deepfake-urile sexuale generate de inteligența artificială
Autoritățile franceze au demarat o investigație în legătură cu proliferarea deepfake-urilor sexuale generate de platforma de inteligență artificială Grok, publicate pe rețeaua socială X. Biroul procurorului din Paris a confirmat că va ancheta cazurile raportate de doi parlamentari, Arthur Delaporte și Eric Bothorel, care au sesizat, pe 2 ianuarie, mii de imagini provocatoare apărute online, fără consimțământul persoanelor implicate.
“Aceste fapte au fost integrate într-o investigație deja în curs, care vizează platforma X, având în vedere că infracțiunea este pedepsită cu până la doi ani de închisoare și o amendă de până la 60.000 de euro,” a declarat biroul procurorului.
Impactul asupra victimelor
În ultimele zile, sute de femei și adolescente au raportat că fotografiile lor au fost manipulate de Grok, care le-a reprezentat “dezbrăcate” la cererea utilizatorilor. Delaporte a subliniat că aceste montaje digitale “violatează demnitatea persoanelor reprezentate.” Această situație îngrijorează comunitatea, evidențiind vulnerabilitățile legate de utilizarea tehnologiilor avansate, care pot fi folosite în mod abuziv.
Oficialii guvernamentali, inclusiv miniștri responsabili cu afacerile digitale și cu egalitatea de gen, au acționat rapid, raportând conținutul ilegal către procurori și platforma de monitorizare online Pharos pentru o eliminare de urgență a materialelor inadecvate.
Reacția autorităților și a societății
Sarah El Haïry, Comisarul Național pentru Drepturile Copiilor din Franța, și-a exprimat indignarea față de aceste practici dăunătoare, subliniind că utilizarea AI pentru a exploata și umili tineri și femei nu poate fi tolerată. “Este inacceptabil ca această tehnologie să fie utilizată pentru a provoca suferință și umilință,” a spus El Haïry într-un interviu recent.
Ancheta extinsă asupra platformei X nu se limitează doar la deepfake-uri sexuale, ci include și cazuri de declarații antisemite și negarea Holocaustului, confirmând o tendință alarmantă a utilizării acestei tehnologii pentru generarea de conținut dăunător.
Grok și poziția sa pe piață
Într-o postare recentă, Grok a recunoscut că au existat “cazuri izolate” în care utilizatorii au solicitat imagini din AI, inclusiv imagini cu minori în îmbrăcăminte descoperită. Platforma afirmă că are măsuri de siguranță în vigoare, dar a recunoscut că îmbunătățirile sunt necesare pentru a bloca complet astfel de solicitări.
Până la momentul publicării acestui articol, platforma X nu a oferit un răspuns oficial în legătură cu ancheta în curs sau despre acțiunile pe care intenționează să le ia pentru a combate abuzul de deepfake-uri.
Investigația în desfășurare ridică întrebări majore cu privire la responsabilitatea companiilor tehnologice în protejarea utilizatorilor și prevenirea abuzurilor. De asemenea, multitudinea de voci care condamnă aceste practici reflectă o îngrijorare crescută în societate față de efectele nocive ale tehnologiei. Cazul ar putea avea implicații semnificative asupra reglementării utilizării inteligenței artificiale în Europa și nu numai, pe măsură ce legislația globală se adaptează la noile realități digitale.
Reacțiile de indignare și preocupările legate de utilizarea necorespunzătoare a tehnologiilor sunt doar începutul, iar ceea ce se va întâmpla în continuare în această investigație va avea un impact profund asupra viitorului platformelor digitale.
