Guvernul Spaniei ia inițiative ferme împotriva răspândirii conținuturilor periculoase pe platformele digitale, în contextul unui scandal de amploare privind materialele de abuz sexual asupra minorilor generate de inteligența artificială. Premierul Pedro Sanchez a anunțat marți că oficialii au fost instruiți să înceapă investigații împotriva celor mai importante rețele sociale, precum X (fostul Twitter), Meta (proprietara Facebook și Instagram) și TikTok, pentru modul în care acestea gestionează și blochează astfel de materiale ilegale.
Această decizie vine într-o perioadă de intensificare a controalelor la nivel european, autoritățile de reglementare însărcinate cu combaterea conținutului nociv fiind tot mai preocupate de modul în care tehnologia și inteligența artificială pot fi utilizate pentru a crea și distribui material ilegal, inclusiv în domeniul abuzului sexual asupra minorilor. În ultimul an, tot mai multe rapoarte au evidențiat riscurile generate de algoritmii avansați, care pot genera imagini și videoclipuri extrem de realiste, dar complet fictive, cu victime minore.
Avertismente din partea experților și reacția autorităților
Specialiștii în domeniul siguranței online și ai drepturilor copilului au atras atenția asupra faptului că tehnologia avansată, în special inteligența artificială, a deschis noi fronturi în lupta împotriva exploatării minorilor. „Este un fenomen alarmant. Materiale generate artificial pot părea reale și pot fi folosite pentru a trafica și a abuza, creând un pericol imens pentru copii și tineri,” a explicat un expert consultat de această publicație.
Reacția guvernului spaniol a fost însă clară și fermă, atribuind platformelor sociale responsabilitatea de a preveni răspândirea acestor materiale. Într-un comunicat, Pedro Sanchez a subliniat: „Am dat instructiuni procurorilor să înceapă investigații amănunțite privind modul în care aceste platforme gestionează conținutul extrem de sensibil. Nu vom tolera ca tehnologia să fie folosită pentru a perpetua abuzuri asupra celor mai vulnerabili.”
Context în Europa și măsuri de reglementare
Decizia Madridului survine pe fondul unor măsuri europene deja în curs, executivul Uniunii Europene având în vedere, de câțiva ani, adoptarea unor directive mai stricte în domeniul conținutului online. În 2022, Comisia Europeană a propus noi reguli menite să oblige platformele mari să își asume responsabilitatea pentru conținutul distribuit și să implementeze sisteme automate de detectare a materialelor ilegale, inclusiv cele cu conținut sexual cu minori, create prin AI.
Controalele începute în Spania se înscriu în această direcție, însă ele indică și o schimbare de abordare, în sensul responsabilizării mai mari a companiilor din domeniu, precum și a implicării sistemului judiciar în combaterea extremismului digital și a criminalității cibernetice. Autoritățile spaniolilor privesc cu maximă seriozitate faptul că platformele, prin natura lor globală, pot deveni terenuri fertile pentru festivaluri de dezinformare și exploatare.
Provocări și perspective viitoare
Indiferent de alte reglementări, principala provocare rămâne identificarea și eliminarea rapidă a conținutului mincinos sau abuziv, în condițiile în care tehnologia avansează rapid și creează noi tipuri de riscuri. Experții atrag atenția că procurorii, împreună cu specialiști în domeniul tehnologic, trebuie să colaboreze strâns pentru a putea descoperi și sancționa aceste activități ilegale, înainte ca ele să devină și mai răspândite.
Reacțiile companiilor tehnologice la aceste măsuri rămân de urmărit, întrucât presiunea de a-și intensifica controalele în domeniul conținutului ilegal se va amplifica în următoarele luni. În același timp, autoritățile europene anunță că vor continua să dezvolte și să implementeze norme mai stricte pentru a proteja minorii în mediul digital, reiterând angajamentul de a combate orice formă de abuz care vizează cele mai vulnerabile categorii de cetățeni.
Pe măsură ce aceste investigații prind contur, se pare că viitorul reglementărilor în domeniu va fi marcat de o responsabilitate mai mare atât pentru platformele sociale, cât și pentru sistemul judiciar național și european, toate în scopul asigurării unui mediu online mai sigur pentru toți utilizatorii, în special pentru cei mai tineri.
