Coreea de Sud a intrat oficial în era reglementărilor pentru inteligența artificială, adoptând o lege extrem de strictă, despre care autoritățile spun că este „prima din lume” aplicată integral pe întreg teritoriul țării. De la începutul acestei săptămâni, companiile din domeniul tehnologic sunt obligate să adauge etichete speciale conținutului generat cu ajutorul AI, o măsură menită să răspundă atât temerilor legate de manipularea imaginii și de dezinformare, cât și nevoii de responsabilitate în dezvoltarea noilor tehnologii.
### O lege îndrăzneață, dar criticată pentru limitări
Legea, aprobată joi, introduce reguli stricte pentru modul în care este folosită și etichetată inteligența artificială în mediul digital. Printre prevederi, companiile trebuie să înscrie filigrane digitale invizibile în rezultatele generate automat, precum desene animate sau opere de artă digitală, în timp ce pentru materiale mai sensibile, cum ar fi deepfake-urile realiste, etichetarea trebuie să fie clar vizibilă.
Totodată, legea prevede reguli speciale pentru sistemele de AI considerate „cu impact ridicat”, cum sunt cele folosite în medicină, recrutare sau procesul de aprobare a împrumuturilor. Operatorii trebuie să efectueze evaluări ale riscurilor și să documenteze deciziile automatizate, pentru a oferi o mai mare transparență și responsabilitate. În cazul în care decizia finală este luată de o ființă umană, sistemul nu mai intră în categoria celor considerate ca având impact major.
Unul dintre cele mai semnificative aspecte ale legii vizează transparența modelelor de AI extrem de puternice, pentru care companiile vor trebui să întocmească rapoarte de siguranță. Cu toate acestea, oficialii guvernamentali recunosc că niciun model global actual nu îndeplinește încă aceste cerințe, ceea ce indică dificultatea de a reglementa rapid această tehnologie aflată într-un avans atât de dinamic.
### Provocări și critici: de la startup-uri la societatea civilă
În ciuda intenției de a crea un cadru legal solid, noile reguli au fost întâmpinate cu critici. Startup-urile tehnologice din Coreea de Sud, un sector tot mai vizibil pe scena mondială, consideră că prevederile merg prea departe, riscând să încetinească inovația și să împiedice dezvoltarea unor soluții AI competitive.
Pe de altă parte, organizațiile societății civile, reprezentând preocupări legate de drepturile și protecția cetățenilor, susțin că legislația oferă o protecție limitată persoanelor prejudiciate de sistemele automatizate. Într-un context în care Deepfake-urile și alte forme de conținut fals uneori devin arme de manipulare, aceste grupuri cer măsuri mult mai stricte pentru protejarea victimelor.
### Contextul global și cazul coreean: o realitate tulburătoare
Coreea de Sud reprezintă 53% din totalul victimelor pornografiei deepfake la nivel mondial, conform unui raport din 2023. În ultimii doi ani, investigațiile au scos la iveală rețele masive de chatroom-uri pe Telegram, în care se crea și distribuia conținut ilegal de natură sexuală, generat artificial folosind AI, în special implicând imagini ale femeilor și fetițelor. Aceste scandaluri au precumpănit discuțiile publice și au alimentat presiunea pentru reglementări mai drastice.
Totodată, la originea legii actuale se află un proces legislativ început încă din 2020, însă care a întâmpinat mai multe obstacole, fiind acuzată de prioritate exagerată pentru interesele industriei și de insuficientă protecție pentru cetățeni. În timp ce legislația se dorește a fi un pas major în direcția responsabilizării industriei AI, criticii avertizează că măsurile actuale pot fi încă insuficiente pentru a combate riscurile reale și tot mai persistente generate de tehnologia digitală avansată.
În prezent, lumea privesc cu un amestec de admirație și îngrijorare evoluțiile din domeniul inteligenței artificiale. În timp ce Coreea de Sud încearcă să stabilească un precedent cu această legislație, rămâne de văzut dacă măsurile implementate vor reuși să țină pasul cu provocările și riscurile generate de o tehnologie aflată într-un ritm de dezvoltare exponențial. Cu toate incertitudinile legate de eficiența și aplicabilitatea acestor reguli, viitorul reglementării AI pare a fi în prim-planul discuției mondiale despre responsabilitate și etică în tehnologie.
