Conform Mediafax: ONU lansează un avertisment grav privind riscurile inteligenței artificiale, solicitând reglementări urgente înainte ca tehnologia să devină scăpată de sub control. Înaltul Comisar al Națiunilor Unite pentru Drepturile Omului, Volker Turk, a subliniat luni, la Geneva, că sistemele de inteligență artificială tot mai autonome, capabile să depășească capacitatea umană de control, reprezintă un pericol real. Declarațiile sale au marcat deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului, unde a pledat pentru instituirea rapidă a unui cadru de guvernanță pentru IA.
Linii roșii pentru o inteligență artificială responsabilă
Volker Turk a avertizat că „o inteligență artificială care evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligență artificială mult prea puternică”. Prin urmare, oficialul ONU a cerut stabilirea unor „garanții solide privind siguranța și securitatea IA, înainte să fie prea târziu”. El a propus ca toate statele care găzduiesc infrastructura de inteligență artificială și cele implicate în lanțurile de aprovizionare să convină asupra unor „linii roșii comune” privind dezvoltarea și utilizarea acestei tehnologii. De asemenea, a subliniat necesitatea verificării independente a sistemelor IA și a unei cooperări sporite între companiile din domeniu pentru a asigura siguranța. În acest sens, Turk a anunțat intenția de a trimite o scrisoare companiilor din sector, îndemnându-le să ia măsuri pentru reducerea riscurilor.
Autonomia IA: provocări pentru supraveghere și control
Modelele generative actuale demonstrează deja o capacitate sporită de a executa sarcini complexe și de a lua decizii fără intervenție umană constantă. Anumite sisteme pot identifica singure pașii necesari pentru atingerea unui scop, depășind simpla execuție a unor instrucțiuni succesive. Această autonomie crescândă ridică întrebări importante legate de modul în care comportamentul lor poate fi eficient supravegheat și limitat.
Impactul IA asupra societății: locuri de muncă și democrație
Riscurile asociate inteligenței artificiale nu se limitează însă la aspectul autonomiei, ci se extind și la efectele asupra vieții cotidiene. ONU, prin vocea lui Volker Turk, a solicitat evaluarea atentă a impactului IA asupra pieței muncii, a democrației și a mediului, precum și asupra drepturilor fundamentale. Comisarul a criticat concentrarea puterii tehnologice în mâinile unui număr redus de entități, accentuând că dezvoltarea IA trebuie să fie însoțită de reguli clare menite să protejeze drepturile oamenilor. Oficialul ONU a menționat ca exemple pozitive măsurile adoptate de Uniunea Europeană și Coreea de Sud. În UE, Digital Services Act (DSA) impune marilor platforme online să evalueze și să diminueze riscurile generate de serviciile și algoritmii lor, să respecte cerințe de transparență și să acționeze împotriva conținutului ilegal, sub sancțiunea unor amenzi considerabile. Coreea de Sud a implementat, la rândul său, reglementări specifice pentru inteligența artificială, inclusiv obligația de a informa utilizatorii despre interacțiunea cu sistemele IA și cerințe de transparență pentru conținutul generat artificial. Totuși, Turk a avertizat că recunoașterea necesității unor astfel de reglementări nu s-a transpus încă suficient în acțiuni concrete. „Împărtășesc îngrijorările unor actori din sector potrivit cărora IA avansată ar putea reprezenta un risc existențial pentru umanitate”, a declarat Volker Turk.
Sursa: Mediafax
