Conform Economistul.ro: AI Office primește noi puteri: verificarea modelelor de inteligență artificială devine obligatorie
Comisia Europeană, prin intermediul AI Office, poate aplica de la 2 august 2026 obligații specifice furnizorilor de modele de inteligență artificială de uz general (GPAI). Aceste noi competențe includ posibilitatea de a solicita informații detaliate, de a efectua evaluări ale modelelor și de a impune măsuri pentru reducerea riscurilor identificate. Anunțul vine în contextul preocupărilor legate de manipularea informației prin intermediul roboților, conturilor false și conținutului generat artificial.
Consolidarea supravegherii modelelor GPAI
Obligațiile pentru furnizorii de modele GPAI au intrat în vigoare încă de la 2 august 2025, dar perioada inițială a fost dedicată implementării și colaborării. Din 2 august 2026, însă, Comisia dispune de instrumentele necesare pentru a supraveghea și a interveni activ. AI Office va putea solicita documentație tehnică, informații relevante pentru dezvoltatori și detalii privind conținutul utilizat în antrenarea modelelor, inclusiv respectarea drepturilor de autor. Pentru modelele considerate cu risc sistemic, furnizorii vor trebui să implementeze evaluări de risc, să raporteze incidentele grave și să asigure securitatea cibernetică adecvată.
Garanții sporite pentru transparența online
Pe lângă supravegherea modelelor GPAI, de la aceeași dată s-au aplicat și noi reguli de transparență pentru diverse sisteme de inteligență artificială. Aceste norme vizează asigurarea faptului că utilizatorii pot distinge interacțiunile cu sisteme AI sau conținutul generat artificial. Furnizorii de sisteme AI generative vor trebui să folosească marcaje specifice pentru conținutul manipulat, iar profesioniștii care utilizează astfel de sisteme vor fi obligați să informeze publicul atunci când acesta este expus la deepfake-uri sau texte generate artificial pe subiecte de interes public.
Comisia subliniază că aceste noi măsuri vin ca răspuns la întrebările privind posibila manipulare a alegerilor sau a consultărilor publice prin intermediul inteligenței artificiale. Deși aceste instrumente pot reduce riscurile de inducere în eroare prin sporirea transparenței, Comisia nu a susținut că pot elimina complet asemenea amenințări. Riscurile legate de campanii de influență sau dezinformare pot fi, de asemenea, abordate prin alte reglementări europene și naționale.
AI Act, intrat în vigoare în 2024, implementează aceste reguli în mod progresiv. Pe lângă competențele AI Office privind modelele GPAI, responsabilitatea pentru supravegherea regulilor de transparență revine în principal autorităților naționale de supraveghere a pieței. Acest demers reprezintă o etapă crucială în aplicarea legii, permițând Comisiei să investigheze și să sancționeze furnizorii care nu respectă obligațiile impuse de noua legislație privind inteligența artificială.
Sursa: Economistul.ro
