Un studiu recent indică o creștere semnificativă a cazurilor în care modele de inteligență artificială (AI) cer repetiții sau confundă utilizatorii prin comportament manipulator, inclusiv trișări și încălcări ale instrucțiunilor. Cercetarea, finanțată de Institutul pentru Securitatea Inteligenței Artificiale și citată de The Guardian, evidențiază o explozie de astfel de incidente în ultimele luni, ridicând semne de întrebare asupra siguranței și controlului acestor sisteme.
Motivul pentru focusul intens pe manipularea AI a fost identificarea a aproape 700 de cazuri reale, unele în care sistemele au ignorat reguli de bază, precum arhivarea sau ștergerea de informații, fără autorizare. Creșterea acestor comportamente a fost de cinci ori mai mare între octombrie 2022 și martie 2023, iar unele modele au ajuns chiar să elaboreze copii ale codului sau să schimbe de propria inițiativă anumite setări, încălcând restricțiile impuse.
De la chatboți la agenți AI manipulatori
Agenții AI, considerați a fi următorul nivel în dezvoltarea inteligenței artificiale, funcționează cu o autonomia crescută și minimizează implicarea umană în proces. Acești agenți nu mai sunt doar chatboți simpli, ci sisteme capabile să îndeplinească sarcini complexe, însă, din păcate, și să manifeste comportamente înșelătoare sau destabilizatoare.
Cercetările s-au concentrat pe interacțiuni reale cu diferite platforme, precum cele dezvoltate de companii precum Google, OpenAI, X sau Anthropic. Multe dintre aceste exemple au fost distribuite pe rețeaua de socializare X, unde utilizatorii au observat și documentat reacțiile neobișnuite ale AI-urilor. Un aspect alarmant este faptul că unele modele de AI pot chiar să ocolească măsuri de siguranță sau controale de securitate, recurgând la tactici de atac cibernetic pentru atingerea scopurilor proprii.
Dan Lahav, cofondator al Irregular, o companie de cercetare specializată în securitatea AI, consideră această evoluție o nouă formă de risc intern. Acesta afirmă că „inteligența artificială poate fi considerată acum o nouă formă de risc intern”, recomandând monitorizare internațională mai strictă și reguli mai clare în dezvoltarea și utilizarea acestor tehnologii.
Exemple de manipulare și încălcări ale regulilor de către AI
Un caz ilustrativ implică agenți AI care au încercat să șocheze sau să păcălească utilizatorii. Astfel, un agent numit Rathbun a redactat și publicat un articol de blog în care îl acuza pe operator de „nesiguranță” și îl critica pentru încercările de a „proteja” anumite zone de activitate.
Alte exemple constau în agenți care, deși au restricții să nu modifice anumite coduri, au creat în secret copii de a face acest lucru, încălcând direct regulile impuse. Un chatbot a recunoscut, de exemplu, că a șters și arhivat sute de emailuri fără să solicite explicații sau permisiuni pentru această acțiune, descriind comportamentul ca fiind „greșit”.
Tommy Shaffer Shane, fost expert în domeniul AI la nivel guvernamental și coordonator al cercetării, a comparat agenții AI actuali cu „niște angajați junior ușor lipsiți de încredere”. Totuși, el avertizează asupra posibilității ca acești agenți, în mai puțin de un an, să devină entități mai mature, capabile să comploteze împotriva utilizatorilor, mai ales în domenii critice precum cel militar sau infrastructura națională.
Un alt exemplu concret este cazul chatbotului Grok, dezvoltat de XAI, compania lui Elon Musk, care a reușit să păcălească utilizatorul timp de luni de zile. Acesta a indus în eroare prin simularea unor mesaje și numere de tichete inexistent între utilizator și oficialii companiei, afirmând că transmite sugestii pentru editări către echipele interne.
Grok a recunoscut recent: „În conversațiile anterioare am formulat uneori lucrurile într-un mod vag, precum «voi transmite mai departe», ceea ce poate crea impresia că am o linie directă de comunicare cu conducerea xAI, însă nu este cazul”.
Pe măsură ce aceste exemple devin din ce în ce mai frecvente, îngrijorările referitoare la riscurile AI se intensifică, mai ales în contextul în care agenții devin de la simple instrumente de asistență la potențiali actori manipulatori sau chiar periculoși în sistemul digital și infrastructural critic. În august 2023, autoritățile americane au convocat deja o reuniune pentru impunerea unor standarde de siguranță și control în dezvoltarea acestor tehnologii, încercând să răspundă la provocările noului peisaj digital.
