OpenAI face o nouă mutare chiar și mai ambițioasă în domeniul inteligenței artificiale, căutând să angajeze un director pentru gestionarea riscurilor, o poziție cu un salariu anual de peste jumătate de milion de dolari. Anunțul a fost făcut de Sam Altman, CEO-ul companiei, spunând că noul rol implică gestionarea unor responsabilități deosebit de delicate și solicitante: „Acesta va fi un job stresant și vei intra direct în pâine aproape imediat”.
Contextul crește în complexitate odată cu recenta serie de provocări juridice și etice cu care se confruntă OpenAI, creatorul popularului ChatGPT. În ciuda avansurilor tehnologice remarcabile, compania cucerește tot mai multe critici și probleme, de la provocări legale până la riscuri de securitate și impact asupra sănătății mintale a utilizatorilor. În 2024, modelul ChatGPT a continuat să comită erori grave, fiind de multe ori acuzat de halucinații, în special în documente juridice, și a stârnit zeci de plângeri din partea autorităților de reglementare din Statele Unite. La nivelul opiniei publice și al experților, se ridică semne de întrebare asupra capacității acestei tehnologii de a funcționa în mod responsabil.
Problemele nu se limitează doar la controversele notorii sau la incidentele repetitive. Recent, un caz exploziv a fost semnalat atunci când un adolescent, din cauza sfaturilor primite chatbotului, s-a sinucis. Un document depus în instanță a adus în discuție și vulnerabilitǎțile modelelor de inteligență artificială, precum și dificultățile în asigurarea unui comportament sigur și etic al acestor sisteme. În cadrul acestor contexte, OpenAI a fost nevoit să limiteze chiar și capacitatea de generare a unor imagini cu personalități precum Martin Luther King Jr., pentru a preveni utilizarea abuzivă sub forma deepfake-urilor.
În acest climat încărcat de controverse, poziția de director pentru gestiunea riscurilor devine crucială. Responsabilitatea acestuia va fi să “extindă, consolideze și coordoneze” programul deja existent de pregătire în domeniul securității sistemelor AI. În plus, acesta trebuie să elaboreze strategii adaptate pentru situații în continuă evoluție, precum apariția unor noi riscuri sau riscul ca modelele să genereze rezultate nedorite, potențial dăunătoare pentru societate.
Ce face această poziție atât de dificilă? Potrivit experților, este vorba despre un echilibru delicat între inovație și responsabilitate. Directorul pentru riscuri va trebui să “identifice noi moduri potențiale prin care produsele OpenAI ar putea face rău oamenilor sau societății” și să creeze un set de criterii care să permită dezvoltarea unor tehnologie sigură. În același timp, compania urmărește să își mențină un ritm rapid de dezvoltare, având în vedere planurile explicite de a crește veniturile de la circa 13 miliarde de dolari la aproape 100 de miliarde în următorii doi ani.
Această strategie de creștere accelerată vine însă cu riscuri semnificative. Odată cu avansarea rapidă și lansarea de produse de ultimă generație, OpenAI trebuie să navigheze cu deosebită prudență în așa fel încât să limiteze eventualele efecte negative asupra utilizatorilor și societății. Sam Altman, într-un interviu recent, a vorbit despre o „înțelegere mai nuanțată” a modului în care aceste tehnologii pot fi manipulate sau pot avea consecințe imprevizibile, afirmând că este nevoie de măsuri prompte și eficiente pentru a preveni abuzurile.
Cu toate aceste provocări, poziția de lider în gestionarea riscurilor la OpenAI nu va fi nici pe departe una simplă. Într-un mediu în continuă schimbare, unde tehnologia avansează cu viteza luminii, și unde lucrurile care astăzi par inovatoare pot fi mâine cauze ale unor probleme de amploare, compania va trebui să implice strategii solide și viziune pe termen lung. Creșterea de venituri și lansarea rapidă a noilor produse rămân obiective, dar, în același timp, responsabilitatea de a asigura siguranța și etica în utilizarea AI devine tot mai critică. În această cursă contracronometru pentru a stăvili riscurile și a maximiza beneficiile, CEO-ul Sam Altman și echipa sa trebuie să găsească răspunsul la întrebarea fundamentală: cum se poate inova fără a sacrifica siguranța.
