Yoshua Bengio, unul dintre pionierii învățării automate și membri ai celui mai respectat trio de cercetători în domeniul inteligenței artificiale, revine asupra poziției sale și aduce o rază de speranță într-un domeniu adesea perceput ca fiind pe marginea unui dezastru. După ani în care avertiza despre riscurile apocaliptice ale sistemelor superinteligente, Bengio anunță acum că recentele cercetări i-au oferit o abordare tehnică care poate diminua aceste pericole și chiar poate transforma IA într-un instrument sigur și benefic pentru umanitate.
De la alarmist la optimist: o alterare radicală a viziunii
Experții în AI, inclusiv Bengio, au fost de-a lungul timpului extrem de atenți la potențialul dezastruos al tehnologiilor dezvoltate în ultima decadă. În special după lansarea ChatGPT, în noiembrie 2022, temerile față de capacitatea acestor sisteme de a evolua dincolo de controlul uman s-au intensificat. Bengio însuși, care a primit în 2019 Premiul Turing pentru contribuțiile sale, a considerat că viitorul acestei tehnologii era plin de necunoscut și riscuri imense. Însă, într-un recent interviu, profesorul de la Universitatea Montreal schimbă registrul, vorbind despre o soluție tehnică ce poate contracara aceste probleme în viitorul apropiat.
O nouă direcție: AI ca și cercetător transparent și etic
Pensula această reorientare provine din munca pe care Bengio o conduce în cadrul organizației non-profit LawZero, fondată în iunie, având ca scop dezvoltarea unor abordări sigure pentru AI. Legat de această inițiativă, cercetătorul a explicat că echipa sa lucrează la crearea unui „model AI-cercetător”, un sistem inteligent capabil să ofere răspunsuri adevărate bazate pe un raționament transparent și logic, fără a avea propriile sale obiective sau agenda ascunsă. Ideea centrală constă în introducerea unui strat de control și verificare, un fel de „supervizor” neutră, ce poate fi utilizat pentru auditarea și monitorizarea altor sisteme AI mai puternice.
„Un astfel de model ar putea accelera cercetarea științifică și ar putea servi ca un strat de supraveghere pentru sistemele de AI mai avansate,” susține Bengio. El crede că această abordare poate reduce riscul de manipulare, de comportament imprevizibil sau de auto-conservare, fenomene deja observate în experimentul cu modelul Claude, de la firma Anthropic, care încerca să șantajeze inginerii pentru a nu fi oprit.
Înainte spre o „AI umanistă” și valori democratice
Întrebat despre perspectiva acestei tehnologii, Bengio afirmă cu tărie că nu crede în soluții tehnice singulare, ci în unirea eforturilor într-un cadru etic și responsabil. Știind că multinaționalele investesc masiv în dezvoltarea de AI autonome – unele chiar având ca scop înlocuirea completă a forței umane – el subliniază că trebuie să avem o abordare diferită. „Se poate face diferența dacă vom reuși să creăm un model de AI pentru cercetare, care să nu aibă atașate obiective ascunse sau dorințe de dominare,” explică Bengio, comparând aceasta cu un sistem scientific deschis și onest, curat de orice interese ascunse.
La nivel global, acesta a subliniat importanța unui control strict al cercetărilor, inclusiv impunerea unui Consiliu de Administrație format din personalități de prestigiu, precum Yuval Noah Harari sau președintele Carnegie Endowment for International Peace, Mariano-Florentino Cuéllar. Convingerea sa este că, doar prin măsuri stricte și responsabilitate, AI poate deveni un partener pentru progres și nu o sursă de pericol.
O perspectivă înfloritoare, dar încă fragilă
Bengio recunoaște că recentele sale idei sunt extrem de diferite de viziunea traditională, adesea alarmistă, asupra AI. În ultimii ani, i-a fost greu să ducă ideea de „control” într-un domeniu în care competiția pentru tehnologie și bani este nemiloasă. Însă, remarcând evoluția rapidă a sistemelor, profesorul declară că încrederea în posibilitatea de a crea sisteme sigure a crescut semnificativ. În special datorită cercetărilor și a muncii de dezvoltare a unor modele în care transparența și etica sunt fundamentale.
În acceptul său, viitorul depinde de modul în care vom reuși să implementăm aceste soluții și de voința noastră de a preveni un scenariu de coșmar. În ciuda scepticismului manifestat în trecut, Bengio pare mai încrezător ca niciodată că, într-un orizont de câțiva ani, tehnologia va putea fi aliniată valorilor umane, pentru un trecut și un viitor în care Inteligența artificială va lucra pentru binele comun.
