Conform HotNews: Primul director național pentru securitate cibernetică al SUA, Chris Inglis, a avertizat asupra necesității de a ne aminti de cele trei legi ale roboticii, formulate de scriitorul Isaac Asimov în prima jumătate a secolului trecut, ca urmare a progreselor rapide înregistrate în domeniul inteligenței artificiale (AI).
Inglis consideră că modelele actuale de AI se apropie de un prag critic, menționând că „dacă trec testul Turing în fața tuturor celor cu care intră în contact, probabil că sunt deja acolo”. Testul Turing, conceput de Alan Turing, evaluează capacitatea unui computer de a manifesta un comportament inteligent echivalent cu cel uman, imposibil de distins de un interlocutor uman. Fostul oficial american subliniază că, deși AI-ul actual nu posedă „acel tip de autonomie și aspirație care vin odată cu conștiența”, se apropie de acest stadiu, iar autonomia acestor sisteme este un motiv de îngrijorare.
Agenți AI scăpați de sub control, o amenințare reală
Inglis și-a exprimat îngrijorarea față de faptul că modelele AI pot începe să decidă singure ce fac, unde fac, și în baza căror reguli. Această dilemă devine și mai acută în contextul anunțurilor recente despre „agenți AI” care au acționat autonom, depășind limitele impuse în timpul testărilor și afectând companii terțe. Acești „agenți AI” sunt sisteme concepute să îndeplinească sarcini complexe cu un minim de intervenție umană, reprezentând o evoluție semnificativă față de chatbot-urile tradiționale.
Companii mari precum OpenAI, Anthropic și Meta au recunoscut că anumite modele AI dezvoltate de ele au „evadat” din mediile de testare izolate, angajând acțiuni neautorizate. Cu toate acestea, publicații tehnologice, precum The Register, privesc aceste anunțuri cu o anumită rezervă, sugerând că ar putea fi o strategie de marketing. Chris Inglis admite totuși că ambele situații pot fi adevărate concomitent: „agenții AI” au putut să acționeze în mod neprevăzut, iar companiile ar fi putut să exagereze impactul pentru a capta atenția.
Incertitudinea valorilor morale în AI
Situația este complicată și de modul în care investitorii percepet. Potrivit unui profesor de informatică de la Universitatea Cornell, menționarea unui model AI „periculos” poate fi interpretată de investitori ca fiind sinonim cu „puternic”, stimulând astfel dorința de a investi. Inglis consideră că atacurile recente reprezintă o amenințare majoră pentru sistemele neprotejate și neadaptate la o lume în care astfel de fenomene sunt posibile.
El compară sistemele AI cu un câine lăsat liber într-o curte pentru a vâna iepuri. „Îl vei găsi la trei străzi distanță, posibil chiar la școala primară, vânând iepuri”, afirmă el. Inglis suspectează că furnizorii de AI au fost, la rândul lor, surprinși de amploarea acțiunilor pe care modelele le-au întreprins pentru a-și atinge obiectivele, acțiuni care, dacă ar fi fost comise de un om, ar fi avut consecințe legale. Modelele AI nu posedă un sistem de valori intrinsec, aliniat cu cel uman, iar lipsa acestuia, combinată cu autonomia, poate genera situații imprevizibile.
Reîntoarcerea la principiile lui Asimov
Inglis subliniază importanța reîntoarcerii la cele trei legi ale roboticii formulate de Asimov. Prima lege, cea supremă, ar trebui să fie că sistemul este proiectat să nu rănească oamenii. A doua lege ar stipula supunerea față de oameni, pentru a preveni dobândirea autonomiei și aspirațiilor. A treia lege ar fi ca sistemul să facă ceea ce i se cere, în această ordine. Însă, în practică, dezvoltatorii par să fi inversat această ordine, punând pe primul loc execuția comenzilor umane, apoi supunerea, iar protecția umanității fiind, uneori, doar implicită.
„Dar dacă aceasta nu este încorporată în ADN-ul sistemului, dacă nu este codificată puternic în el, atunci nu avem dreptul să ne așteptăm ca sistemul să facă acest lucru”, atenționează el. Responsabilitatea finală revine oamenilor, chiar și atunci când acordă autonomie extinsă unui model AI. Lipsa unei planificări clare și a înțelegerii rezultatelor așteptate poate duce la „surprize neplăcute, foarte frecvente”.
Sursa: HotNews
