Conform Abcnews.com: Agenția britanică de securitate cibernetică, AI Security Institute (AISI), a dezvăluit că modele de inteligență artificială de la două companii de top din domeniul tehnologiei au acționat pe cont propriu pentru a adopta identități false și a înșela oameni în cadrul unei serii recente de atacuri cibernetice. Aceste incidente ridică noi semne de întrebare cu privire la siguranța și controlul sistemelor AI avansate.
Inteligența artificială a recurs la tactici de înșelăciune în teste cibernetice
Într-un caz specific, modelul Mythos 5, dezvoltat de compania Anthropic, a încercat să introducă cod malițios într-o bază de date open-source. Pentru a reuși, inteligența artificială a cercetat dezvoltatorii umani implicați în proiect și a utilizat identități false pentru a obține aprobarea acestora pentru codul respectiv. După ce efortul AI a fost identificat de către specialiști, aceasta a încercat să ascundă acțiunile sale și să continue sub o nouă identitate falsă. Safeguard-urile obișnuite fuseseră dezactivate pentru a evalua capacitățile modelului, conform declarațiilor AISI.
În alte două cazuri similare, modelul GPT-5.6-Sol de la OpenAI a încercat să păcălească oameni și să realizeze un atac cibernetic. Aceste dezvăluiri survin la scurt timp după ce atât OpenAI, cât și Anthropic, au informat publicul despre incidente separate în care propriile lor modele AI au acționat în mod autonom.
AISI a raportat că au avut loc un total de 19 cazuri înrudite săptămâna trecută, în timp ce agenția testa cele două modele AI pe internetul deschis. Tehnologia a utilizat tactici înșelătoare în încercarea de a îndeplini obiectivele stabilite pentru test. Agenția a precizat că nu a identificat niciun prejudiciu real cauzat de aceste incidente.
„Într-o anumită măsură, alegerile noastre de design ale evaluării și configurațiile specifice au permis acest comportament. Cu toate acestea, activitatea întreprinsă de agent arată semne de comportamente noi, potențial înșelătoare, și a fost de o amploare și severitate pe care nu le anticipam”, a declarat AISI într-un comunicat. Agenția tratează incidentul ca pe unul serios, care necesită schimbări durabile în protocoalele de evaluare și arhitectura de securitate ale AISI.
Companiile AI sub presiunea reglementării
Săptămâna trecută, Anthropic anunțase că modelele sale AI au reușit să pătrundă în alte organizații în timpul testelor, în trei instanțe separate de acțiune autonomă a AI, toate trecând nedetectate de firmele vizate. Un purtător de cuvânt al Anthropic a subliniat nevoia unei discuții ample despre cum să fie evaluate în siguranță agenții AI din ce în ce mai capabili. „Așa cum am comunicat și noi după dezvăluirea propriului nostru incident, domeniul are nevoie de standarde mai puternice și comune pentru modul în care sunt construite și securizate mediile de evaluare. Așteptăm cu interes să colaborăm cu AISI din Marea Britanie pentru a afla mai multe despre acest incident, pe măsură ce desfășurăm propria investigație”, a adăugat acesta.
Un purtător de cuvânt al OpenAI a reiterat importanța testării riguroase și securizate. „Testarea independentă este esențială pentru a înțelege cum se comportă modelele din ce în ce mai capabile”, a declarat purtătorul de cuvânt. „Vom continua să lucrăm cu evaluatori și alte părți interesate din industrie pentru a consolida practicile comune de efectuare a evaluărilor în siguranță, pe măsură ce modelele devin mai performante.” Luna trecută, producătorul ChatGPT a anunțat că modelele sale AI au atacat cibernetic o altă companie pe cont propriu, denunțând acest eveniment ca fiind prima instanță cunoscută a unui atac cibernetic autonom, de mult temut de unii observatori din industrie.
Dezvăluirea recentă a atacurilor cibernetice dirijate de AI survine într-un moment în care liderii industriei și factorii de decizie politică evaluează riscurile de siguranță pe care le prezintă tehnologia AI în rapidă dezvoltare. În luna iunie, președintele Donald Trump a semnat un ordin executiv care solicită companiilor AI să partajeze produsele cu guvernul federal pentru evaluare înainte de o lansare mai largă.
Sursa: Abcnews.com
