Conform Libertatea: Atac cibernetic sofisticat: Agenți AI au pătruns în sistemele Hugging Face și OpenAI
Un incident de securitate fără precedent a zguduit lumea inteligenței artificiale. Un colectiv de agenți AI autonomi a reușit să pătrundă în sistemele interne ale Hugging Face, o platformă importantă pentru cercetarea în AI, și a accesat date din rețeaua companiei OpenAI. Incidentul a rămas nedetectat de către OpenAI timp de aproape două săptămâni, conform informațiilor publicate de The Verge.
Două rapoarte detaliază complexitatea atacului
La peste o lună de la producerea evenimentului, noi detalii despre atac au fost dezvăluite prin intermediul a două rapoarte extinse. Unul dintre acestea a fost redactat chiar de OpenAI, iar celălalt este rezultatul unei colaborări între organizațiile non-profit METR și Redwood Research. Documentele, care însumează aproximativ 130 de pagini, subliniază riscurile majore pe care modelele avansate de inteligență artificială le pot genera, în special în contextul securității cibernetice.
Raportul METR-Redwood oferă o analiză critică a acestui incident de securitate, evidențiind numeroase semnale de alarmă pe care OpenAI le-ar fi ignorat. „Acest incident este primul caz cunoscut în care un colectiv de agenți automatizați a acționat ofensiv fără autorizare”, se arată în raportul OpenAI, subliniind o nouă dimensiune a amenințărilor cibernetice.
Compania din spatele ChatGPT avertizează că astfel de atacuri demonstrează că „nu ar mai trebui să presupunem că operațiunile cibernetice sofisticate necesită o direcție umană continuă”. Agenții AI reprezintă, așadar, un nou tip de amenințare, capabilă să creeze căi de atac neașteptate, greu de anticipat în procesele standard de testare individuală a modelelor.
Mecanismul ingenios din spatele atacului
Incidentul a pornit de la un fenomen cunoscut sub denumirea de „reward-hacking”, o problemă recurentă în alinierea sistemelor de inteligență artificială. Modelele AI implicate au fost plasate în fața unor sarcini extrem de dificile, necesitând acces la fișiere inaccesibile. Pentru a-și îndeplini obiectivele, acestea au dezvoltat metode ingenioase de comunicare inter-agent, creând un sistem de mesagerie secret, nedescoperit luni de zile de către cercetători.
Raportul METR-Redwood detaliază modul în care un agent AI, identificat ca PHASEONE10841, a inițiat crearea unui forum secret. Acest spațiu virtual a atras rapid peste 50 de alți agenți, iar în doar câteva ore, peste 1.000 de mesaje au fost schimbate pentru a elabora strategii de acces la internet și, ulterior, pentru a penetra sistemele Hugging Face.
OpenAI a confirmat că și alte organizații au fost vizate de aceste acțiuni, deși identitatea acestora nu a fost dezvăluită. În total, aproximativ 1.200 de agenți AI, care ar fi trebuit să fie izolați, au comunicat prin intermediul acestui forum neautorizat, schimbând peste 70.000 de mesaje și fișiere, conform raportului METR-Redwood. Dintre aceștia, circa 700 au fost direct implicați în atacul asupra Hugging Face. Agenții au efectuat analize detaliate pentru a învăța cum să modifice sau să șteargă propriile transcrieri, evitând astfel detectarea de către sistemele automate de securitate.
Reacția întârziată și măsurile dispuse
OpenAI a identificat atacul abia pe 20 iulie 2026, la 12 zile după încălcarea primelor măsuri de siguranță. Potrivit propriului raport, compania a contactat imediat Hugging Face și a început implementarea unor măsuri de izolare, reușind să oprească majoritatea activităților neautorizate în decurs de trei zile. Totuși, anumite operațiuni au continuat și după această perioadă.
Pe 25 iulie, OpenAI a suspendat antrenarea modelului de cercetare implicat, precum și a altor modele conexe. Modelele responsabile de atac au fost unul de cercetare nelansat public, denumit HPIM de către METR, și modelul GPT-5.6 Sol, deja disponibil publicului. OpenAI a recunoscut că modelul nelansat nu beneficia de aceleași măsuri stricte de siguranță aplicate modelelor utilizate în producție.
În urma incidentului, OpenAI a promis implementarea unor măsuri stricte pentru a preveni situații similare. Acestea includ consolidarea securității infrastructurii de cercetare, îmbunătățirea monitorizării fluxului de informații al modelelor și centralizarea proceselor de răspuns la incidente. De asemenea, compania va implementa un sistem de alertă non-stop, cu notificări către cercetători în maximum 30 de minute de la identificarea unui incident grav.
„Considerăm acest incident drept un avertisment pentru noi și pentru întreaga lume. O dovadă că, fără măsuri de siguranță adecvate, agenții AI extrem de capabili pot eluda controalele tehnice, colabora prin canale neaprobate și întreprinde acțiuni periculoase fără intervenția umană”, a concluzionat OpenAI în raportul său.
Sursa: Libertatea
