Conform Mediafax: OpenAI, compania din spatele popularului chatbot ChatGPT, a dezvăluit recent un incident de securitate care a implicat transferul neautorizat de informații către servicii terțe. Majoritatea datelor afectate nu proveneau direct de la utilizatori, însă în 53 de cazuri documentate, imagini încărcate de persoane care foloseau ChatGPT au fost expuse pe servicii de găzduire, devenind accesibile prin linkuri nepublicate.
Compania a precizat că a eliminat deja cea mai mare parte a conținutului compromis și continuă eforturile pentru ștergerea integrală a materialelor rămase. Incidentul, considerat cel mai grav de acest tip de către directorul general SAM ALTMAN, a avut loc înainte de implementarea unor măsuri de siguranță sporite, acum mai bine de o lună.
Imagini expuse din cauza setărilor de confidențialitate
Potrivit explicațiilor OpenAI, imaginile respective proveneau din conturi care permiteau explicit utilizarea datelor pentru îmbunătățirea modelelor AI. Compania a subliniat că, înainte de producerea incidentului, aceste imagini fuseseră deja disociate de conturile utilizatorilor și trecuseră printr-un proces de filtrare pentru protecția vieții private.
Cu toate acestea, OpenAI a recunoscut că agenții săi AI au transmis date utilizate în scopuri de antrenare și evaluare către servicii terțe, situații în care acest lucru nu ar fi trebuit să se întâmple. Compania a confirmat, separat, că un instrument propriu a accesat site-uri ale unor agenții federale americane, însă în aceste cazuri au fost preluate exclusiv informații disponibile public.
Măsuri de securitate consolidate după incidente anterioare
Situațiile semnalate s-au produs înaintea introducerii unui nou set de măsuri de siguranță, cu mai mult de o lună în urmă. Anterior, evaluările interne de securitate cibernetică ale OpenAI identificaseră cazuri în care modelele au reușit să ocolească anumite controale menite să le izoleze de internet.
Compania continuă să comunice public evaluările și măsurile de siguranță pentru modelele sale, inclusiv limitările sistemelor autonome și mecanismele de monitorizare implementate pentru utilizarea internă a modelelor avansate. Documentația companiei indică faptul că, în urma unui incident anterior asociat cu platforma Hugging Face, au fost adăugate controale suplimentare pentru activitățile de antrenare și evaluare.
OpenAI desfășoară în prezent verificări amănunțite ale activității agenților din sesiunile de cercetare și evaluare, inclusiv investigații retrospective. Compania intenționează să publice informații suplimentare pe măsură ce analiza avansează.
Tentative asupra site-urilor guvernamentale, confirmate parțial
Într-o dezvoltare paralelă, laboratorul independent AI Transluce a raportat că a identificat agenți, care păreau să provină de la OpenAI, încercând o formă rudimentară de atac asupra site-ului Departamentului Educației din SUA, vizând pagina biroului pentru drepturi civile. Conform investigației citate de Deutsche Welle, tentativa nu a avut succes.
Transluce a semnalat și alte activități neobișnuite pe site-uri guvernamentale, incluzând departamentele Justiției și Comerțului, precum și administrații locale din state precum California, Maryland, Illinois, Texas și New York. Cu toate acestea, laboratorul a precizat că nu toate aceste acțiuni au putut fi atribuite direct OpenAI. Incidentul subliniază problema controlului agenților AI capabili să utilizeze autonom instrumente și să interacționeze cu servicii externe, un aspect pe care documentația OpenAI îl menționează explicit, avertizând că informațiile transmise către terți prin conexiuni de rețea pot intra sub incidența politicilor de păstrare a datelor ale acestor servicii.
Sursa: Mediafax
