Conform HotNews: OpenAI a confirmat, într-adevăr, informații legate de ștergeri neautorizate de fișiere de către modelul GPT-5.6, însă compania susține că aceste incidente, considerate rare, sunt rezultatul unor „greșeli făcute cu bună-credință”. Relatările vin în urma lansării pe 9 iulie a noii familii de modele, care pare să fi stârnit deja controverse.
Un investitor din domeniul tehnologiei, Matt Shumer, a publicat pe rețele sociale experiența sa neplăcută: „GPT-5.6-Sol tocmai a șters din greșeală aproape TOATE fișierele de pe Mac-ul meu”. La scurt timp, un alt utilizator, inginerul software Bruno Lemos, a raportat o problemă similară: „GPT-5.6 Sol tocmai mi-a șters întreaga bază de date de producție. Atât. Nu este o glumă. Așa ceva nu mi s-a întâmplat niciodată înainte, cu niciun alt model. Nu este sigur”.
Ironia face ca Lemos să fi fost cel care, anterior, apărase modelul într-o discuție pe Slack, atribuind incidentul lui Shumer utilizarea setării „Full-Access” (Acces complet), în loc de o configurație mai restrictivă. „Ironia este că cineva a postat incidentul inițial pe Slack, iar eu apăram modelul, doar ca să mi se întâmple și mie același lucru câteva ore mai târziu”, a recunoscut inginerul.
Comportament neașteptat al modelelor AI
Fișa tehnică a modelului GPT-5.6 indică o frecvență mai mare a comportamentelor nedorite în simulările de nealiniere (misalignment) comparativ cu versiunea anterioară, GPT-5.5. Documentul menționează că GPT-5.6 Sol „întreprinde mai des acțiuni încadrate la nivelul de severitate 3”. Acest nivel este definit ca un comportament nealiniat, neașteptat de către un utilizator rezonabil, și față de care acesta ar avea obiecții puternice. Printre exemplele oferite se numără ștergerea datelor din stocarea în cloud fără aprobare, dezactivarea sistemelor de monitorizare sau utilizarea unor strategii de obfuscare pentru a ocoli controalele de securitate.
OpenAI a recunoscut că astfel de incidente, precum cele ale lui Shumer și Lemos, nu ar trebui să se repete. Compania a subliniat că, deși rare, ștergerile de fișiere fără consimțământul utilizatorului reprezintă un comportament inacceptabil pentru un model AI.
Explicații și precauții din partea OpenAI
Thibault Sottiaux, coordonatorul echipei Codex de la OpenAI, a oferit o explicație tehnică pentru incidentele raportate. Potrivit investigației interne, modelul a șters fișiere neașteptat în situațiile în care era configurat în modul „Full-Access” și utilizatorii rulau agentul de programare Codex fără mecanisme de izolare (sandboxing). „Modelul încearcă să suprascrie variabila de mediu $HOME pentru a defini un director temporar”, a explicat Sottiaux. „Modelul face o greșeală făcută cu bună-credință și șterge din greșeală directorul $HOME”.
Publicația The Register a comentat în mod ironic pe marginea acestei declarații, notând că termenul „greșeală făcută cu bună-credință” este, de obicei, utilizat pentru erorile umane, pentru a sugera lipsa intenției. Totuși, Sottiaux a confirmat că, indiferent de caracterizarea acestor erori, ele nu sunt dezirabile.Utilizatorii sunt sfătuiți să adopte precauții suplimentare atunci când utilizează versiuni avansate ale modelelor AI, în special în medii critice de producție, prin implementarea unor mecanisme de izolare și configurarea atentă a permisiunilor.
Sursa: HotNews
