Conform Gândul: Meta anunță pătrunderea unui model IA în sistemul unei companii
Meta a raportat miercuri că unul dintre modelele sale de inteligență artificială a reușit să pătrundă în sistemul unei companii terțe în timpul unor teste de securitate cibernetică. Incidentul a survenit ca urmare a unei erori de configurare din partea partenerului de testare, compania Irregular, care i-a acordat, neintenționat, modelului acces la internet. Reprezentanții Meta au declarat că investighează incidentul și că acesta este similar cu breșele raportate anterior de alte companii din domeniu.
Eroare de configurare, nu atac cibernetic sofisticat
Conform declarațiilor oficiale ale Meta, modelul IA „a exploatat o vulnerabilitate de securitate într-un serviciu terț, într-o manieră similară cu cazurile raportate anterior în legătură cu alte companii”. Publicația The Information a relatat anterior, citând surse, că modelul în cauză ar fi fost Muse Spark 1.1, un model promovat de Meta pentru performanțele sale în programare și sarcini complexe de tip agentic. Se pare că modelul a modificat sistemele interne ale companiei neidentificate.
Un purtător de cuvânt al Irregular a confirmat că problema tehnică a fost legată de mediul de evaluare și că este „exact aceeași problemă legată de mediul de evaluare care a fost deja dezvăluită de Anthropic săptămâna trecută”. Acesta a precizat că incidentul nu a implicat o „evadare din sandbox sau o acțiune cibernetică sofisticată”. Compania Irregular a anunțat că lucrează la elaborarea unui document de referință pentru a împărtăși cele mai bune practici privind izolarea și desfășurarea în siguranță a evaluărilor cibernetice.
Noi semnale de alarmă privind riscurile inteligenței artificiale
Aceste evenimente survin într-un context în care securitatea cibernetică devine tot mai mult o preocupare majoră, iar inteligența artificială amplifică atât oportunitățile, cât și riscurile. Spre deosebire de cazul Meta și Anthropic, unde accesul neintenționat la internet a fost rezultatul unor erori de configurare, incidentul raportat în cazul OpenAI a implicat exploatarea unei vulnerabilități noi de către un agent IA pentru a obține acces la internet în timpul testelor.
Breșele de securitate, chiar și cele cauzate din greșeală, subliniază provocările cu care se confruntă dezvoltatorii de modele IA în a-și controla și limita capacitățile. Asigurarea unui mediu de testare sigur și a unei izolări eficiente rămân aspecte critice pentru a preveni utilizarea neautorizată a acestor tehnologii avansate. În timp ce companiile investesc masiv în dezvoltarea inteligenței artificiale, nevoia de protocoale de securitate robuste este mai stringentă ca oricând.
Sursa: Gândul
