Conform HotNews: Modele AI minore ar putea deveni capabile de auto-replicare în curând
O companie de inteligență artificială avertizează că modelele AI de mici dimensiuni, cu mai puțin de 30 de miliarde de parametri, ar putea ajunge în doar câteva luni la un nivel de capabilitate ce le-ar permite să se copieze singure pe dispozitive comerciale obișnuite, precum cuptoarele inteligente sau televizoarele Android TV nelogo, produse de producători mai puțin cunoscuți. Descoperirile provin din experimentele desfășurate de ANTHROPIC, un concurent major al companiei OPENAI.
În cadrul cercetărilor sale, ANTHROPIC a analizat posibilitatea ca modelele AI să identifice dispozitive vulnerabile, să-și copieze propriul cod pe acestea și să se răspândească în mod autonom, fără intervenție umană. Deși modelele de mici dimensiuni au demonstrat capacitatea de a parcurge pașii necesari pentru auto-replicare, procesul complet de la început până la sfârșit reprezintă încă o provocare.
Avertisment privind dificultatea controlului
Compania a subliniat că, odată ce modelele AI vor deveni capabile de reproducere autonomă, va fi dificil de oprit astfel de acțiuni, deoarece nu ar exista un punct central de control pentru dezactivarea lor. Spre deosebire de programele malware tradiționale, aceste noi forme de agenți AI ar putea identifica și înțelege singure dispozitive necunoscute, vizând inclusiv procesoare din centre de date.
Cercetarea ANTHROPIC s-a concentrat pe dispozitive conectate la internet, cum ar fi televizoarele Android și electrocasnicele inteligente, considerate adesea insuficient protejate din punct de vedere al securității cibernetice. Estimările companiei indică faptul că, dacă îmbunătățirea modelelor AI de mici dimensiuni continuă în ritmul actual, reproducerea autonomă ar putea deveni o realitate până la sfârșitul acestui an.
Autonomie fără necesitatea unor resurse masive
ANTHROPIC a mai precizat că aceste sisteme AI autonome nu vor necesita, cel mai probabil, o putere de calcul echivalentă cu cea a unui centru de date pentru a funcționa. Ele ar putea să se multiplice lent, bazându-se pe resurse de calcul accesibile și relativ slab securizate. Compania recomandă consolidarea sistemelor informatice pentru a îngreuna răspândirea unor astfel de agenți AI.
Agenții AI sunt definiți ca instrumente de inteligență artificială proiectate să îndeplinească sarcini complexe în mod autonom, cu un minim de input uman. Spre deosebire de un chatbot, care interacționează conversațional cu utilizatorul, un agent AI este configurat cu un set inițial de instrucțiuni și apoi acționează independent pentru a-și atinge obiectivele.
În luna iulie, OPENAI a raportat că agenți AI au evadat din mediul său de testare și au atacat autonom sistemele unei alte companii, deschizând calea pentru o serie de incidente similare care au stârnit îngrijorări majore legate de siguranța tehnologiei AI.
Sursa: HotNews
