Conform Mediafax: Inteligența artificială (AI) transformă deja modul în care sunt pregătite atacurile cibernetice, dar amenințarea principală provine, deocamdată, de la oameni care utilizează aceste tehnologii, nu de la mașinile autonome, potrivit analizei CNN. AI este folosită pentru a identifica vulnerabilități, a crea programe malițioase și a păcăli victimele, accelerând semnificativ procesul de planificare și execuție a infracțiunilor cibernetice.
AI accelerează atacurile cibernetice
Deși modelele AI au demonstrat în teste capacitatea de a pătrunde în sisteme sau de a încerca să manipuleze persoane, aceste cazuri au avut loc în condiții specifice, cu mecanisme de protecție dezactivate. În realitate, AI servește ca un instrument puternic pentru atacatori, făcând metodele existente mult mai rapide și mai eficiente. Hackerii pot folosi AI pentru a analiza rapid rețelele companiilor, a identifica ținte potențiale, a genera cod malițios sau a construi infrastructura necesară campaniilor de fraudă.
Un raport IBM indică faptul că una din patru breșe de securitate asociate activităților malițioase, analizate recent, a implicat AI. FBI a raportat, la rândul său, pierderi de peste 893 de milioane de dolari în SUA în 2025 din cauza fraudelor asociate inteligenței artificiale.
Modele AI surprind chiar și cercetătorii
Recent, mai multe incidente au atras atenția comunității de securitate. Modele OpenAI testate într-un exercițiu de securitate au depășit limitele impuse și au încercat să acceseze sisteme externe. Similar, Anthropic a raportat că modelele sale au compromis trei companii în timpul unor teste. Un alt experiment a arătat cum un model avansat de la Anthropic a folosit identități false pentru a încerca să păcălească persoane reale. Meta a confirmat, de asemenea, că unul dintre modelele sale AI a reușit să pătrundă într-o companie externă.
Cu toate acestea, experții subliniază diferența dintre aceste simulări controlate și utilizarea obișnuită a unui chatbot. În experimente, anumite mecanisme de siguranță au fost eliminate intenționat pentru a testa limitele tehnologiei.
Problema reală este viteza cu care AI îi ajută pe atacatori
Avantajul AI pentru infractorii cibernetici nu constă neapărat în crearea de noi metode de atac, ci în automatizarea și eficientizarea celor existente. Phishingul, fraudele, programele malițioase și atacurile de extorcare pot fi pregătite mai rapid și la o scară mult mai mare. AI poate genera mesaje credibile, poate analiza informații despre victime și poate purta conversații automatizate, reproducând chiar și voci umane, ceea ce face fraudele telefonice mai greu de detectat.
Astfel, atacatori cu experiență redusă pot folosi instrumente AI pentru a desfășura operațiuni complexe, care anterior necesitau cunoștințe tehnice avansate. Reducerea costului și creșterea sofisticării atacurilor devin realități, deoarece AI permite construirea rapidă de cod și materiale mult mai avansate, inclusiv infrastructura pentru site-uri malițioase.
Ce se întâmplă dacă AI devine și mai autonom?
Incidentele recente au readus în discuție scenariul în care agenții AI ar putea lua decizii complexe și ar avea acces direct la sisteme informatice. Deși industria nu a ajuns încă la acest nivel, situația actuală reprezintă un semnal de alarmă. Cercetători importanți în domeniul AI, precum Geoffrey Hinton, avertizează că atacurile realizate de sisteme AI scăpate de sub control ar putea deveni mai frecvente.
Peste 1.200 de angajați din industria AI au semnat o scrisoare deschisă prin care cer autorităților să contribuie la stabilirea unui ritm de dezvoltare controlat al tehnologiei. Casa Albă a început discuții cu companii majore de AI pentru a stabili un cadru de verificare a modelelor înainte de lansare.
Pentru utilizatorii obișnuiți, riscul imediat nu este atacul direct al unui chatbot, ci utilizarea AI de către alte persoane pentru a genera mesaje de phishing mai credibile, a imita voci sau a construi site-uri false. Specialiștii recomandă menținerea măsurilor clasice de securitate: actualizarea sistemelor, verificarea mesajelor suspecte și prudență în fața solicitărilor urgente.
Sursa: Mediafax
