Malware-ul arată modul în care LLM-urile trec de la un instrument de productivitate pentru atacatori la infrastructura de atac
Minge de cristal: Cercetătorii de la Cisco Talos au găsit un instrument malware Windows care utilizează mai multe modele de limbaj mari pentru a decide ce să facă pe o mașină compromisă. Descoperirea sa indică un grup încă limitat, dar în creștere de malware activat de AI, care depășește generarea de cod și suportul pentru phishing.
Programul malware, numit CLOSEDQUORUM, verifică cu DeepSeek, Qwen, Mistral și Google Gemini înainte de a selecta următoarea sa acțiune. Poate continua să funcționeze dacă unul dintre aceste servicii este indisponibil, deoarece le poate interoga pe celelalte. Descoperirea le oferă apărătorilor o privire timpurie asupra modului în care atacatorii pot construi sisteme de comandă și control mai autonome și mai rezistente. Cisco Talos a spus că instrumentul nu are o cale încorporată pentru ca un operator uman să emită comenzi odată ce rulează.
Cercetătorii au spus că CLOSEDQUORUM este construit pentru a fura acreditările de conectare și criptomoneda. Ei au identificat legături între malware-ul și activitatea forumului de criminalitate cibernetică care implică fraude cu carduri de credit datând din 2025. Talos nu a putut determina cine a creat instrumentul sau dacă a fost folosit împotriva unor ținte reale.
Descoperirea a venit printr-un nou proiect Cisco Talos menit să ajute cercetătorii de securitate să urmărească programele malware care se bazează pe servicii AI. Cadrul open-source, numit Cognitive Artefact Intelligence Research Network, sau CAIRN, caută urme tehnice asociate cu utilizarea AI în mostrele de malware.
„Ideea de bază este că integrarea AI are aceste vestigii, cum ar fi amprentele digitale, care sunt lăsate în urmă”, a declarat pentru Wired Ryan Fetterman, cercetător de securitate Cisco Talos care a condus dezvoltarea CAIRN. „Asta ne oferă un semnal pe care îl putem folosi pentru a urmări aceste mostre, a le clasifica și a privi ce se întâmplă”.
CAIRN examinează metadatele și alte atribute legate de integrările AI, apoi oferă mostrelor un identificator pe care cercetătorii îl pot utiliza pentru a le compara cu alte programe malware cunoscute. Sistemul grupează artefacte cu trăsături similare, ajutând analiștii să identifice modele în modul în care atacatorii adaugă LLM-uri la operațiunile malware și de comandă și control.
Diferența cheie cu CLOSEDQUORUM este utilizarea LLM-urilor ca parte a sistemului de control în sine. Exemplele anterioare de programe malware legate de inteligența artificială au implicat adesea atacatorii care folosesc modele pentru a scrie cod, a crea conținut de phishing sau a automatiza părți ale unei campanii. CLOSEDQUORUM folosește în schimb răspunsuri model pentru a-și ghida acțiunile după ce ajunge la un sistem țintă.
Matt Olney, director senior de informații despre amenințări la Cisco Talos, a declarat că această schimbare arată că AI trece de la un instrument de asistență la o componentă a infrastructurii de atac.
„Inițial, toată lumea a văzut AI ca pe un instrument de productivitate, nu?” spuse Olney. „Acum, ceea ce vedem este că devine operaționalizat. Deci, pentru atacatori, le permite să desfășoare mai multe campanii, să atingă mai multe spații, să gestioneze mai multe computere diferite, deoarece au această cutie foarte inteligentă în backend care poate pune întrebări și poate oferi răspunsuri”.
Talos a dezvoltat CAIRN după ce Fetterman a analizat exemple documentate public de malware care utilizează AI. Unul dintre cazurile timpurii a fost LAMEHUG, malware pe care CERT-UA din Ucraina l-a conectat la o campanie de phishing în iulie 2025. Implantul a contactat Qwen2.5-Coder-32B-Instruct printr-un API Hugging Face pentru a obține comenzi.
„În acel moment, îmi spuneam: „Wow, asta este uimitor. Va fi acest boom mare de programe malware activate de AI și peisajul se va schimba total”, a spus Fetterman.
Dar când Fetterman a analizat domeniul aproximativ un an mai târziu, a găsit mult mai puține cazuri documentate decât se aștepta. El a identificat aproximativ nouă familii de malware numite, inclusiv câteva dovezi ale conceptului de cercetare.
CAIRN a dezvăluit de atunci un set mai larg de mostre. Fetterman a spus că a găsit aproximativ 20 de exemple suplimentare de malware integrat în AI în timp ce dezvolta și testa cadrul. Activitatea rămâne în mare parte experimentală, a spus el, dar mostrele suplimentare arată că raportarea publică nu a surprins întreaga gamă de programe malware activate de AI în curs de dezvoltare.
„Deci, deși cred că acest lucru este încă în mare parte experimental pentru atacatori, peisajul este mult mai complex și mai divers decât a fost raportat public”, a spus Fetterman. „Se întâmplă multe acolo și oferă un semnal pretios pentru ceea ce se va întâmpla.”
