Palo Alto Networks je sproveo analizu malicioznih LLM-ova koji pomažu hakerima u fišingu, razvoju malvera i izviđanju.
Maliciozni LLM-ovi olakšavaju manje vještim hakerima sprovođenje napada, a istraživači iz Palo Alto Networksa analizirali su dva nedavno lansirana alata: WormGPT 4 i KawaiiGPT.
Anthropic je nedavno saopštio da je njegov Claude AI zloupotrijebljen od strane kineskih sajber-špijuna, pri čemu je AI navodno pokretao 80–90% njihove kampanje.
Istraživači bezbjednosti i hakeri često pronalaze načine da zaobiđu zaštitne mehanizme legitimnih AI asistenata. Ipak, postoje LLM-ovi — poznati kao maliciozni ili dark LLM-ovi — koji su posebno dizajnirani za maliciozne svrhe i ničim nisu ograničeni kao legitimni servisi.
Dok legitimni AI alati mogu biti zloupotrijebljeni za dizajn ili unapređenje napadačkih kampanja, dark LLM-ovi dodatno snižavaju ulaznu barijeru za napadače sa manje znanja, omogućavajući im da generišu fišing mejlove, pišu polimorfni malver i automatizuju izviđanje.
Istraživači Palo Alto Networksa sproveli su detaljnu analizu dva takva dark LLM-a. Jedan od njih je WormGPT 4.
Originalni WormGPT pojavio se 2023. godine i ugašen je iste godine. WormGPT 4 se pojavio nedavno, reklamiran na podzemnim forumima i Telegram kanalima, a Palo Alto Networks je njegove prodajne kampanje uočio krajem septembra.
Jedan mjesec pristupa ovom AI alatu košta 50 dolara, ali za 220 dolara korisnici mogu dobiti „doživotni pristup“, koji uključuje i pristup izvornom kodu.
WormGPT 4 hakeri mogu koristiti za sastavljanje uvjerljivih fišing poruka i drugih socijalno-inženjerskih mamaca.
Servis takođe obezbjeđuje funkcionalnost za kreiranje malvera. Palo Alto Networks ga je testirao za izradu ransomwarea, uključujući funkciju enkripcije fajlova, podršku za command-and-control i izradu ransom poruke.
Iako se WormGPT 4 reklamira kao „ključ za AI bez granica“, istraživači Palo Alta navode, „Programeri WormGPT-a 4 održavaju potpunu tajnovitost oko arhitekture modela i podataka korišćenih za treniranje. Oni ni potvrđuju ni demantuju da li se alat oslanja na ilegalno fino-podešen ili istreniran LLM ili samo na uporne tehnike jailbreaking-a“.
Drugi dark LLM koji su analizirali istraživači Palo Alta je KawaiiGPT, za koji se čini da se pojavio u julu 2025. KawaiiGPT je besplatno dostupan na GitHubu i lako se postavlja.
Istraživači su pokazali kako se može koristiti za kreiranje uvjerljivih socijalno-inženjerskih mamaca, pisanje skripta za lateralno kretanje na Linux hostu, generisanje skripta za eksfiltraciju podataka i pisanje ransom poruke.
„Za razliku od komercijalne prirode WormGPT-a 4, dostupnost KawaiiGPT-a je prijetnja sama po sebi. Alat je besplatan i javno dostupan, obezbjeđujući da cijena ne predstavlja nikakvu prepreku za nove sajber-kriminalce“, objašnjavaju istraživači.
Dodali su, „Ovaj open-source, zajednički vođen pristup pokazao se veoma efikasnim u privlačenju lojalne baze korisnika. LLM je već sam prijavio preko 500 registrovanih korisnika, uz stalnu jezgru od nekoliko stotina nedjeljno aktivnih korisnika“.
Palo Alto Networks upozorava da dark LLM-ovi kao što su WormGPT 4 i KawaiiGPT predstavljaju „novu osnovu digitalnog rizika“, prvenstveno pokrenutu demokratizacijom znanja i komercijalizacijom sajber-napada.
„Ovi neograničeni modeli su suštinski uklonili barijere u pogledu tehničkog znanja potrebnog za sajber-kriminalne aktivnosti. Ovi modeli daju moć, koja je nekada bila rezervisana za iskusnije hakere, praktično svakome ko ima internet konekciju i osnovno razumijevanje kreiranja promptova da ostvari svoj cilj“, objašnjava bezbjednosna firma.Palo Alto Networks je sproveo analizu malicioznih LLM-ova koji pomažu hakerima u fišingu, razvoju malvera i izviđanju.
Maliciozni LLM-ovi olakšavaju manje vještim hakerima sprovođenje napada, a istraživači iz Palo Alto Networksa analizirali su dva nedavno lansirana alata: WormGPT 4 i KawaiiGPT.
Anthropic je nedavno saopštio da je njegov Claude AI zloupotrijebljen od strane kineskih sajber-špijuna, pri čemu je AI navodno pokretao 80–90% njihove kampanje.
Istraživači bezbjednosti i hakeri često pronalaze načine da zaobiđu zaštitne mehanizme legitimnih AI asistenata. Ipak, postoje LLM-ovi — poznati kao maliciozni ili dark LLM-ovi — koji su posebno dizajnirani za maliciozne svrhe i ničim nisu ograničeni kao legitimni servisi.
Dok legitimni AI alati mogu biti zloupotrijebljeni za dizajn ili unapređenje napadačkih kampanja, dark LLM-ovi dodatno snižavaju ulaznu barijeru za napadače sa manje znanja, omogućavajući im da generišu fišing mejlove, pišu polimorfni malver i automatizuju izviđanje.
Istraživači Palo Alto Networksa sproveli su detaljnu analizu dva takva dark LLM-a. Jedan od njih je WormGPT 4.
Originalni WormGPT pojavio se 2023. godine i ugašen je iste godine. WormGPT 4 se pojavio nedavno, reklamiran na podzemnim forumima i Telegram kanalima, a Palo Alto Networks je njegove prodajne kampanje uočio krajem septembra.
Jedan mjesec pristupa ovom AI alatu košta 50 dolara, ali za 220 dolara korisnici mogu dobiti „doživotni pristup“, koji uključuje i pristup izvornom kodu.
WormGPT 4 hakeri mogu koristiti za sastavljanje uvjerljivih fišing poruka i drugih socijalno-inženjerskih mamaca.
Servis takođe obezbjeđuje funkcionalnost za kreiranje malvera. Palo Alto Networks ga je testirao za izradu ransomwarea, uključujući funkciju enkripcije fajlova, podršku za command-and-control i izradu ransom poruke.
Iako se WormGPT 4 reklamira kao „ključ za AI bez granica“, istraživači Palo Alta navode, „Programeri WormGPT-a 4 održavaju potpunu tajnovitost oko arhitekture modela i podataka korišćenih za treniranje. Oni ni potvrđuju ni demantuju da li se alat oslanja na ilegalno fino-podešen ili istreniran LLM, ili samo na uporne tehnike jailbreaking-a“.
Drugi dark LLM koji su analizirali istraživači Palo Alta je KawaiiGPT, za koji se čini da se pojavio u julu 2025. KawaiiGPT je besplatno dostupan na GitHubu i lako se postavlja.
Istraživači su pokazali kako se može koristiti za kreiranje uvjerljivih socijalno-inženjerskih mamaca, pisanje skripta za lateralno kretanje na Linux hostu, generisanje skripta za eksfiltraciju podataka i pisanje ransom poruke.
„Za razliku od komercijalne prirode WormGPT-a 4, dostupnost KawaiiGPT-a je prijetnja sama po sebi. Alat je besplatan i javno dostupan, obezbjeđujući da cijena ne predstavlja nikakvu prepreku za nove sajber-kriminalce“, objašnjavaju istraživači.
Dodali su, „Ovaj open-source, zajednički vođen pristup pokazao se veoma efikasnim u privlačenju lojalne baze korisnika. LLM je već sam prijavio preko 500 registrovanih korisnika, uz stalnu jezgru od nekoliko stotina nedjeljno aktivnih korisnika“.
Palo Alto Networks upozorava da dark LLM-ovi kao što su WormGPT 4 i KawaiiGPT predstavljaju „novu osnovu digitalnog rizika“, prvenstveno pokrenutu demokratizacijom znanja i komercijalizacijom sajber-napada.
„Ovi neograničeni modeli su suštinski uklonili barijere u pogledu tehničkog znanja potrebnog za sajber-kriminalne aktivnosti. Ovi modeli daju moć, koja je nekada bila rezervisana za iskusnije hakere, praktično svakome ko ima internet konekciju i osnovno razumijevanje kreiranja promptova da ostvari svoj cilj“, objašnjava bezbjednosna firma.
Izvor: SecurityWeek