Generativna vještačka inteligencija je pomogla da se smanje barijera za ulazak malicioznih hakera i učinila ih efikasnijim, odnosno bržima u kreiranju uvjerljivih deepfakesa, podizanju phishing kampanja i investicionih prevara, zaključuje se u najnovijem izvještaju Cyber Threat Alliance (CTA).
Za sada, međutim, nije učinio napadače „pametnijim“ niti potpuno transformisao cyber pretnje.
Kako maliciozni hakeri koriste GenAI
Izvještaj , koji je zasnovan na podacima i studijama slučaja zasnovanim na dokazima dostupnim članovima CTA, objašnjava da napadači trenutno koriste GenAI za:
- Kreiranje duboko lažiranih videa i obmanjujućih slika, kloniranje glasovnih snimaka zasnovanih na određenim glasovima, kreiranje vrlo uvjerljivih e-poruka, poruka i sadržaja web stranica
- Pomoć u kreiranju malicioznih softvera (ali ne stvaranje malicioznih softvera bez dodatnog ljudskog unosa i podešavanja)
- Optimiziranje komandnih i kontrolnih operacija (npr. za upravljanje bonet mrežama)
- Širenje dezinformacija (npr. za dalje online prevare, za uticaj na izborne kampanje)
- Kreiranje mreža neautentičnih naloga na društvenim mrežama koje kontroliše vještačka inteligencija (botova)
“Iako su inovacije vještačke inteligencije neosporno moćne, one su do sada rezultuje inkrementalnim poboljšanjem sposobnosti protivnika, ali nisu stvorile potpuno nove prijetnje”, otkrili su analitičari.
Sprječavanje prijetnji poboljšanih vještačkom inteligencijom
Do sada, temeljne prakse cyber sigurnosti – redovna ažuriranja softvera, višefaktorska autentifikacija, vanmrežne sigurnosne kopije podataka, nadzor krajnjih tačaka, analitika ponašanja i tako dalje – ostaju od suštinskog značaja za suzbijanje svih prijetnji, čak i onih pojačanih vještačkom inteligencijom.
Ali borba protiv the latter takođe će zahtijevati kombinaciju tehničkih rješenja (kao što su detektori dubokih lažnjaka) i, što je još važnije, stalnu edukaciju, sticanje specifičnih vještina (npr. znati kako provjeriti činjenice, izvršiti obrnutu pretragu slika, verificirati metapodatke itd. .), i podsticanje kritičkog mišljenja.
„Organizacije bi trebale da naglase obuku koja daje prioritet analizi zasnovanoj na sadržaju i neguje kulturu zdravog skepticizma. Zaposlene treba ohrabriti da postavljaju pitanja poput: ‘Da li sam pokrenula ovaj zahtjev’ ili ‘Da li je ova komunikacija u skladu s prethodnim razmjenama?’, primijetila je Chelsea Conard, analitičarka iz CTA.
“Druge odbrane mogu se osloniti i na tehničke mjere i mjere zasnovane na procesu. Tehnički alati mogu analizirati sadržaj radi manipulacije, kao što su audio neusklađenosti. Kada ovi alati zakažu, organizacije se mogu osloniti na mjere zasnovane na procesu, uključujući višekanalnu verifikaciju, dvostruka odobrenja ili unaprijed dogovorene fraze za autentifikaciju, kako bi osigurale ključne zaštitne mjere.”
Dobra vijest je da upotreba GenAI od strane protivnika još uvijek nije u skladu s popularnošću i, ako djeluju brzo, organizacije i institucije mogu uspostaviti odbranu koja će zaustaviti većinu prijetnji poboljšanih umjetnom inteligencijom.
Izvor:Help Net Security
