Od svog nastanka, Generativna AI je revolucionirala produktivnost preduzeća. GenAI alati omogućavaju brži i efikasniji razvoj softvera, finansijske analize, poslovno planiranje i angažovanje korisnika. Međutim, ova poslovna agilnost dolazi sa značajnim rizicima, posebno potencijalom za curenje osjetljivih podataka. Dok organizacije pokušavaju da izbalansiraju povećanje produktivnosti sa sigurnosnim problemima, mnogi su bili primorani da biraju između neograničene upotrebe GenAI-a ili potpune zabrane.
Novi e-vodič kompanije LayerX pod nazivom 5 mjera za sprječavanje curenja podataka kroz generativne alate vještačka inteligencije dizajniran je da pomogne organizacijama da se snađu u izazovima upotrebe GenAI-a na radnom mjestu. Vodič nudi praktične korake za sigurnosne menadžere kako bi zaštitili osjetljive korporativne podatke dok i dalje ubiru prednosti produktivnosti GenAI alata kao što je ChatGPT. Ovaj pristup ima za cilj da omogući kompanijama da postignu pravi balans između inovacija i sigurnosti.
Zašto brinuti o ChatGPT-u?
E-vodič se bavi rastućom zabrinutošću da neograničena upotreba GenAI može dovesti do nenamjernog izlaganja podataka. Na primjer, kao što je istaknuto incidentima kao što je curenje podataka kompanije Samsung . U ovom slučaju, zaposleni su slučajno otkrili vlasnički kod dok su koristili ChatGPT, što je dovelo do potpune zabrane GenAI alata unutar kompanije. Takvi incidenti naglašavaju potrebu da organizacije razviju robusne politike i kontrole kako bi umanjile rizike povezane sa GenAI.
Naše razumijevanje rizika nije samo anegdotično. Prema istraživanju LayerX Security-a :
- 15% poslovnih korisnika je zalijepilo podatke u GenAI alate.
- 6% poslovnih korisnika je zalijepilo osjetljive podatke, kao što su izvorni kod, PII ili osjetljive organizacijske informacije, u GenAI alate.
- Među prvih 5% korisnika GenAI-a koji su najveći korisnici, punih 50% pripada istraživanju i razvoju.
- Izvorni kod je primarni tip osjetljivih podataka koji bivaju izloženi, čineći 31% izloženih podataka
Ključni koraci za menadžere sigurnosti
Šta menadžeri sigurnosti mogu učiniti kako bi dozvolili korištenje GenAI bez izlaganja organizacije rizicima eksfiltracije podataka? Ključni detalji iz e-vodiča uključuju sljedeće korake:
- Mapiranje upotrebe vještačka inteligencije u organizaciji – Započnite razumijevanjem onoga što trebate zaštititi. Mapirajte ko koristi GenAI alate, na koje načine, u koje svrhe i koje vrste podataka se otkrivaju. Ovo će biti temelj efikasne strategije upravljanja rizicima.
- Ograničavanje ličnih računa – Zatim, iskoristite zaštitu koju nude GenAI alati. Korporativni GenAI računi pružaju ugrađene sigurnosne mjere koje mogu značajno smanjiti rizik od curenja osjetljivih podataka. Ovo uključuje ograničenja u pogledu podataka koji se koriste u svrhe obuke, ograničenja zadržavanja podataka, ograničenja dijeljenja računa, anonimizacije i još mnogo toga. Imajte na umu da ovo zahtijeva prisilno korištenje neličnih računa kada se koristi GenAI (za koji je za to potreban vlasnički alat).
- Podsticanje korisnika – Kao treći korak, iskoristite moć svojih zaposlenih. Jednostavne poruke podsjetnika koje se pojavljuju prilikom korištenja GenAI alata pomoći će u stvaranju svijesti među zaposlenima o potencijalnim posljedicama njihovih postupaka i organizacijskih politika. Ovo može efikasno smanjiti rizično ponašanje.
- Blokiranje unosa osjetljivih informacija – Sada je vrijeme za uvođenje napredne tehnologije. Implementirajte automatizirane kontrole koje ograničavaju unos velikih količina osjetljivih podataka u GenAI alate. Ovo je posebno efikasno za sprječavanje zaposlenika da dijele izvorni kod, informacije o klijentima, PII, finansijske podatke i još mnogo toga.
- Ograničavanje ekstenzija pretraživača GenAI – Konačno, spriječite rizik od proširenja pretraživača. Automatski upravljajte i klasificirajte proširenja pretraživača vještačka inteligencije na osnovu rizika kako biste spriječili njihov neovlašteni pristup osjetljivim organizacijskim podacima.
Da bi uživala u svim prednostima produktivnosti generativne vještačka inteligencije, preduzeća moraju pronaći ravnotežu između produktivnosti i sigurnosti. Kao rezultat toga, GenAI sigurnost ne smije biti binarni izbor između dozvoljavanja svih aktivnosti vještačka inteligencije ili blokiranja svih. Umjesto toga, uzimanje nijansiranog i fino podešenog pristupa omogućit će organizacijama da iskoriste poslovne prednosti, a da pritom organizaciju ne izlože. Za menadžere sigurnosti, ovo je način da postanu ključni poslovni partner i omogućavatelj.
Izvor:The Hacker News
