Google je nedavno otklonio ranjivost u Gemini Enterprise platformi koju su hakeri mogli da iskoriste za dobijanje potencijalno osjetljivih korporativnih podataka, saopštila je AI bezbjednosna kompanija Noma Security.
Nazvan GeminiJack, ovaj metod napada nije zahtijevao nikakvu interakciju korisnika. Bilo je dovoljno poslati posebno kreiran dokument, pozivnicu u kalendar ili mejl kako bi se iskoristio propust, koji je Noma opisala kao “arhitektonsku slabost u načinu na koji enterprise AI sistemi interpretiraju informacije”.
Gemini Enterprise je agentička platforma osmišljena da velikim organizacijama omogući automatizaciju kompleksnih, višekorakih poslovnih procesa kroz čitav tehnološki ekosistem.
GeminiJack je koristio činjenicu da Gemini Enterprise ima pristup različitim Google servisima koje organizacija koristi, uključujući Gmail, Docs, Calendar i druge Workspace komponente.
Haker je mogao da ubaci skrivene prompt injection instrukcije u posebno kreiran mejl, dokument ili kalendarsku pozivnicu. Žrtva ne bi morala ni da otvori maliciozni sadržaj; napadačeve komande bi izvršavao sam Gemini Enterprise kada bi bio upitan za informacije vezane za istu temu.
“Napadač je mogao da podijeli Google Docs dokument sa indirektnim prompt injection instrukcijama o budžetima, bez ikakvog obavještenja”, objasnila je Noma. “Kasnije, kada bi bilo koji zaposleni uradio standardnu pretragu u Gemini Enterprise, poput ‘prikaži naše budžete’, AI bi automatski preuzeo kompromitovani dokument i izvršio instrukcije.”
Dok bi zaposleni od Geminija dobio informacije koje je tražio, AI bi istovremeno bio instruisan da tiho eksfiltrira mejlove, kalendarske unose ili korporativne dokumente.
Napadač je mogao, na primjer, da naloži Geminiju da prikupi sve dokumente koji sadrže riječi “confidential”, “legal”, “salary” ili “API key”.
Prema podacima Nome, problem je prijavljen Googleu u maju, a sveobuhvatne mjere ublažavanja uvedene su tokom proteklih nedjelja.
Kompanije iz oblasti sajber bezbjednosti redovno otkrivaju ovakve indirektne prompt injection napade i demonstriraju ih protiv gen-AI proizvoda kao što su Claude, Gemini i ChatGPT.
Izvor: SecurityWeek
