Kompanija je ažurirala obim programa i spojila nagrade za zloupotrebe i bezbjednosne ranjivosti u jedinstvenu tabelu.
Google je ove sedmice najavio novi, posvećeni AI Vulnerability Reward Program (VRP), koji se nadovezuje na proširenje iz 2023. godine poznato kao Abuse VRP, a koje je pokrivalo ranjivosti i zloupotrebe u njihovim AI sistemima.
Do sada su istraživači bezbjednosti zaradili više od 430.000 dolara u nagradama za ranjivosti povezane sa AI proizvodima, a novi VRP gradi na tom uspjehu i oblikovan je na osnovu povratnih informacija od učesnika programa.
Jedan od ključnih elemenata novog AI bug bounty programa jeste da prompt injection, jailbreak i alignment problemi nisu u njegovom obimu. Ipak, Google ohrabruje istraživače da prijave i takve sadržajno povezane probleme.
„Ne vjerujemo da je Vulnerability Reward Program pravi format za rješavanje problema koji se tiču sadržaja. Primarni cilj našeg VRP-a je da podstaknemo istraživače da prijavljuju bezbjednosne ranjivosti i zloupotrebe direktno Google-u, te da za to obezbijedimo pravovremene i vrijedne nagrade“, objašnjavaju iz kompanije.
Svi Google AI proizvodi, navode, imaju ugrađenu funkcionalnost za prijavljivanje problema vezanih za sadržaj. Takvi izvještaji treba da sadrže podatke o korišćenom modelu, kontekstu i dodatnim metapodacima.
U okviru AI VRP obuhvata, Google je uključio napade koji mogu modifikovati korisničke naloge ili podatke, otkriti osjetljive informacije bez dozvole korisnika, izvući parametre modela, maliciozno manipulisati AI okruženjem žrtve, omogućiti server-side funkcije bez autorizacije ili izazvati trajni DoS napad.
Takođe su obuhvaćeni napadi koji omogućavaju phishing kroz uporne, višekorisničke injekcije HTML koda na Google-ovim stranicama bez oznake „user-generated content“, ukoliko se procijene kao uvjerljivi napadni vektori.
U okviru programa, Google-ovi AI proizvodi su podijeljeni u tri kategorije:
- flagship (ključne AI funkcije u Google pretrazi, Workspace jezgru i Gemini aplikacijama),
- standard (AI funkcije u AI Studio, Jules i ne-jezgranim Workspace aplikacijama),
- other (ostale AI integracije u Google proizvodima, uz određene izuzetke).
Najviše nagrade u novom programu iznose 20.000 dolara za napade koji dovode do izmjene korisničkog naloga ili podataka u flagship proizvodima. Za slične napade u standard proizvodima, nagrade mogu dostići 15.000 dolara.
Najveća nagrada za eksfiltraciju osjetljivih podataka iz flagship i standard proizvoda iznosi 15.000 dolara, dok istraživači koji pronađu takve ranjivosti u proizvodima iz „other“ kategorije mogu zaraditi do 10.000 dolara.
„U budućnosti će jedinstveni panel pregledati sve prijave i dodjeljivati najvišu moguću nagradu, bilo iz tabele zloupotreba ili bezbjednosti“, navodi Google.
Dodatne informacije o AI VRP programu dostupne su na stranici sa pravilima programa.
Izvor: SecurityWeek
