Izraelski startap iz oblasti sajber bezbjednosti, Hirundo, prikupio je 8 miliona dolara početnih sredstava kako bi eliminisao halucinacije i pristrasnost kod AI sistema i pomogao organizacijama da implementiraju bezbjednije modele vještačke inteligencije.
Investiciona runda predvođena je od strane Maverick Ventures Israel, uz dodatnu podršku fondova AI.FUND, Alpha Intelligence Capital, Plug and Play Tech Center, SuperSeed i Tachles VC.
Osnovan 2023. godine, Hirundo je razvio tehnologiju koja omogućava AI modelima da „raznauče“ neželjene podatke i loše ponašanje, čime se eliminišu netačnosti, pristrasnosti i curenje osjetljivih informacija, kao i smanjuje rizik od prompt injection napada.
Platforma kompanije, Machine Unlearning, koja se takođe bavi i jailbreak napadima, ima za cilj da rješava probleme u srži AI modela bez potrebe za potpunim ponovnim treniranjem, dok istovremeno poboljšava preciznost negenerativnih aplikacija.
Prema navodima kompanije, moguće je ukloniti loša ponašanja i netačnosti iz AI modela bez ugrožavanja njihovih sposobnosti, čime se organizacijama štedi vrijeme i novac, dok se istovremeno povećava pouzdanost i performanse modela.
Hirundo identifikuje kako se nepoželjno ponašanje manifestuje unutar modela, definiše obrasce ponašanja i usmjerava model da ih izbjegava. Rješenje se može koristiti sa open-source modelima, ali kompanija planira da ga učini kompatibilnim i sa zatvorenim modelima.
Platforma podržava kako generativne, tako i negenerativne sisteme, a koriste je organizacije iz oblasti finansija, državne uprave, zdravstva i drugih sektora.
„Rješenje koje nudi Hirundo funkcioniše kao neka vrsta ‘neurhirurgije’ nad AI modelom – precizno locira gdje u milijardama parametara modela nastaju halucinacije ili gdje je enkodirano toksično znanje, i tačno ga uklanja. Osiguravamo da se podaci pouzdano brišu, da se preciznost modela očuva, a sam proces je skalabilan i ponovljiv,“ izjavio je suosnivač i izvršni direktor Hirundo-a, Ben Luria.
Izvor: SecurityWeek
