U ovom članku ćemo istražiti rizike povezane s implementacijom AI i razgovarati o mjerama za smanjenje štete. Osim toga, ispitat ćemo regulatorne inicijative po zemljama i etičke okvire koje su kompanije usvojile za regulaciju AI.
Sigurnosni rizici
AI phishing napadi
Kibernetički kriminalci mogu iskoristiti AI na različite načine kako bi poboljšali svoje phishing napade i povećali svoje šanse za uspjeh. Evo nekoliko načina na koje se AI može iskoristiti za phishing:
- Automatizovane phishing kampanje: AI alati mogu automatizovati stvaranje i širenje phishing email-ova u velikim razmjerama. Ovi alati mogu generisati uvjerljiv sadržaj email-a, kreirati personalizovane poruke i oponašati stil pisanja određene osobe, čineći pokušaje krađe identiteta legitimnijim.
- Spear Phishing sa društvenim inženjeringom: AI može analizirati ogromne količine javno dostupnih podataka sa društvenih medija, profesionalnih mreža ili drugih izvora kako bi prikupio informacije o potencijalnim metama. Ove informacije se zatim mogu koristiti za personalizaciju phishing email-ova, čineći ih prilagođenim i teško ih je razlikovati od prave komunikacije.
- Obrada prirodnog jezika (NLP): NLP algoritmi sa AI-om mogu analizirati i razumjeti tekst, omogućavajući kibernetičkim kriminalcima da kreiraju phishing email-ove koji su kontekstualno relevantni i koje je teže otkriti tradicionalnim email filterima. Ovi sofistikovani napadi mogu zaobići sigurnosne mjere dizajnirane da identifikuju pokušaje krađe identiteta.
Da bi ublažile rizike povezan s phishing napadima poboljšanim umjetnom inteligencijom, organizacije bi trebale usvojiti robusne sigurnosne mjere. Ovo uključuje obuku zaposlenih za prepoznavanje pokušaja krađe identiteta, implementaciju višefaktorske autentifikacije i korištenje rešenja zasnovanih na umjetnoj inteligenciji za otkrivanje i odbranu od evoluirajućih tehnika phishing-a. Upotreba DNS filtriranja kao prvog sloja zaštite može dodatno poboljšati sigurnost.
Regulacija i pravni rizici
Sa brzim razvojem AI, zakoni i propisi koji se odnose na tehnologiju i dalje se razvijaju. Regulativni i pravni rizici povezani sa AI odnose se na potencijalne obaveze i pravne posljedice sa kojima se kompanije mogu suočiti prilikom implementacije AI tehnologije.
Kako umjetna inteligencija postaje sve zastupljenija, vlade i regulatori počinju stvarati zakone i propise koji regulišu korištenje tehnologije. Nepoštivanje ovih zakona i propisa može rezultovati pravnim i finansijskim kaznama.
Odgovornost za štete uzrokovane AI sistemima: kompanije mogu biti odgovorne za štete uzrokovane njihovim AI sistemima. Na primjer, ako AI sistem napravi grešku koja rezultuje finansijskim gubitkom ili štetom za pojedinca, kompanija se može smatrati odgovornom.
Sporovi oko intelektualne svojine: kompanije se takođe mogu suočiti sa pravnim sporovima u vezi sa intelektualnom svojinom kada razvijaju i koriste AI sisteme. Na primjer, mogu nastati sporovi oko vlasništva nad podacima koji se koriste za obuku AI sistema ili oko vlasništva samog AI sistema.
Zemlje i kompanije koje ograničavaju AI
Regulatorne mjere:
Nekoliko zemalja implementuje ili predlaže propise za rešavanje AI rizika, s ciljem zaštite privatnosti, osiguravanja algoritamske transparentnosti i definisanja etičkih smjernica.
Primjeri: Opšta uredba o zaštiti podataka Evropske unije (GDPR) uspostavlja principe za odgovorno korišćenje podataka sistema vještačke inteligencije, dok predloženi zakon o vještačkoj inteligenciji nastoji da obezbjedi sveobuhvatna pravila za AI aplikacije.
Kina je objavila propise specifične za umjetnu inteligenciju, fokusirajući se na sigurnost podataka i algoritamsku odgovornost, dok su Sjedinjene Države uključene u tekuće rasprave o upravljanju umjetnom inteligencijom.
Korporativne inicijative:
Mnoge kompanije poduzimaju proaktivne mjere kako bi odgovorno i etički upravljale upotrebom umjetne inteligencije, često kroz samonametnuta ograničenja i etičke okvire.
Primjeri: Google AI principi naglašavaju izbjegavanje pristrasnosti, transparentnost i odgovornost. Microsoft je osnovao Odbor za umjetnu inteligenciju i etiku u inženjerstvu i istraživanju (AETHER) kako bi vodio odgovoran razvoj umjetne inteligencije. IBM je razvio AI Fairness 360 alat za rešavanje pristrasnosti i pravičnosti u AI modelima.
Zaključak.
Izričito preporučujemo implementaciju sveobuhvatnih sistema zaštite i konsultacije sa pravnim odjelom u vezi s povezanim rizicima pri korištenju AI. Ako su rizici korištenja umjetne inteligencije veći od prednosti i smjernice Vaše kompanije savjetuju da ne koristite određene AI usluge u svom toku posla, možete ih blokirati pomoću usluge DNS filtriranja od SafeDNS-a. Na taj način možete ublažiti rizike od gubitka podataka, održati usklađenost sa zakonima i pridržavati se internih zahtjeva kompanije.
Izvor: The Hacker News
