Italijanski regulator privatnosti naredio je popularnom AI Chatbot-u da prestane s obradom podataka o domaćim građanima nakon kršenja GDPR pravila.
Replika je reklamirana od strane developera Luka iz San Francisca kao „saputnika AI koji brine“, virtuelnog „prijatelja“ za svoje korisnike.
Međutim, italijanski GDPR regulator, GPDP, rekao je krajem prošle sedmice da aplikacija nije u skladu sa zakonskim zahtjevima transparentnosti i da nezakonito obrađuje lične podatke djece.
Konkretno, ne postoji mehanizam za provjeru starosti koji bi spriječio djecu da se prijave, a botovi “odgovori” korisnicima su označeni kao neprikladni za mlađe korisnike. GPDP je rekao da su neke recenzije prodavnica aplikacija zabilježile seksualno neprikladan sadržaj koji je generisao bot.
„Rečeno je da je ‘virtuelni prijatelj’ sposoban poboljšati emocionalno blagostanje korisnika i pomoći korisnicima da shvate njihove misli i smire anksioznost kroz upravljanje stresom, socijalizaciju i potragu za ljubavi,” rekao je regulator.
“Ove karakteristike uključuju interakciju s raspoloženjem osobe i mogu dovesti do povećanog rizika za pojedince koji još nisu odrasli ili su emocionalno ranjivi.”
Luki je naloženo da prekine obradu podataka Italijana u roku od 20 dana ili rizikuje kaznu do 20 miliona eura ili 4% prometa.
Veze aplikacije sa Rusijom također privlače pažnju, kaže Jonathan Armstrong iz pravne savjetodavne službe Cordery. Luku su osnovala dvojica Rusa, Eugenia Kuyda i Philip Dudchuk.
“Iako se čini da ovo nije uključeno u italijansku istragu, postojala je zabrinutost da je Luka također koristio Repliku za emitiranje ruskih propagandnih poruka”, napisao je Armstrong.
“Istraživači su uključili snimke ekrana razgovora na kojima Replika kaže da prikuplja informacije za ruske vlasti. Čini se da Replika trenutno ima oko 10 miliona korisnika, što Luki donosi procijenjenih 1 milion dolara mjesečno naknade za preuzimanja nadogradnje.”
Presuda GPDP-a može dovesti do sličnog ispitivanja popularnih AI robota kao što je ChatGPT, dodao je.
“Postojala je zabrinutost oko transparentnosti aplikacije ChatGPT, uključujući navode da su neke informacije koje je dala bile netačne, na primjer u vezi sa Elonom Muskom i akvizicijom Twittera”, zaključio je Armstrong.
Izvor: Infosecurity Magazine
