Microsoft odgađa izdavanje kontroverznog Windows AI alata za opoziv zbog zabrinutosti za privatnost

Microsoft je najavio da će odgoditi široko izdanje svoje funkcije opoziva sa AI-om za Windows Copilot+ PC, nakon žestokih kritika korisnika i zagovornika privatnosti.

Ova funkcija, koja je prvobitno bila najavljena za široku dostupnost 18. juna, sada će prvo biti objavljena kao pregled članovima Windows Insider programa u narednim sedmicama.

Recall je dizajniran da povremeno snima snimke ekrana aktivnih prozora korisnika, stvarajući vizualnu vremensku liniju koja se može pretraživati ​​kako bi korisnicima pomogla da brzo pronađu prethodno pregledani sadržaj u aplikacijama, web stranicama, slikama i dokumentima.

Iako je Microsoft promovisao ovu funkciju kao poboljšanje produktivnosti, pojavila se zabrinutost u vezi s implikacijama na privatnost i sigurnost pohranjivanja i analize tako osjetljivih podataka.

Kao odgovor na ove zabrinutosti, Microsoft je napravio nekoliko promjena u implementaciji opoziva. Funkcija će sada biti uključena, što će biti onemogućeno prema zadanim postavkama osim ako korisnici ne odluče da je omoguće.

Osim toga, Microsoft implementira poboljšane sigurnosne mjere, kao što je zahtijevanje Windows Hello biometrijske autentifikacije za pristup podacima opoziva i šifrovanje baze podataka indeksa pretraživanja.

Uprkos ovim promjenama, neki stručnjaci su i dalje skeptični u pogledu potencijalnih rizika povezanih s opozivom. Profesorka Jen Golbeck sa odsjeka za vještačku inteligenciju Univerziteta Maryland upozorila je da bi ova funkcija mogla biti “noćna mora” ako uređaj padne u pogrešne ruke, jer može omogućiti pristup osjetljivim informacijama čak i sa uključenim postavkama privatnosti kao što je anonimni način rada.

Istraživači sajber sigurnosti također su izrazili zabrinutost zbog potencijala zlonamjernog softvera da narušava podatke koje pohranjuje Recall. Objavljena je nova alatka, TotalRecall , koja iskorištava sigurnosnu ranjivost u Microsoftovoj funkciji Windows Recall za snimanje snimaka ekrana i njihovo lokalno skladištenje u nešifrovanu bazu podataka.

Odgađajući široko izdanje Recall-a i prvo ga stavljajući na raspolaganje Windows Insajderima, Microsoft ima za cilj prikupiti dodatne povratne informacije i osigurati da ova funkcija ispunjava standarde sigurnosti i kvaliteta kompanije prije nego što je uvede šire.

Ovaj potez odražava sve veći nadzor oko implementacije AI sposobnosti jer kompanije nastoje da uravnoteže potencijalne prednosti sa potrebom za odgovornim upravljanjem tehnologijom.

Zabrinutost u vezi s privatnošću povezana s Microsoftovom funkcijom opoziva za Copilot+ PC:

1. Nedostatak opt-in mehanizma: U početku je Recall bio podešen da bude podrazumijevano omogućen na Copilot+ računarima, što je izazvalo zabrinutost u vezi sa pristankom korisnika i kontrolom nad njihovim podacima.
2. Izloženost osjetljivim podacima: Povremenim snimanjem ekrana aktivnih prozora korisnika, Recall bi potencijalno mogao uhvatiti i pohraniti osjetljive informacije, čak i uz omogućene postavke privatnosti kao što je anonimni način rada.
3. Pristup podacima i sigurnost: Ako uređaj s opozivom padne u pogrešne ruke, mogao bi pružiti neovlašteni pristup vremenskoj liniji aktivnosti korisnika i privatnim podacima. Istraživači sajber sigurnosti upozorili su da bi hakeri mogli ciljati bazu podataka Recall kako bi brzo izbrisali čitavu istoriju aktivnosti korisnika.
4. Nedovoljna zaštita podataka: Prije Microsoftovih nedavnih promjena, baza podataka opoziva i snimci ekrana bili su pohranjeni nešifrovani na uređajima, što je dodatno povećavalo rizik od kršenja podataka i zloupotrebe.
5. Zabrinutost za visokorizične korisnike: Zagovornici privatnosti istakli su da bi Recall mogao učiniti uređaje izvršnih direktora, novinara i drugih osoba visokog profila još privlačnijim metama za hakere i represivne vlade.

Microsoft implementira nekoliko specifičnih sigurnosnih mjera za funkciju opoziva kao odgovor na zabrinutost zbog privatnosti:

1. Mehanizam za uključivanje: Opoziv će sada biti onemogućen prema zadanim postavkama osim ako korisnici ne odluče da ga omoguće tokom procesa Copilot+ PC podešavanja. Korisnici moraju dati izričit pristanak da Recall snimi snimke ekrana i evidentira njihove aktivnosti.
2. Windows Hello autentifikacija: Da bi pristupili funkciji opoziva i vidjeli vremensku liniju aktivnosti, korisnici se moraju autentifikovati koristeći Windows Hello biometrijske metode kao što su prepoznavanje lica ili skeniranje otiska prsta.
3. Šifrovana pohrana: Snimci opoziva će biti zaštićeni dešifrovanjem „baš na vrijeme“, što znači da će biti dešifrovani i dostupni tek nakon što se korisnik autentifikuje pomoću Windows Hello. Baza podataka indeksa pretraživanja koju koristi Recall također će biti šifrirana.
4. Obrada na uređaju: Sva obrada AI Recall i pohrana podataka odvijat će se lokalno na korisnikovom uređaju, bez slanja ikakvih podataka Microsoftu ili oblaku. Snimci će biti povezani sa korisničkim nalozima i neće se koristiti za obuku AI modela.
5. Korisnička kontrola: Korisnici mogu pauzirati, filtrirati i brisati Recall snimke u bilo kojem trenutku. Oni također mogu onemogućiti spremanje snimaka, privremeno pauzirati funkciju i filtrirati određene aplikacije i web stranice od snimanja.
6. Računari sa zaštićenim jezgrom: Svi računari Copilot+ će biti računari sa zaštićenim jezgrom, koji će ispunjavati najviše sigurnosne standarde za Windows 11 uređaje. Oni će također uključivati ​​Microsoft Pluton sigurnosni procesor i Windows Hello Enhanced Sign-in Security (ESS) na kompatibilnom hardveru.

Izvor: CyberSecurityNews