Microsoft’s Recall AI -tool maakt een ongewenste rendement

Voorstanders van beveiliging en privacy maken zich voor een nieuwe zware strijd tegen terugroepen, de AI -tool die uitrolt in Windows 11 die screenshot, index zal en opslaan wat een gebruiker om de drie seconden doet.

Toen terugroepactie werd geïntroduceerd in mei 2024, castigeerden beveiligingsbeoefenaars het ronduit voor het maken van een goudmijn voor kwaadwillende insiders, criminelen of natiestaatspies als ze erin slaagden om zelfs korte administratieve toegang tot een Windows-apparaat te krijgen. Voorstanders van privacy waarschuwden dat terugroepen rijp was voor misbruik in intieme partnergeweldinstellingen. Ze merkten ook op dat er niets zou stoppen met het behoud van gevoelige verdwijnende inhoud die werd verzonden via privacybeschermende boodschappers zoals signaal.

Totale terugroepactie

Na maanden van terugslag heeft Microsoft later teruggeroepen geschorst. Op donderdag zei het bedrijf dat het herroeping opnieuw introduceerde. Het is momenteel alleen beschikbaar voor insiders met toegang tot de Windows 11 Build 26100.3902 Preview -versie. Na verloop van tijd zal de functie breder worden uitgerold. Microsoft -functionarissen schreven:

Terugroepen (preview)* Saveert u tijd door een geheel nieuwe manier aan te bieden om te zoeken naar dingen die u op uw pc veilig hebt gezien of gedaan. Met de AI -mogelijkheden van Copilot+ PCS is het nu mogelijk om snel te vinden en terug te keren naar elke app, website, afbeelding of document alleen door de inhoud ervan te beschrijven. Om terugroeping te gebruiken, moet u zich aanmelden voor het opslaan van snapshots, die afbeeldingen van uw activiteit zijn, en zich inschrijven voor Windows Hallo om uw aanwezigheid te bevestigen, zodat alleen u toegang hebt tot uw snapshots. U hebt altijd de controle over welke snapshots worden opgeslagen en kunt op elk gewenst moment pauzeren op het opslaan van snapshots. Terwijl u uw Copilot+ pc gedurende de dag gebruikt, werkt hij aan documenten of presentaties, neemt u videogesprekken en contextschakelen tussen activiteiten, roept terug, neemt regelmatige snapshots en helpt u dingen sneller en eenvoudiger te vinden. Wanneer u iets moet vinden of terug moet gaan naar iets dat u eerder hebt gedaan, opent u de terugroepactie en authenticeer ze met Windows Hallo. Wanneer u hebt gevonden waarnaar u zocht, kunt u de applicatie, website of document opnieuw openen, of klik gebruiken om te doen om te handelen op een afbeelding of tekst in de momentopname die u hebt gevonden.

Microsoft hoopt dat de concessies die opt-in vereisen en de mogelijkheid om terugroepen te pauzeren, de collectieve opstand zullen helpen onderdrukken die vorig jaar uitbrak. Het zal waarschijnlijk niet om verschillende redenen.

Ten eerste, zelfs als de gebruiker A nooit kiest om terug te roepen, hebben ze geen controle over de instelling op de machines van gebruikers B via Z. Dat betekent dat alles wat gebruiker A verzendt, screenshotted wordt, verwerkt met optische tekenherkenning en copilot AI en vervolgens opgeslagen in een geïndexeerde database op de andere gebruikersapparaten. Dat zou zonder onderscheid allerlei gevoelige materiaal van de gebruiker A, inclusief foto’s, wachtwoorden, medische aandoeningen en gecodeerde video’s en berichten, opspringen. Zoals privacygidsen schrijver Em schreef op Mastodon:

Deze functie zal helaas uw informatie extraheren uit alle beveiligde software die u mogelijk hebt gebruikt en op een mogelijk meer veilige manier op de computer van deze persoon opslaan.

Natuurlijk kan deze persoon dit sowieso een screenshot van dit alles maken, maar deze functie maakt het dat zelfs een goedbedoeld persoon misschien niet weet dat het aan is, of misschien ten onrechte aanneemt dat het veilig genoeg is.

Deze functie is nog niet volledig uitgebracht, maar het kan binnenkort zijn.

De aanwezigheid van een gemakkelijk doorzoekbare database die elk wakker moment van een machine vastlegt, zou ook een bonanza zijn voor anderen die niet in het hart van gebruikers hebben. Dat niveau van gedetailleerd archiefmateriaal zal ongetwijfeld worden onderworpen aan dagvaarding door advocaten en regeringen. Dreigingsacteurs die erin slagen om hun spyware op een apparaat te installeren, hoeven het niet langer te schuren voor de meest gevoelige gegevens die daar zijn opgeslagen. In plaats daarvan zullen ze terugroepen, net zoals ze nu browserdatabases doen die wachtwoorden opslaan.

Microsoft reageerde niet meteen op een bericht met de vraag waarom het terugvoering minder dan een jaar nadat de functie zo’n koude ontvangst kreeg. Voor critici is terugroepen waarschijnlijk een van de meest schadelijke voorbeelden van enshittification, de recent geslagen term voor de schoenlepaard van ongewenste AI en andere functies in bestaande producten wanneer er te verwaarlozen voordeel is voor gebruikers.

Dit verhaal verscheen oorspronkelijk op ARS Technica.