
Recall Snapshots en AI-verwerking van een scherm elke 3 seconden. Wat kan er misgaan?
Voorstanders van veiligheid en privacy bereiden zich voor op een nieuwe zware strijd tegen Recall, de AI-tool die binnenkort in Windows 11 wordt uitgerold en die elke drie seconden een screenshot maakt van alles wat een gebruiker doet, dit indexeert en opslaat.
Toen Recall in mei 2024 voor het eerst werd geïntroduceerd, bekritiseerden beveiligingsprofessionals het systeem hevig omdat het een goudmijn creëerde voor kwaadwillende insiders, criminelen of spionnen van de staat, zelfs als ze er maar kortstondig in slaagden om beheerderstoegang tot een Windows-apparaat te krijgen. Privacyactivisten waarschuwden dat Recall vatbaar was voor misbruik in situaties van partnergeweld. Ze merkten ook op dat niets Recall ervan weerhield om gevoelige, verdwijnende content te bewaren die werd verzonden via privacybeschermende berichtendiensten zoals Signal.
Enshittificatie op een nieuwe schaal
Na maanden van negatieve reacties schortte Microsoft Recall later op. Donderdag maakte het bedrijf bekend dat het Recall opnieuw zou introduceren. De functie is momenteel alleen beschikbaar voor insiders met toegang tot de previewversie van Windows 11 Build 26100.3902. Na verloop van tijd zal de functie breder worden uitgerold. Microsoft-functionarissen schreven:
Recall (preview)* bespaart u tijd door een geheel nieuwe manier te bieden om veilig te zoeken naar dingen die u op uw pc hebt gezien of gedaan. Dankzij de AI-mogelijkheden van Copilot+ pc’s kunt u nu snel elke app, website, afbeelding of document vinden en ernaar terugkeren door simpelweg de inhoud ervan te beschrijven. Om Recall te gebruiken, moet u zich aanmelden voor het opslaan van snapshots (afbeeldingen van uw activiteit) en u registreren bij Windows Hello om uw aanwezigheid te bevestigen, zodat alleen u toegang hebt tot uw snapshots.
U behoudt altijd de controle over welke snapshots worden opgeslagen en kunt het opslaan van snapshots op elk moment pauzeren. Terwijl u uw Copilot+ pc de hele dag door gebruikt om te werken aan documenten of presentaties, videogesprekken te voeren en van context te wisselen tussen activiteiten, maakt Recall regelmatig snapshots en helpt u dingen sneller en gemakkelijker te vinden.
Wanneer u iets wilt vinden of terug wilt keren naar iets dat u eerder hebt gedaan, opent u Recall en authenticeert u zich met Windows Hello. Wanneer u hebt gevonden wat u zocht, kunt u de toepassing, de website of het document opnieuw openen. U kunt ook met Klikken om uit te voeren een actie uitvoeren op een afbeelding of tekst in de momentopname die u hebt gevonden.
Microsoft hoopt dat de concessies die deelname vereisen en de mogelijkheid om Recall te pauzeren, zullen helpen de collectieve opstand die vorig jaar uitbrak, te onderdrukken. Om verschillende redenen zal dat waarschijnlijk niet lukken.
Ten eerste, zelfs als Gebruiker A nooit kiest voor Recall, heeft hij geen controle over de instellingen op de apparaten van Gebruikers B tot en met Z. Dat betekent dat alles wat Gebruiker A hem stuurt, wordt gescreenshot, verwerkt met optische tekenherkenning en Copilot AI, en vervolgens wordt opgeslagen in een geïndexeerde database op de apparaten van de andere gebruikers. Dat zou lukraak allerlei gevoelige informatie van Gebruiker A opslokken, waaronder foto’s, wachtwoorden, medische aandoeningen en versleutelde video’s en berichten. Zoals Privacy Guides -schrijver Em schreef op Mastodon :
De aanwezigheid van een gemakkelijk doorzoekbare database die elk wakend moment van een machine vastlegt, zou ook een goudmijn zijn voor anderen die het beste met hun gebruikers voor hebben. Dat niveau van gedetailleerd archiefmateriaal zal ongetwijfeld worden gedagvaard door advocaten en overheden. Criminelen die erin slagen hun spyware op een apparaat te installeren, hoeven het niet langer af te speuren naar de meest gevoelige gegevens die erop zijn opgeslagen. In plaats daarvan zullen ze Recall doorzoeken, net zoals ze dat nu doen met browserdatabases waarin wachtwoorden worden opgeslagen.
Microsoft reageerde niet direct op een bericht met de vraag waarom het Recall opnieuw introduceert, minder dan een jaar nadat de functie zo koel werd ontvangen. Voor critici blijft Recall waarschijnlijk een van de meest verderfelijke voorbeelden van enshittification , de recent bedachte term voor het inpassen van ongewenste AI en andere functies in bestaande producten terwijl de gebruikers er nauwelijks baat bij hebben.