Indignatie redactie 
Overheden over de hele wereld bundelen hun krachten met AI-bedrijven in een aanval op het recht op privacy. Het gevaar dat de chatcontrole de dam doorbreekt is niet hypothetisch, waarschuwde Signal-baas Meredith Whittaker in Brussel. Wij publiceren haar toespraak als gastcommentaar.
Zoals u weet bevinden we ons midden in een storm van mondiale aanvallen op het mensenrecht op privacy – waarbij regeringen, veiligheidsdiensten, NGO’s en AI-bedrijven met veel geld en weinig transparantie werken om de weinige veilige havens die er zijn te verdringen . Wij verzetten ons tegen het wrede bedrijfsmodel voor surveillance en tegen de staten die daarvan profiteren.
Ik werk al bijna twintig jaar in de technologie-industrie en heb herhaaldelijk te maken gehad met kwesties op het gebied van gegevensbescherming en privacy. Ik heb veel aanvallen op encryptie door overheden gezien. Maar ik heb nog nooit zoiets opzettelijk misleidend gezien als de campagne die ik nu zie.
Privacy: Het voorbeeld van Groot-Brittannië is alarmerend
Ik kom net uit Groot-Brittannië, dat voorop loopt in de campagne tegen encryptie en het recht op privacy. Wat ik daar zag is alarmerend. Anti-intellectualisme en propaganda domineren zowel de populaire als een groot deel van de zogenaamde expertdiscussie. Er hangt een sfeer van hysterie en dreiging boven elke poging tot zinvolle discussie – inclusief discussies over best practices voor de ondersteuning van kinderen die verschillen van een fixatie op online surveillance.
Het wordt eng en moeilijk om de mensenrechten te verdedigen als blijkt dat je demonen en monsters verdedigt. Onder deze barre omstandigheden was democratisch overleg over deze ongelooflijk ernstige schending van rechten nauwelijks mogelijk.
Deze sfeer van hysterie maskeert het ongemakkelijke feit dat de technologie voor wat ze willen voorschrijven niet in een haalbare vorm bestaat. In tegenstelling tot de beweringen van de organisaties die ze op de markt brengen, is het niet mogelijk om ieders end-to-end gecodeerde communicatie veilig en privé te scannen om verboden spraak te markeren. Het tegendeel beweren is magisch denken.
Maar zelfs onder deze omstandigheden hebben velen in Groot-Brittannië zich uitgesproken. De mensenrechtengemeenschap, de gemeenschap van academische deskundigen, burgerrechtenorganisaties en vele anderen in Groot-Brittannië hebben zich voorafgaand aan de aanneming van de wetgeving uitgesproken.
Amnesty maakte duidelijk dat elke actie om end-to-end-encryptie te ondermijnen het mondiale werk ervan in gevaar zou brengen. Omdat de communicatie niet binnen een specifiek rechtsgebied plaatsvindt, lopen de kwetsbare mensen die onder autoritair toezicht leven en met wie Amnesty communiceert, ook het risico dat hun privacy wordt beroofd en blootgesteld.
Stonewall, een LGBTQ-belangenorganisatie, uitte soortgelijke gevoelens, daarbij verwijzend naar haar mondiale werk en de 64 landen die de LGBTQ-identiteit criminaliseren. En velen die Oekraïne kenden, uitten soortgelijke zorgen. De overheid daar gebruikt het Messenger Signal als centrale communicatie-infrastructuur.
Privacy: Gereedschappen die niet geschikt zijn voor het doel
Een heel koor van experts sprak ook over de valse marketing- en AI-hype waarop de aannames van het wetsvoorstel zijn gebaseerd. Het onafhankelijke onderzoekscentrum REPHRAIN, dat in opdracht van de Britse regering de voor dergelijk gebruik voorgestelde prototypen van AI-scanners moest beoordelen, verklaarde op de meest onorthodoxe wijze dat deze instrumenten niet geschikt waren voor het beoogde doel, en kwam daarmee tot overeenstemming over een al lang bestaande consensus onder deskundigen.
Zelfs het biljoenenbedrijf Apple Inc., dat in 2021 kortstondig gebruik maakte van client-side scanning voor gecodeerde gegevens voordat bleek dat zijn systeem ernstige kwetsbaarheden vertoonde, verklaarde publiekelijk dat ze zich realiseerden dat dit eenvoudigweg niet het geval was. Het is mogelijk om zo’n systeem te bouwen . systeem dat zowel privé als veilig is. Aan het einde van het proces moest zelfs de Britse regering zelf toegeven dat er geen technologie bestaat die op veilige en vertrouwelijke wijze end-to-end gecodeerde communicatie kan scannen.
Wat voor mij schokkend was, was dat het wetsvoorstel ondanks deze bevinding van de Britse regering naar voren werd geschoven. Verschillende mensen met wie ik in de regering sprak, wuifden het eenvoudigweg weg: de politieke inertie zou blijven voortduren, ongeacht de gevaren, schade en dwaasheid, zeiden ze, terwijl ze in de verte keken.
Er werd ons verteld dat het ministerie van Binnenlandse Zaken deze wet wilde, en de macht die deze zou geven om de encryptie te ondermijnen. Zelfs nadat het voorwendsel was uitgehold en de beweringen onherkenbaar op de proef waren gesteld, bleef de wet vooruitgaan. En gaandeweg zijn ernstige scheuren in de democratische grondslagen van Groot-Brittannië aan het licht gekomen.
Privacy: De EU kan dit tegenhouden
De EU heeft een kans om dit tij te keren en afstand te nemen van de absurditeit die de privacy situatie in Groot-Brittannië heeft bepaald. Als dat niet het geval is, weet ik niet wat we moeten doen, omdat de goedkeuring door de EU van zo’n diepgaande terugdraaiing van de mensenrechten – en zo’n aanzienlijke steun voor surveillance in Big Tech-stijl – de deur zou openen voor al het andere.
Ik kom niet uit een land waar we onze instellingen zo veilig kunnen vertrouwen als hier. Een vrouw genaamd Jessica Burgess en haar dochter zitten nu in de gevangenis in de VS. U bent veroordeeld voor een misdrijf wegens het ontvangen van gecriminaliseerde reproductieve gezondheidszorg in de staat Nebraska. Facebook-berichten van het bedrijf waren belangrijk bewijsmateriaal bij de veroordeling van Jessica en haar dochter .
Een golf van boekenverboden blijft veel Amerikaanse staten overspoelen, terwijl een wet in Florida suggereert dat journalisten die de lokale politiek bestrijken zich bij de staat moeten registreren. En senator Marsha Blackburn suggereerde onlangs dat een soortgelijke beoordeling voor de EU zou moeten worden uitgebreid naar LGBTQ+-inhoud. Voor mij is het gevaar van een hellend vlak niet hypothetisch.
Dit wil niet zeggen dat de EU haar instellingen volledig moet vertrouwen. Waar deze wetten ook worden gehandhaafd, zijn er veel geïnteresseerde technologiebedrijven (waarvan sommige zich voordoen als niet-gouvernementele organisaties) en overheidsinstanties die graag hun winsten en/of macht willen vergroten.
Volgens recente onderzoeksrapporten lobbyt EUROPOL al bij de Europese Commissie om het scannen uit te breiden, omdat er “andere misdaadgebieden zijn die baat zouden hebben bij detectie.”. Volgens de notulen van de bijeenkomst reageerden de commissarissen niet met afgrijzen maar met strategische voorzichtigheid, waarbij zij EUROPOL adviseerden dat “gezien de vele gevoelige aspecten van het voorstel realistisch moet zijn over wat te verwachten.”
Privacy: Beweringen zonder bewijs
Als institutionele voorzichtigheid gerechtvaardigd is als het om de overheid gaat, dan is wantrouwen jegens de bedrijven die de hype rond AI als een manier om kinderen te beschermen bijna noodzakelijk. Het is diep ironisch dat dezelfde regering die aandringt op zinvolle regulering van AI met de AI Act en de Digital Markets Act (DMA), ook trapt in een ongefundeerde AI-hype als het om kinderen gaat. En ja, de AI-hype is de meest nauwkeurige beschrijving van de marketing- en ongefundeerde beweringen over het scannen aan de clientzijde op gecodeerde communicatie.
Vorige week organiseerden AI-bedrijf en NGO Thorn een webinar om AI-technologieën te promoten om encryptie te ondermijnen bij EU-beleidsmakers, met een hele sessie gewijd aan CEO’s van AI-bedrijven die “detectieoplossingen in end-to-end gecodeerde omgevingen” bespraken. Omdat dit werd gepresenteerd als een interventie om kinderen te beschermen, wordt het niet met de scepsis behandeld waar de meeste andere technologie-advocacy-activiteiten gewoonlijk op worden gereageerd. DragonFlAI, een van de bedrijven die zijn uitgenodigd om hun technologie in het webinar te commercialiseren, is geassocieerd met biometriegigant Yoti.
DragonFlAI beweerde – zonder bewijs te leveren – dat hun technologie het mogelijk maakt “naaktheid en leeftijd samen te detecteren in e2ee.” Maar ook hier is er geen technologie die dit kan doen. De technologie die is ontwikkeld – inclusief de producten van DragonFlAI – is bekritiseerd als onpraktisch, gebrekkig en uiteindelijk onveilig en inbreuk makend op de privacy. De bedrijven die deze diensten aanbieden, verkopen technologische oplossingen voor sociale problemen (terwijl ze veiligheidsdiensten voorzien van een geheime achterdeur voor gecodeerde communicatie).
Ze gebruiken miljoenen dollars om het politieke proces op alarmerende wijze te beïnvloeden, en in het geval van de EU zijn sommige leden van de regering, volgens recente rapporten ,bereidwillige deelnemers die op zeer tegenstrijdige manieren met deze bedrijven en hun netwerken samenwerken.
Hoe vaak je het ook zegt, AI is niet bewust, het is niet bovenmenselijk, en AI-aangedreven scannen kan niet tegelijkertijd de privacy en veiligheid garanderen en alle privécommunicatie monitoren. Het is de taak van toezichthouders om dit te begrijpen.
Privacy: “Wij gaan liever”
Nu de rook optrekt en de financiële invloed van degenen die de encryptie proberen te ondermijnen voor winst en macht steeds duidelijker wordt, ben ik voorzichtig optimistisch dat de EU de plaats kan zijn waar deze golf van aanvallen stopt. Want als deze golf van wetgeving zich buiten Groot-Brittannië verspreidt, is het niet duidelijk of Signal kan overleven. Net zoals onze inzet om een instrument te bieden voor betekenisvolle privécommunicatie niet per regio verandert, verandert ook ons standpunt over deze wetgeving niet.
Wij zijn een non-profitorganisatie, wat betekent dat we ons volledig kunnen concentreren op onze principes en missie zonder dat aandeelhouders of durfkapitalisten ons tot compromissen dwingen.
Net als in het Verenigd Koninkrijk, net als in Iran, zoals overal, zullen we er alles aan blijven doen om ervoor te zorgen dat mensen in de Europese Unie toegang hebben tot signaal- en privécommunicatie. Maar we zullen de privacy- en veiligheidsverplichtingen die we zijn aangegaan met mensen in de EU en de rest van de wereld niet ondermijnen of in gevaar brengen. We zullen nooit een achterdeur installeren of anderszins de codering ondermijnen die ervoor zorgt dat mensen Signal veilig gebruiken. We gaan liever weg dan dit te doen.
Deze tekst is de lezing die Meredith Whittaker gaf tijdens een persevenement over encryptie en surveillance in Brussel op 23 september . Wij hebben de tekst iets ingekort. EDRi, een vereniging van burgerrechtenorganisaties die zich inzetten voor gegevensbescherming en digitale vrijheden, nodigde het evenement uit .
