Indignatie redactie 
Drie jaar nadat men de gevaren van gezichtszoekmachines aan het licht bracht, onderhandelt de EU nu over een verbod. Zelfs vertegenwoordigers van de vakbond en de politie zijn hier voorstander van – maar eisen een beslissende uitzondering.
Biometrische zoekmachines voor iedereen creëren een wereld waarin niemand onopgemerkt blijft . Een momentopname is voldoende om een vreemdeling te identificeren. Nu ligt een verbod op dergelijke gezichtszoekmachines binnen handbereik. Aanleiding hiervoor is de AI-wet van de Europese Unie, ook wel de AI-wet genoemd, waarover de Commissie, Raad en Parlement momenteel in trialoog onderhandelen.
Met een gezichtszoekmachine kunnen gebruikers een foto van elke persoon uploaden en krijgen ze de plaatsen op internet te zien waar vergelijkbare gezichten verschijnen als zoekresultaat. Mogelijk ook het gezicht van het doelwit. Dit maakt het vaak mogelijk om erachter te komen wat de naam van de doelpersoon is, waar ze werken, met wie ze bevriend zijn. Dit maakt gezichtszoekmachines een bedreiging voor mensen die voor hun eigen bescherming op anonimiteit vertrouwen – of ze nu als activist* bij een demo zijn, als vrouw in de nachtbus of als queer persoon in een anti-queer omgeving.
In 2020 berichtten we voor het eerst over de gevaren van deze technologie . Bij een testrun konden we 93 van de 94 leden van de Bondsdag correct identificeren. SPD-voorzitter Saskia Esken en de grote politievakbonden riepen daarom op tot betere bescherming tegen biometrische gezichtsherkenning . De gegevensbeschermingsautoriteit van Baden-Württemberg startte een procedure tegen PimEyes . De exploitanten van de site ontvluchtten de EU, eerst naar de Seychellen en vervolgens naar Belize .
De druk om gezichtszoekmachines te verbieden kwam van het Europees Parlement . Vertaald uit het Engels luidt het amendement: Het willekeurig verzamelen van biometrische gegevens voor gezichtsdatabases “versterkt het gevoel van massasurveillance en kan leiden tot grove schendingen van fundamentele rechten, waaronder het recht op privacy”. Het Parlement eist daarom dat niemand dergelijke gezichtsdatabases mag aanbieden of aanmaken. Daarom moet het volgende worden verboden:
Het op de markt brengen, in gebruik nemen of gebruiken van AI-systemen die databases voor gezichtsherkenning creëren of uitbreiden door willekeurig gezichtsbeelden van internet of videobewakingsopnamen te lezen.
PimEyes is slechts een van de vele gratis gezichtszoekmachines die op internet beschikbaar zijn. Een vergelijkbare dienst van Clearview AI , die zijn zoekmachine vermarkt bij overheidsinstanties en bedrijven, is minder toegankelijk .
Maak kristalhelder dat services moeten worden gestopt
Met het verbod richt het EU-Parlement zich op de ruggengraat van gezichtszoekmachines. Het zijn de databases met miljoenen en miljoenen gezichten van internet die mensen identificeerbaar maken. De databanken bevatten niet de beeldbestanden zelf, maar de biometrische gegevens gekoppeld aan de plaatsen waar ze op internet gevonden zijn. Wanneer iemand een nieuwe foto uploadt, legt de zoekmachine de biometrische gegevens van de doelpersoon vast en vergelijkt deze met de database.
Juridisch gezien begeven dergelijke gezichtszoekmachines zich al op glad ijs. De Algemene Verordening Gegevensbescherming (AVG) verbiedt de verwerking van biometrische gegevens zonder expliciete toestemming . Toch blijven aanbieders van gezichtszoekmachines zaken doen. Hiervoor zijn meerdere redenen. Aan de ene kant halen de aanbieders juridische trucs uit en stellen ze hun reacties op brieven van de toezichthouders voortdurend uit. Aan de andere kant kunnen de regionale autoriteiten weinig doen tegen bedrijven in het buitenland om de rechten van de getroffenen af te dwingen.
Een verbod op AI-wetgeving zou staten kunnen versterken in hun optreden tegen gezichtszoekmachines. Daar hoopt bijvoorbeeld de organisatie voor burgerrechten EDRi (European Digital Rights) op. Op dit moment zouden bedrijven gewoon hun gezichtszoekmachines gebruiken en wachten op de trage reacties van de herziene gegevensbeschermingsautoriteiten, legt EDRi-vertegenwoordiger Ella Jakubowska uit toen we ernaar vroegen. Ze bekritiseert ook de lappendeken van toezicht op gegevensbescherming: sommige zouden zeer krachtig optreden tegen gezichtszoekmachines, andere helemaal niet. Het door de EU geplande verbod zou het echter voor aanbieders en autoriteiten “glashelder” maken dat deze diensten moeten worden stopgezet .
Zelfs de politie en de bond zijn voorstander van een PimEyes-verbod
Op vraag van netzpolitik.org bevestigden verschillende leden van het EU-parlement dat de PimEyes- en Clearview AI-zaken de aanzet vormden voor het geplande verbod op gezichtszoekmachines. “Precies deze zaken waren de aanleiding”, schrijft Patrick Breyer (Pirates). SPD-Kamerlid Tiemo Wölken schrijft dat PimEyes en Clearview AI nadrukkelijk hebben bewezen hoe gevaarlijk dergelijke zoekmachines zijn.
Steun voor het verbod komt ook uit een politiek kamp dat de privacy meestal verzwakt in plaats van versterkt: “De Duitse politiebond (DPolG) is nog steeds kritisch over gezichtszoekmachines die particuliere bedrijven als software aanbieden en wijst ze daarom af”, deelt een spreker op verzoek . En EP-lid Axel Voss (CDU) van de christen-democratische EVP-fractie schrijft:
Ik denk daarom, en ik denk dat we het ook eens zijn met de Commissie en de Raad, dat we het algemene en onbeperkte gebruik van overeenkomstige beelddatabanken wettelijk moeten reguleren met het oog op de duidelijke schending van burger- en mensenrechten en daarmee overeenkomstige gezichtszoekmachines voor het verbieden van commercieel gebruik.
Kortom: zelfs de bond en de politie willen PimEyes verbieden. Voss acht een overeenkomstig verbod in de AI-wet effectief. In tegenstelling tot de AVG laat de AI-wet volgens Voss “geen ruimte voor uiteenlopende interpretaties” voor gezichtszoekmachines. De aanbieders zouden hoge boetes krijgen.
Geschil over uitzonderingen voor de opsporingsautoriteiten
Dit verbod zal echter niet zonder geschil door de trialoog komen. Want Voss vult aan: “Als EVP-Fractie blijven we pleiten voor een uitzondering voor wetshandhaving en proactief politieoptreden”. Dat betekent ja tegen het verbod op gezichtszoekmachines – behalve de politie. Een explosieve uitzondering, waar ook de DPolG voor pleit.
SPD-digitaalpoliticus Tiemo Wölken wijst erop dat gezichtszoekmachines in sommige lidstaten “verlangen” kunnen opwekken bij de veiligheidsautoriteiten. “We zullen hier, net als bij het algemene verbod op gezichtsherkenning, moeten kijken waar het Parlement en de Raad samen kunnen komen.”
De burgerrechtenactivisten van EDRi wijzen er nadrukkelijk op hoe problematisch het gebruik van biometrische gezichtsherkenning door de politie is. EDRi had oorspronkelijk gehoopt op een veel strenger amendement van het parlement. Hij zou het gebruik van biometrische gegevens voor strafrechtelijke vervolging hebben verboden. “Helaas heeft het de definitieve tekst van het parlement niet gehaald”, schrijft Jakubowska.
De burgerrechtenactivist ziet ook een leemte in het door het EU-parlement geëiste verbod. Dienovereenkomstig is alleen het willekeurig (“ongericht”) verzamelen van gegevens voor een gezichtszoekmachine verboden. Jakubowska denkt dat het zeer waarschijnlijk is dat autoriteiten deze formulering als maas in de wet kunnen gebruiken. Met andere woorden, de autoriteiten zouden redenen kunnen verzinnen om naar verluidt de mijn te “richten” op gegevens voor een gezichtszoekmachine. Jakubowska beschouwt dergelijke en soortgelijke overheidstoezichtsprojecten als een “gecoördineerde aanval op het vermoeden van onschuld”.
Gezichtszoekmachines spelen slechts een ondergeschikte rol in de AI-wet, die bedoeld is om zogenaamde kunstmatige intelligentie integraal te reguleren. Een belangrijk twistpunt is het gebruik van real-time biometrische surveillance . Andere grote problemen draaien rond het gebruik van AI aan de buitengrenzen van de EU. De EU zou tegen het einde van het jaar overeenstemming kunnen bereiken over de definitieve tekst van de wet.
