Jaren geleden kondigde Amazon aan dat het zijn Rekognition-gezichtsherkenningsdienst niet langer zou aanbieden aan de Amerikaanse politie. Het bedrijf blijft echter samenwerken met de FBI en geeft de dienst mogelijk toegang tot andere biometrische methoden.
Het Amerikaanse bedrijf Amazon blijft zijn beeldherkenningsdienst aanbieden aan de politie in de VS – hoewel het bedrijf feitelijk had aangekondigd de samenwerking op het gebied van gezichtsherkenning tot nader order op te schorten. Dat blijkt uit een lijst van het Amerikaanse ministerie van Justitie , waarin het gebruik van zogenoemde kunstmatige intelligentie (AI) bij ondergeschikte autoriteiten als de FBI wordt gedocumenteerd.
Amazon ontkent echter dat het zijn zelfopgelegde moratorium op samenwerking met de politie heeft geschonden . Enerzijds geldt het alleen voor het gebruik van gezichtsherkenning, anderzijds geldt het alleen voor strafrechtelijke onderzoeken, zo citeert het online medium Fedscoop een woordvoerder van het bedrijf . Daarnaast is Rekognition een dienst voor beeld- en videoanalyse die veel meer functies biedt dan alleen gezichtsherkenning , aldus de woordvoerder. Uit de verklaring blijkt niet precies welke functies de FBI in dit verband gebruikt.
Lijst is bedoeld om transparantie te creëren
De lijst van het Amerikaanse ministerie van Justitie gaat terug op een uitvoerend bevel van ex-president Donald Trump in 2020. Dienovereenkomstig moeten federale autoriteiten openbare registers bijhouden van hun gebruik van AI-instrumenten. Uit de lijst blijkt bijvoorbeeld dat de federale politie ATF, gespecialiseerd in wapens, het zogenaamde ShotSpotter-systeem gebruikt om potentiële schoten in steden te detecteren.
De Amazon-service die door de FBI wordt gebruikt, staat bekend als ‘Project Tyr’. Volgens de gedetailleerde beschrijving bevindt het zich in een vroege introductiefase. Welke AI-technologie precies zal worden gebruikt, moet nog worden opgehelderd. De AI-toepassing wordt momenteel aangepast om objecten zoals wapens, explosieven, maar ook naaktheid en andere ‘identificerende informatie’ te detecteren en te controleren, zo blijkt uit de samenvatting van de toepassingsgebieden.
Noch Amazon, noch het Amerikaanse ministerie van Justitie verstrekten verdere details aan Fedscoop, die de vermelding op de AI-lijst vorige week ontdekte . De FBI reageerde helemaal niet op vragen. Over wat er precies achter Project Tyr zit, kun je dus alleen maar speculeren, ook al wordt gezichtsherkenning daadwerkelijk weggelaten – wat ook in de algemene voorwaarden van Amazon staat .
Biometrie stopt niet bij gezichtsherkenning
Biometrische technologie is onder meer gevaarlijk omdat ze de anonimiteit in de publieke ruimte in gevaar brengt en bovendien foutgevoelig is omdat ze bestaande vooroordelen reproduceert . Niet voor niets zijn de beperkingen op het gebruik van gezichtsherkenning een van de meest omstreden punten in de momenteel onderhandelde EU-regelgeving inzake AI .
Verschillende grote bedrijven, waaronder Amazon en Microsoft , wachten voorlopig af en zeggen in ieder geval dat ze de technologie “verantwoord” proberen te gebruiken . Gezichtsherkenning is niet verdwenen uit het dagelijkse politieleven; de lokale Amerikaanse politie maakt al jaren op grote schaal gebruik van de controversiële software van de Amerikaanse provider Clearview .
Maar de gevaren van biometrische surveillance houden niet op bij geautomatiseerde gezichtsherkenning. Ten slotte kunnen specifieke bewegingen van mensen, zoals hun gang, biometrisch worden geëvalueerd – wat volledig compatibel zou zijn met de ‘identificerende informatie’ die Project Tyr momenteel introduceert. Als dit waar zou zijn, dan zou niet de geautomatiseerde gezichtsherkenning een gevaar worden, maar eerder de even problematische herkenning van bepaalde bewegingspatronen .
Hoe dan ook, veel grote Amerikaanse bedrijven verminderen momenteel hun samenwerking met de politie. Vanaf deze week staat Amazon niet langer onbeperkte toegang van de Amerikaanse politie toe tot de bewakingscamera’s in zijn Ring-systeem. Er is nu een geldig huiszoekingsbevel vereist . Apple is dit onlangs ook gaan eisen wanneer wetshandhavingsinstanties gegevens opvragen via pushmeldingen . En in december kondigde Google aan dat het in de toekomst restrictiever zou omgaan met zogenaamde dragnet-verzoeken .