In plaats van terrorisme te bestrijden, hebben bewakingstechnologieën een “verwoestende” impact op de mensenrechten, waarschuwt de Verenigde Naties in een rapport. Onder meer biometrische surveillance in het openbaar en de handel in trojans moeten worden stopgezet.
Volgens het jaarverslag van de Mensenrechtenraad van de Verenigde Naties (VN) is de strijd tegen het terrorisme vaak slechts een voorwendsel om de mensenrechten door middel van surveillance in te perken . Technologieën zoals biometrische surveillance of drones worden “wereldwijd misbruikt om mensenrechten te beperken en te schenden”, schrijft de Ierse speciale rapporteur Fionnuala D. Ní Aoláin in het rapport ( docx / pdf ).
Op het eerste gezicht gaat het om de uitzonderlijke dreiging van terrorisme. Dit wordt echter alleen gebruikt als “politieke en juridische rechtvaardiging voor de introductie van risicovolle en zeer privacy-invasieve technologieën”, aldus het rapport. Wetgevers beloven vaak dat nieuwe toezichtmaatregelen strikt beperkt zullen zijn. Maar dat is een “luchtspiegeling”, aldus het rapport. Het gevaar is een “breed en alomvattend gebruik” zonder passende constitutionele belemmeringen.
Daarnaast hekelt de speciale rapporteur het “bekrompen veiligheidsdenken”, zeker in de strijd tegen het terrorisme. Onderzoek naar grotere contexten ontbreekt.
“Verwoestende effecten”
De speciale rapporteur noemt de wereldwijde impact van bewakingstechnologieën op de mensenrechten “verwoestend”. De belangrijkste bedreigingen zijn privacy, vrijheid van meningsuiting, vrijheid van vereniging en politieke participatie.
Het rapport bekritiseert dat er geen internationale definitie van terrorisme en extremisme bestaat. Daarom konden staten zelf de termen definiëren en zo hun eigen belangen nastreven. Weinigen zijn in overeenstemming met de mensenrechten en de rechtsstaat.
De Speciale Rapporteur heeft ook kritiek op het gebruik van drones om protesten te monitoren. Dit is geen uitzondering meer, maar een gewoonte geworden. Het gaat niet alleen om privacy, vrijheid van meningsuiting en vrijheid van vergadering. Drones kunnen ook een rol spelen bij willekeurige arrestaties.
“Aanzienlijke bedreiging voor democratische samenlevingen”
De rapporteurs spreken ook hun diepe bezorgdheid uit over het gebruik van AI-systemen, d.w.z. computerprogramma’s die met grote hoeveelheden gegevens werken. Autoriteiten gebruiken ook AI-systemen om de waarschijnlijkheid van toekomstige misdaden in te schatten. Op basis van AI-aanbevelingen konden mensen gevolgd of gearresteerd worden. AI-beoordelingen alleen zouden echter geen reden voor verdenking moeten zijn, aldus het rapport.
Het rapport bekritiseert ook expliciet specifieke actoren. De rol van de niet-gouvernementele organisatie Biometrics Institute is daarom “twijfelachtig”. Volgens de organisatie wordt gewerkt aan verantwoord gebruik van biometrie. Volgens het VN-rapport staat de organisatie dicht bij de staat en het bedrijfsleven; stemmen van het maatschappelijk middenveld zouden worden uitgesloten.
Het rapport noemt ook fabrikanten van bewakingssoftware, zogenaamde trojans. Een van de bekendste is de NSO-groep , wiens staatstrojan Pegasus in tal van landen is gebruikt om oppositieleden, mensenrechtenactivisten en journalisten aan te vallen. De Speciale Rapporteur spreekt in dit verband van een “aanzienlijke” impact op de mensenrechten en een “escalatie van geheime surveillance”. De snelle ontwikkeling van onvoldoende gereguleerde nieuwe technologieën op dit gebied vormt een “aanzienlijke bedreiging voor democratische samenlevingen”. De Speciale Rapporteur pleit voor een moratorium op de handel in spyware en spionagetechnologie
Verbetering nodig voor AI-Act
Het rapport formuleert ook verdere aanbevelingen voor de naleving van mensenrechten, meer privacy en betere gegevensbescherming, zoals een wereldwijd verbod op dodelijke autonome wapensystemen, strengere exportcontroles op bewakingstechnologie en een moratorium op gezichtsherkenning en andere biometrische bewakingssystemen in het openbaar. .
De EU onderhandelt momenteel over een geplande AI-richtlijn . Het gaat onder meer om het terugdringen van het gebruik van surveillancetechnologie. Het VN-rapport beveelt de EU aan af te zien van de geplande “nationale veiligheid”-uitzonderingen . Door deze uitzonderingen kunnen staten bijvoorbeeld technologie gebruiken die eigenlijk verboden is, zoals biometrische identificatie op afstand (afgekort RBI, wat staat voor “remote biometrische identificatie”). Denk bijvoorbeeld aan bewakingscamera’s die personen op hun weg door de stad kunnen herkennen en volgen.