De AI-verboden van de EU kennen grote mazen in de wet voor de politie

De AI-wet van de EU verbiedt een aantal ‘onaanvaardbare’ vormen van gebruik van de technologie, maar critici zeggen dat de wet vol zit met uitzonderingen op het gebied van veiligheid.

AI – De Europese Unie verbiedt vanaf 2 februari een aantal ‘ onaanvaardbare ’ toepassingen van kunstmatige intelligentie. Daarmee is een wereldprimeur bereikt wat betreft het beperken van deze opkomende technologie.

Maar critici zeggen dat de verboden te veel mazen in de wet hebben waardoor de Europese politie en migratieautoriteiten AI kunnen gebruiken – waaronder technologie die snel gezichten kan identificeren op beveiligingscamera’s – om daders van ernstige misdaden, zoals terroristische aanslagen, op te sporen.

De AI-wet van de Europese Unie staat niet langer toe dat AI wordt gebruikt om te bepalen of iemand een misdaad zal plegen, waarbij dergelijke “predictive policing” een van de zeven categorieën van AI-gebruik is die nu verboden is. Het schrapen van afbeeldingen van internet om een ​​database op te bouwen voor gezichtsherkenning of het afleiden van iemands emoties uit biometrische gegevens is ook verboden.

Hoewel de verboden komende zondag ingaan, hebben regeringen nog tot augustus de tijd om de autoriteiten aan te wijzen die de verboden zullen handhaven.

De AI Act is een wereldprimeur in het vaststellen van regels voor hoe de nieuwe technologie kan worden gebruikt. De techbaas van de Europese Commissie, Henna Virkkunen, prees het wetsvoorstel vorig jaar als een wetsvoorstel dat “onze burgers zal beschermen” en tegelijkertijd een “facilitator voor innovatie” zal zijn. Het creëren van waarborgen voor de opkomende technologie wordt gezien als essentieel om wijdverbreid gebruik mogelijk te maken. Andere delen van de wet worden de komende anderhalf jaar geleidelijk uitgerold.

De regels onderscheiden de EU van andere delen van de wereld waar er weinig vergelijkbare regels zijn om de technologie te besturen, wat haar positie als regelgevende voorhoede onderstreept. De Amerikaanse president Donald Trump koos de tegenovergestelde aanpak door een uitvoerend bevel over AI-veiligheid van zijn voorganger, president Joe Biden, te verscheuren.

Brando Benifei, een Italiaanse wetgever die hielp bij het onderhandelen over de regels, zei dat de verboden bedoeld zijn om te voorkomen dat AI kan worden gebruikt voor “maatschappelijke controle” of de “beperking van onze vrijheden.” 

“De verboden concentreren zich vooral op één gebied van zorg, namelijk de bescherming van onze democratieën”, zei hij.

Het handhaven ervan kan rommelig zijn. Europese politie- en migratieautoriteiten gebruiken ook verschillende AI-praktijken , zoals realtime gezichtsherkenning in openbare ruimtes, en konden lange lijsten met uitzonderingen in het regelboek veiligstellen om dit te kunnen blijven doen.

Academici en activisten maken zich zorgen en houden nauwlettend in de gaten hoe de wet wordt toegepast.

“Je kunt je zelfs afvragen of je wel echt van een verbod kunt spreken als er zoveel uitzonderingen zijn”, zegt Nathalie Smuha, assistent-professor en onderzoeker in AI-ethiek aan de KU Leuven. 

Hollywood of China

Een totaalverbod op bepaalde AI-toepassingen stond nog niet in de planning toen de Europese Commissie haar experts in 2018 opdracht gaf een AI-strategie op te stellen.

Volgens Smuha, die het werk van de deskundigengroep coördineerde, veranderden experts en topambtenaren snel van mening toen ze zich realiseerden dat de bestaande wetgeving mogelijk niet voldeed aan de eisen om bepaalde praktijken aan te pakken.

In het eerste ontwerp van de Commissie voor de nieuwe AI-regels van april 2021 werd al voorgesteld om verschillende praktijken te verbieden, zoals praktijken die ‘het gedrag van een persoon verstoren’ via subliminale technieken of die kwetsbare groepen uitbuiten. 

Toen het wetsvoorstel naar het Europees Parlement ging voor bespreking, voegden wetgevers die lijst toe terwijl ze onderhandelden met overheidsfunctionarissen. De definitieve vorm van de wet werd in december 2023 overeengekomen.

Kim Van Sparrentak, een Nederlands parlementslid van GroenLinks dat betrokken is bij de onderhandelingen over de AI-wet, zei dat de verboden op de lijst in drie categorieën vallen.

“Dingen die al bestonden, maar waarvan we wisten dat we ze niet wilden, [en] dingen die we ons konden voorstellen, hetzij uit Hollywoodfilms, hetzij uit China,” zei ze.

Een zaak die van invloed was op de opstelling van de wet, was de commotie die in 2019 in Nederland ontstond toen de Nederlandse Belastingdienst een algoritme gebruikte om fraude met kinderopvangtoeslagen op te sporen. Hierdoor werden zo’n 26.000 mensen onterecht beschuldigd van fraude.

Een dergelijke praktijk zou nu verboden kunnen worden en onder voorspellend politiewerk vallen. 

“Als je een samenleving wilt die gebaseerd is op de rechtsstaat, kun je mensen niet voortdurend behandelen alsof ze al potentiële criminelen zijn”, aldus Van Sparrentak. 

Een vergelijkbaar verbod op het scrapen van foto’s van gezichten van mensen van internet komt van het Amerikaanse Clearview AI, een gezichtsherkenningsbedrijf dat werd onderzocht omdat het miljarden afbeeldingen in zijn database had opgenomen.

De AI-wet verbiedt het gebruik van “AI-systemen die gezichtsherkenningsdatabases creëren of uitbreiden door het ongericht schrapen van gezichtsafbeeldingen van internet.” 

China kan ook de inspiratiebron zijn geweest voor andere verboden, zoals een verbod op sociale scores, het Chinese systeem om personen te rangschikken op basis van hun gedrag.

Migratie

Actievoerders voor digitale rechten wezen op de “verschillende ernstige mazen in de wet”, met name voor politie en migratie, schreven 22 organisaties in januari in een open brief.

“Het meest opvallende gebrek is het feit dat de verboden niet gelden voor wetshandhavings- en migratieautoriteiten”, aldus Caterina Rodelli, EU-beleidsanalist bij de digitale rechtengroep Access Now. 

Een opvallende uitzondering is het verbod op realtime gezichtsherkenning op openbare plaatsen.

In principe kunnen opsporingsdiensten dat niet meer doen, maar EU-landen kunnen nog steeds uitzonderingen toestaan, vooral voor de ernstigste misdrijven.

AI kan ook niet worden gebruikt om emoties te detecteren op scholen of kantoren, maar dat geldt niet voor wetshandhaving en migratie. Activisten hebben gewaarschuwd dat dit het gebruik van AI-leugendetectoren, die een gezicht scannen op tekenen van bedrog, aan de grenzen mogelijk zou kunnen maken.

Volgens Van Sparrentak vormden dit soort uitzonderingen een rode lijn voor EU-regeringen tijdens de onderhandelingen, waardoor de onderhandelingen uiteindelijk tot 36 uur duurden.

“Ze willen alle hulpmiddelen die ze tot hun beschikking hebben kunnen gebruiken”, zei ze.