Indignatie redactie 
White humanoid woman on blurred background using digital artificial intelligence icon hologram 3D rendering
EU legt gezichtsherkenning aan banden en sluit akkoord over regels voor AI, als eerste ter wereld.
Na ruim 36 uur onderhandelen, bereikten het Europarlement en de EU-landen vrijdagnacht een akkoord op de wet op kunstmatige intelligentie (AI). De wet stelt strenge regels voor AI-systemen met een ‘hoog risico’ voor gezondheid, veiligheid of mensenrechten. Ook komen er regels voor grote systemen als ChatGPT of Google Bard. De big tech bedrijven trachtten dat met veel lobbykracht tegen te houden.
Staatssecretaris Van Huffelen laat in een eerste reactie weten ‘ontzettend blij’ te zijn met het akkoord. ,,Omgaan met AI draait om een goede balans tussen het benutten van de mogelijkheden en het tegemoetkomen aan de bezwaren.”
De nieuwe Europese AI-wet deelt toepassingen van kunstmatige intelligentie in op risico. Hoe meer gevaren voor burgers en de democratie een toepassing in zich draagt, hoe strenger de regels. De gevaarlijkste worden verboden. Denk aan de ‘sociale scoring’-systemen die in China bestaan en die burgers voor hun gedrag belonen of straffen. Of emotieherkenning op de werkvloer, waarmee een baas bijvoorbeeld in de gaten kan houden of de medewerker van het callcenter elke klant wel opgewekt te woord staat.
En biometrische categorisatiesystemen die gebruik maken van gevoelige kenmerken zoals politieke en religieuze overtuigingen, seksuele geaardheid, ras om crimineel gedrag te voorspellen, zoals gebruikt door de Belastingdienst in het toeslagenschandaal.
De onderhandelaars twistten lang over AI voor gezichtsherkenning op straat. Het parlement wilde dat uitbannen, maar de lidstaten vonden dat voor veiligheidsdiensten juist heel belangrijk. Daarvoor krijgen zij nu wel ruimte, maar met beperkingen. Het ongericht schrapen van gezichtsbeelden van internet of CCTV-beelden om databases voor gezichtsherkenning te creëren, mag niet meer. Maar AI inzetten om personen te herkennen mag wel als er gericht wordt gezocht naar iemand die gezocht wordt voor een ernstig misdrijf, of juist naar een slachtoffer van bijvoorbeeld een ontvoering.
,,Europa kiest haar eigen weg en gaat geen Chinese surveillancestaat achterna. In een vrije en democratische samenleving moet je over straat kunnen, zonder dat de overheid je zomaar constant volgt op straat, op festivals of in voetbalstadions”, zegt Kim van Sparrentak (GroenLinks) die namens het parlement aan de onderhandelingen meedeed.
Álle AI-systemen moeten transparant zijn, zo hebben de onderhandelaars van het Europees Parlement en de 27 lidstaten afgesproken. Zo moet een klant altijd worden verteld dat die online door een chatbot wordt geholpen en niet door een mens. Consumenten krijgen ook het recht om uitleg te vragen over het gebruik van AI, denk hierbij weer aan de toeslagenaffaire, en bedrijven en overheden hebben dan de plicht die uitleg te geven.
Ook moeten de makers van AI-systemen transparant zijn over hoe die getraind zijn, hoe ze werken en rapporteren over hun energieverbruik. Op niet nakomen van de regels staan boetes die kunnen oplopen tot 35 miljoen euro of 7 procent van de jaaromzet.
AI – Historisch
Eurocommissaris Thierry Breton sprak na afloop van de drie dagen durende onderhandelingen van een ‘historisch moment’. De wetgeving schept een precedent voor regels elders in de wereld: Europese wetgeving over producten, zoals over kinderzitjes of plastic speeltjes heeft al vaak de standaard gezet. Volgens Breton beteugelt de EU de revolutionaire technologie niet alleen, maar geeft ze die voor Europese jonge bedrijfjes en onderzoekers juist vleugels. De afgelopen weken bleek dat Frankrijk, Duitsland en Italië zich ineens tegen strenge wetgeving gingen verzetten, om hun eigen techindustrie die daaraan werkt te beschermen.
Historic!
The EU becomes the very first continent to set clear rules for the use of AI 🇪🇺
The #AIAct is much more than a rulebook — it's a launchpad for EU startups and researchers to lead the global AI race.
The best is yet to come! 👍 pic.twitter.com/W9rths31MU
— Thierry Breton (@ThierryBreton) December 8, 2023
Kunstmatige intelligentie dringt door in steeds meer aspecten van ons leven. Niet alleen de aanbevelingen voor series of muziek op Netflix en Spotify, maar ook lezen van röntgenfoto’s in het ziekenhuis om ziektes te herkennen. Het voorspellen wanneer preventief onderhoud nodig is in allerhande machines. Of ‘voorspellen’ welke ontvanger van een toeslag geneigd zal zijn tot fraude.
De EU was vorig jaar al een heel eind op weg met het opstellen van regels, maar toen kwam ChatGPT op de markt dat weer allerlei nieuwe spraakmakende toepassingen bood. Zo kun je de zogenoemde chatbot vragen om een essay te schrijven over de invloed van Rembrandt op de schilderkunst. Of om een liedje te componeren dat niet van een originele compositie te onderscheiden is.
Afgelopen week presenteerde de Vlaamse christendemocratische partij ook een AI-campagnefilmpje: premier Dehaene sprak de kijkers toe, al is hij al negen jaar dood. Eerder dit jaar waarschuwden honderden wetenschappers voor onvoorspelbare gevolgen als AI zijn eigen gang gaat, ‘hallucineren’ wordt dat genoemd. ,,Dat is angstaanjagend”, zei één van de grondleggers van kunstmatige intelligentie zelf, de inmiddels 75-jarige Geoffrey Hinton na zijn vertrek bij Google.
De onderhandelaars moeten het nu bereikte akkoord nog voorleggen aan het voltallige EU-parlement en de EU-lidstaten, maar dat is doorgaans een formaliteit. De nieuwe regels zouden, als ze begin volgend jaar ook officieel worden aangenomen, in de loop van 2026 van kracht worden.
GroenLinks-Europarlementariër Kim van Sparrentak is namens de Groenen onderhandelaar op deze wet: “Europa neemt wereldwijd de leiding en kiest met sterke regels voor AI die mensen, maatschappij en milieu centraal zet. Met strenge voorwaarden zijn AI systemen in Europa voortaan altijd betrouwbaar, ethisch en veilig. De ongekende big techlobby tegen bindende regels voor grote systemen als ChatGPT zorgde voor veel vertraging.
Er stond veel op het spel, maar we hebben de strijd gewonnen: Europa stelt bindende voorwaarden aan deze technologieën, zodat we straks niet opgezadeld zitten met grote systemen die complottheorieën uitspuwen, grove fouten maken of onze privacy of intellectuele eigendomsrechten schenden.”
Burgers krijgen door de wet duidelijkheid over hoe de systemen werken, niet alleen bij het nemen van beslissingen maar bijvoorbeeld ook op het gebied van energieverbruik. AI-systemen slurpen enorme hoeveelheden energie. De inzet van AI door autoriteiten en instellingen als banken wordt getoetst aan naleving van mensenrechten.
GroenLinks stelt in een verklaring:
Op de verboden werd het langst onderhandeld. Van Sparrentak vocht voor een verbod op profileren om zogenaamd criminaliteit te ‘voorspellen’ op basis van je persoonsgegevens, zoals gebruikt door de Belastingdienst in het toeslagenschandaal. Van Sparrentak is blij dat dit in de wet zit: “Als de politie puur en alleen op basis van je nationaliteit, waar je woont, in welke auto je rijdt of hoeveel kinderen je hebt voorspellingen doet dat je een crimineel kan zijn is het einde zoek.
Dit werkt vaak discriminerend, treft vooral minderheden en de meest kwetsbaren en holt de rechtsstaat uit. Verbieden dus.” Voor GroenLinks was een verbod op systemen die op basis van je gezicht zogenaamd aan ‘seksualiteitsherkenning’, ‘rassenherkenning’ en ‘herkenning van je politieke voorkeur’ doen ook erg belangrijk. Hierop is nu inderdaad een verbod.
Ook wordt de real-time gezichtsherkenning in de openbare ruimte aan banden gelegd zodat burgers niet voortdurend gevolgd gaan worden door camerasystemen.
De wet is overigens nog niet van kracht. Begin volgend jaar moeten het Europarlement en de lidstaten opnieuw instemmen. De wet treedt zes maanden in later in werking en voor systemen als ChatGPT een jaar later.
Niet alle belanghebbers steunden de wet in zijn huidige vorm. De directeur van techlobbygroep DigitalEurope Cecilia Bonefeld-Dahl zei: „We hebben een deal, maar tegen welke prijs?” De groep „steunde het aanpakken van het gebruik van AI op basis van risico’s”, maar staat niet achter de „poging” om de modellen die AI-ontwikkelaars zelf gebruiken te reguleren. Ook aan de andere kant van het spectrum klinkt kritiek.
Ella Jakubowska, werkzaam bij de privacyrechtenorganisatie European Digital Rights, zei: „Het is moeilijk om enthousiast te zijn over een wet waarin de eerste stappen worden gezet richting live gezichtsherkenning in de hele EU.” Het Europarlement heeft volgens Jakubowska „hard gevochten om de schade binnen de perken te houden”, maar het eindproduct is op z’n best “lauwtjes”.
