Indignatie redactie 
De AI-verordening maakt de weg vrij voor biometrische gezichtsherkenning in de EU. Het biedt ook op veel andere plaatsen grote mazen in de wet voor autoriteiten en bedrijven. Het EU-Parlement wilde de grondrechten beter beschermen – en heeft nu ingestemd met het compromis.
Met haar AI-regulering wil de Europese Unie in de toekomst de standaard zetten voor toepassingen van zogenaamde kunstmatige intelligentie. Het EU-Parlement heeft de tekst van de wet vandaag met een grote meerderheid goedgekeurd. Bij de stemming stemden 523 parlementsleden voor de wet en 46 tegen. Ze hadden afgelopen december al over het compromis onderhandeld, na lange en soms dramatische discussies met de EU-lidstaten. Dit maakt de weg vrij voor de inwerkingtreding van de wet later dit jaar.
Met het jawoord van het Parlement komt er een einde aan het gekibbel over een wet die als een van de belangrijkste van de legislatuurperiode werd beschouwd. Het hield de Commissie, het Parlement en de Raad drie jaar lang bezig. De strijd om de definitieve regels werd een van de grootste lobbygevechten ooit in Brussel. Techgiganten als Google en Microsoft investeerden miljoenen om hun belangen te beschermen.
De wet is bedoeld om regels vast te stellen voor degenen die AI-technologieën ontwikkelen en gebruiken, zowel bedrijven als overheden. Hoe riskanter een applicatie, zo luidt de logica, hoe strenger de eisen, bijvoorbeeld aan de kwaliteit van de data, documentatie of risicobeoordelingen, vóór gebruik moeten worden gesteld. Bepaalde toepassingen zouden volledig verboden moeten worden, zoals sociale scoring.
Geschil over basismodellen
Het eerste ontwerp van de commissie in april 2021 trok weinig aandacht. Begin 2023 brak de hype over generatieve AI uit – en plotseling stonden, samen met de verbazingwekkende mogelijkheden van ChatGPT en beeldgeneratoren als Midjourney, ook de details van AI-regulering wereldwijd in de schijnwerpers.
Parlementariërs probeerden de nieuwe ontwikkeling bij te houden, ook al waren de werkzaamheden op het gebied van de wet te ver gevorderd. Hiervoor wilden ze de wet aanvullen met strenge regels voor zogenaamde basismodellen. Dit zijn AI-systemen zoals het GPT-4-taalmodel die voor een breed scala aan doeleinden kunnen worden gebruikt.
In november was er een openlijk geschil tijdens de trialooggesprekken. Bovenal wilden de zwaargewichten in de Raad, Duitsland en Frankrijk, voorkomen dat de regelgeving ook basismodellen zou reguleren . Ook start-ups als Mistral in Frankrijk of Aleph Alpha in Duitsland werken aan dergelijke modellen en hebben aangedrongen op het uitsluiten van basismodellen.
Lui compromis na lange onderhandelingen
Maar het was niet alleen vanwege de basismodellen dat de laatste trilooggesprekken in december in een patstelling terechtkwamen . De verordening raakt aan centrale vragen over fundamentele rechten en burgerlijke vrijheden in de EU : bijvoorbeeld of en wanneer biometrische surveillance is toegestaan, op welke gebieden van het leven geautomatiseerde beslissingen kunnen worden genomen, of hoeveel uitzonderingen staten kunnen claimen met het algemene argument van “nationale veiligheid” toegestaan.
Na ruim drie dagen marathononderhandelingen, soms wel meer dan 22 uur aan een stuk, werd er uiteindelijk vóór Kerstmis een compromis bereikt. Burgerrechtenorganisaties zoals EDRi waarschuwden destijds dat de vreugde hierover voorbarig was. Het akkoord werd mondeling aangenomen; het Spaanse voorzitterschap van de Raad, dat op het akkoord had aangedrongen, moest de definitieve tekst nog opstellen.
Toen in februari de honderden pagina’s compromistekst werden gepresenteerd, werd duidelijk hoeveel hiaten er nog open zouden blijven. Parlementariërs die zelf bij de onderhandelingen betrokken waren, zeiden achteraf dat ze het zogenaamd bereikte triloogakkoord nauwelijks hadden herkend toen het later voor hen lag. “We zijn opgelicht”, zeiden mensen die dicht bij de onderhandelingsdelegatie stonden .
Geen verbod op biometrische monitoring en leugendetectoren
Met name op het gebied van de regels voor biometrisch toezicht is er nauwelijks nog iets over van de eens zo sterke eisen van het Parlement . De AI-verordening legt geen enkel verbod of zelfs bijzonder strenge beperkingen op aan het gebruik van biometrische surveillance.
In de toekomst zullen EU-landen om vele redenen mensen kunnen monitoren en identificeren op basis van hun fysieke kenmerken, bijvoorbeeld met behulp van openbare camera’s. Dit is zelfs in realtime toegestaan en zelfs als er alleen maar wordt aangenomen dat er iets ergs kan gebeuren. Blijkbaar hebben de lidstaten hun wensenlijstje op dit punt vrijwel geheel kunnen verwezenlijken .
Zelfs mensen op de vlucht kunnen nauwelijks bescherming verwachten van de AI-regelgeving. De weinige beperkingen op gezichtsherkenning in de openbare ruimte gelden nadrukkelijk niet voor grenscontroles. Ook het gebruik van controversiële technologieën zoals emotieherkenning is nog steeds toegestaan; in de toekomst zouden getroffenen kunnen worden gecontroleerd met leugendetectoren bij grensovergangen, zoals de EU al heeft getest in een pilotproject . En de transparantieverplichtingen in de wet zijn niet van toepassing op de terreinen van “wetshandhaving, migratie, grenscontrole of asiel”.
Zelfs met deze concessies was het lange tijd nog onduidelijk of de wet zou kunnen mislukken vanwege het verzet van Frankrijk en Duitsland. Er klonk nog steeds onvrede uit beide landen. Met de goedkeuring van de raad begin februari werd deze hindernis overwonnen.
Kort daarna stemden ook de twee parlementaire commissies voor burgerlijke vrijheden, justitie en binnenlandse zaken (LIBE) en de interne markt (IMCO) met grote meerderheid voor het compromis. Zij namen het voortouw bij het werken aan de wet . Hun goedkeuring was een krachtig signaal dat de absolute meerderheid van de parlementsleden in de plenaire vergadering vandaag ook voor het compromis zou stemmen.
Het feit dat de stemming vandaag zou plaatsvinden en niet in april, zoals aanvankelijk gepland, zorgde bij voorbaat voor verwarring. De reden hiervoor ligt waarschijnlijk in de details van de EU-werkprocessen: juridische teksten moeten juridisch worden herzien en vertaald in de 24 officiële talen van de Unie. Daar bleek niet genoeg tijd voor te zijn, dus gingen de Kamerleden door met stemmen over een voorlopige tekst. De definitieve versie wordt dan pas in april bekendgemaakt – waarschijnlijk zonder nieuwe stemming.
Wat volgt nu
De AI-verordening kan dus nog vóór de EU-verkiezingen in de zomer in werking treden. De meeste regels worden na twee jaar van kracht, alleen de verboden gelden na zes maanden – en dus mogelijk al dit jaar.
Ondertussen verschuift de hoop op betere wetgeving naar de lidstaten. U heeft de mogelijkheid om op nationaal niveau strengere regels vast te stellen dan de verordening biedt, bijvoorbeeld voor biometrische surveillance. In Duitsland hebben de stoplichtpartijen al laten weten dat ze in ieder geval geen real-time monitoring willen.
AlgorithmWatch roept nu ook op tot verbeteringen en wijst op de beloften die de federale regering deed in haar regeerakkoord. De organisatie bekritiseert ook het feit dat met name rechtshandhavings- en migratieautoriteiten niet onderworpen mogen zijn aan publieke transparantie wanneer zij risicovolle AI-systemen gebruiken. Vooral op deze terreinen is er sprake van een sterke machtsongelijkheid, en publiciteit is een essentiële voorwaarde voor democratische controle.
De vier Kamerleden van de Piratenpartij, enkele onafhankelijke Kamerleden en grote delen van de Linkse Kamerfractie stemden tegen het ontwerp . Hun parlementslid Cornelia Ernst betreurt het dat het Parlement er niet in is geslaagd essentiële elementen in de onderhandelingen ten uitvoer te leggen. Het verbod op realtime gezichtsherkenning in de openbare ruimte is “vrijwel ongedaan gemaakt” vanwege een lange lijst uitzonderingen; emotieherkenning en voorspellend politiewerk blijven toegestaan en er bestaat geen verbod op het gebruik van AI-systemen in de migratie- en grenscontext – een gemiste kans.
