AI-regulering: De Kentekenplaat Op Het Gezicht Komt Eraan INDIGNATIE AI & Politiek

Spread the love en help Indignatie

Inhoud

Parlement, Raad en Commissie zijn het eens geworden over de AI-verordening. Ondanks vermeende beschermingsmechanismen zal automatische gezichtsherkenning nu in heel Europa worden ingevoerd. Dit is slecht voor de democratie.

Automatische gezichtsherkenning is eigenlijk alsof we allemaal een duidelijk zichtbaar kenteken op ons gezicht hebben. Of we nu winkelen, in de trein stappen of naar een demonstratie gaan: zodra de biometrische technologie is uitgerold, kunnen we overal worden geïdentificeerd via onze lichaamsgegevens en met onze echte naam. We zijn een enorme stap dichter bij deze duistere dystopie van een toekomst zonder enige anonimiteit in de publieke ruimte gekomen met het akkoord over de Europese AI-regelgeving . een>

Zelfs als nog ergere eisen werden afgewezen off , er valt niets te vieren: het nieuwe regelgevingskader stelt staten in principe in staat bewakingsvideo’s in realtime te vergelijken met gezichtsdatabases om een terroristische aanslag te voorkomen of, in bepaalde gevallen, te zoeken naar vermiste mensen en verdachten. In realtime kan deze technologie worden gebruikt voor het zoeken, scannen en identificeren van alle mensen van wie de staat een opname heeft van een bewakingscamera en een opgeslagen biometrische foto.

De meeste Europese landen zijn al jaren bezig met het opzetten en aanvullen van biometrische gezichtsdatabanken als onderdeel van paspoort- of inreiswetten. De afbeeldingen zijn beschikbaar en eerdere federale regeringen in Duitsland zijn hun geautomatiseerde gebruik blijven bevorderen . Vanaf hier is het gebruik van gezichtsherkenning buiten luchthavens en paspoortcontroles slechts een kleine stap.

Sommige critici van de AI-regelgeving zeggen dat realtime monitoring strikte criteria kent. Maar dat is slechts windowdressing: de wet staat gezichtsherkenning achteraf ook toe met aanzienlijk minder beperkingen – namelijk bij het zoeken naar verdachten van “ernstige misdrijven” volgens de uitspraak van een rechter. De lijst van deze misdaden is lang en iedere burgerrechtenactivist weet hoe weinig het voorbehoud van een rechter waard is. En wat ‘achteraf’ eigenlijk betekent vergeleken met ‘real time’ is ook niet duidelijk. De grenzen zullen vervagen. Ervaring met andere surveillancetechnieken zoals dataretentie leert dat er in het begin altijd sprake was van terrorisme en ernstige misdaden, maar uiteindelijk wordt de surveillance ook ingezet voor kleine wiethandelaren en zelfs hun klanten.

ai ChatGPT robots

Dit zal gezichtsherkenning in heel Europa tot stand brengen

Het is in ieder geval duidelijk dat de AI-regelgeving de belangrijkste toegangspoort is tot het invoeren van geautomatiseerde gezichtsherkenning over de hele linie. Er bestaat nu een Europese wettelijke basis om deze technologie overal te gebruiken. Omdat de wet dit nu in bepaalde gevallen toestaat. Zoals altijd zullen politie en geheime diensten de juridische mogelijkheden tot het uiterste oprekken en salami-tactieken gebruiken om de operatie verder te normaliseren, terwijl ze bij elke gelegenheid oproepen tot nog meer ‘intelligente technologie’.

Er dreigt een toekomst waarin niemand in het park kan zitten of zich door de stad kan bewegen – zonder het risico te lopen dat gezichtsbiometrie of andere biometrische gegevens voortdurend worden gescreend en vergeleken. Het gevoel dat we voortdurend in de gaten worden gehouden, heeft ook gevolgen voor andere gevoelige grondrechten, zoals de vrijheid van vergadering. Technologie zal mensen bang maken om tegen regeringen te protesteren als duidelijk is dat het theoretisch technisch mogelijk is om met één druk op de knop lijsten van deelnemers aan dergelijke protesten te creëren.

Het einde van de anonimiteit in de openbare ruimte is een bittere klap voor de meest kwetsbare democratieën van Europa, die ook onder enorme druk staan van autoritaire en rechts-radicale partijen. Deze laatste zal deze nieuwe krachten graag gebruiken tegen alles dat zijn rechterarm niet opheft op de telling van drie of iets dergelijks.

Als onderdeel van haar digitale strategie wil de EU regels voor artificiële intelligentie (AI) vaststellen om beter vat te krijgen op de voorwaarden voor de ontwikkeling en het gebruik van deze innovatieve technologie. AI kan veel voordelen opleveren, zoals betere gezondheidszorg, veiliger en schoner vervoer, efficiëntere productiemethoden en schonere en duurzamere energie.

In april 2021 maakte de Europese Commissie haar voorstel bekend met de allereerste EU-regels voor AI. Hierin wordt voorgesteld de diverse AI-toepassingen te analyseren en in te delen volgens het risico dat zij inhouden voor gebruikers. Afhankelijk van het risiconiveau zouden er meer of minder regels gelden. Als dit voorstel wordt goedgekeurd, wordt de EU de eerste plek ter wereld waar AI aan regels gebonden zal zijn.

Lees meer over wat artificiële intelligentie is en hoe het wordt gebruikt

Wat volgens het Parlement in de AI-wetgeving moet komen

De prioriteit van het Parlement is ervoor te zorgen dat AI-systemen die in de EU worden gebruikt veilig, transparant, traceerbaar, niet-discriminerend en milieuvriendelijk zijn. Het Parlement vindt dat AI-systemen nooit volledig geautomatiseerd mogen zijn, maar altijd onder menselijk toezicht moeten staan om schadelijke gevolgen te kunnen voorkomen.

Het Parlement pleit daarnaast voor een technologieneutrale, uniforme definitie van AI die geldt voor alle toekomstige AI-systemen.

Lees meer over de voorstellen van het Parlement over AI en zijn visie voor de toekomst van AI

AI-verordening: verschillende regels naargelang het risico

De nieuwe regels houden bepaalde verplichtingen voor aanbieders en gebruikers in, afhankelijk van het risico van de AI-toepassing. Bij veel AI-systemen is het risico minimaal, maar toch moeten ook die worden beoordeeld.

Onaanvaardbaar risico

AI-systemen met een onaanvaardbaar risico zijn systemen die als een gevaar voor de mens worden beschouwd. Deze zullen worden verboden. Het gaat hier onder meer om:

cognitieve gedragsmanipulatie van personen of specifieke kwetsbare groepen: bijvoorbeeld speelgoed dat reageert op een stem en dat bij kinderen gevaarlijk gedrag uitlokt;
sociale scoring: het classificeren van mensen op basis van hun gedrag, sociaal-economische status of persoonlijke kenmerken;
biometrische systemen voor identificatie op afstand in real time, zoals gezichtsherkenning.

Toch is er ook ruimte voor uitzonderingen. Zo zijn systemen voor identificatie op afstand “achteraf”, waarbij de identificatie met een aanzienlijke vertraging plaatsvindt, wel toegestaan bij vervolging van ernstige misdrijven, maar alleen met toestemming van de rechter.

Hoog risico

AI-systemen die een negatief effect hebben op de veiligheid of de grondrechten worden als systemen met een hoog risico beschouwd en worden onderverdeeld in twee categorieën:

1) AI-toepassingen in producten die onder de EU-wetgeving op het gebied van productveiligheid vallen. Voorbeelden hiervan zijn speelgoed, luchtvaartuigen, auto’s, medische hulpmiddelen en liften.

2) AI-systemen op acht verschillende gebieden, die in een EU-databank moeten worden geregistreerd:

biometrische identificatie en categorisering van natuurlijke personen;
beheer en exploitatie van kritieke infrastructuur;
onderwijs en beroepsopleiding;
werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid;
toegang tot en gebruik van essentiële particuliere diensten en openbare diensten en uitkeringen;
rechtshandhaving;
migratie, asiel en beheer van grenscontroles;
ondersteuning van rechterlijke instanties bij het uitleggen van feiten en toepassing van het recht.

Alle AI-systemen met een hoog risico krijgen een beoordeling voor zij in de handel worden gebracht en worden tijdens de volledige levensduur van het systeem gevolgd.

Generatieve AI

Generatieve AI, zoals ChatGPT, zal moeten voldoen aan een aantal transparantievereisten:

de toepassingen moeten de vermelding bevatten dat de inhoud is gegenereerd door AI;
het model moet zodanig worden ontworpen dat er geen illegale inhoud kan worden gegenereerd;
er moet een overzicht worden gegeven van auteursrechtelijk beschermde gegevens die voor het trainen van het systeem zijn gebruikt.

Beperkt risico

AI-systemen met een beperkt risico moeten voldoen aan minimale transparantievereisten om gebruikers in staat te stellen weloverwogen beslissingen te nemen. Na interactie met een toepassing is het dan aan de gebruikers om te beslissen of zij de toepassing willen blijven gebruiken. Het moet aan de gebruikers duidelijk worden gemaakt dat zij interageren met een AI-systeem. Dit geldt onder meer voor AI-systemen die beeld-, audio- of videomateriaal genereren, zoals deepfakes.

Volgende stappen

Op 14 juni 2023 hebben de EP-leden het standpunt van het Parlement voor de onderhandelingen over de AI-verordening vastgesteld. Op basis daarvan zullen nu de gesprekken met de EU-lidstaten in de Raad van start gaan om de verordening in een definitieve vorm te gieten.

Het doel is om vóór het einde van dit jaar tot een akkoord te komen.