Europol wil ongefilterde toegang tot chatcontrolegegevens om AI-algoritmen te trainen. Dit blijkt uit interne documenten die wij publiceren. Twee voormalige EU-politieagenten stapten over naar de Amerikaanse organisatie Thorn, die massaal lobbyt voor de geplande wet.

Chatcontrole Anderhalf jaar geleden heeft de Europese Commissie een verordening voorgesteld om seksueel misbruik van kinderen te voorkomen en te bestrijden . Meer dan 80 NGO’s bekritiseren de geplande wet als ongekend: “Het zou internetdiensten moeten verplichten om namens regeringen de particuliere digitale communicatie van alle mensen te screenen.”

De wet omvat ook de oprichting van een nieuw EU-agentschap, het EU-centrum voor het voorkomen en bestrijden van seksueel misbruik van kinderen . Volgens het ontwerp van de Commissie zal het nieuwe EU-centrum “nauw samenwerken met Europol”. Een vertegenwoordiger van Europol zou zitting moeten hebben in de raad van bestuur van het EU-centrum, en in ruil daarvoor zou een vertegenwoordiger van het EU-centrum zitting moeten hebben in de raad van bestuur van Europol.

Een paar weken nadat de Commissie haar voorstel had gepubliceerd, bezocht een delegatie op hoog niveau van de Europese Commissie de politieautoriteit van de EU om de wet te bespreken. Monique Pariat , directeur-generaal van commissaris voor Binnenlandse Zaken Ylva Johansson, ontmoette Catherine De Bolle , directeur van Europol, en drie andere hoge EU-politieagenten. Wij publiceren de notulen van de vergadering in full-text .

Chatcontrole Geef alle gegevens door

Europol eiste onbeperkte toegang tot de gegevens die door chatcontrole werden gegenereerd: “Alle gegevens zijn nuttig en moeten worden doorgegeven aan wetshandhavingsautoriteiten. Er mag niet gefilterd worden door het centrum, aangezien zelfs een onschuldig beeld informatie kan bevatten die op een gegeven moment nuttig kan zijn voor de rechtshandhaving.”

Het nieuwe EU-centrum speelt een sleutelrol in de geplande wet . Het is bedoeld om “databases met indicatoren van seksueel misbruik van kinderen op internet op te zetten, te onderhouden en te exploiteren, die aanbieders moeten gebruiken om aan hun openbaarmakingsverplichtingen te voldoen.” Het centrum moet ook meldingen van verdachte activiteiten van aanbieders ontvangen, onderzoeken en vervolgens doorsturen. aan Europol en de nationale rechtshandhavingsautoriteiten.

De Begrotingscommissie van het EU-Parlement verwacht dat het centrum jaarlijks 28,5 miljoen euro zal kosten “uitgaande van een normale werking”. De Europese Commissie beschrijft Europol als de “dichtstbijzijnde partner” van het EU-centrum en wil beide “op dezelfde locatie” opzetten.

Andere misdaadgebieden

Tijdens het bezoek van de Europese Commissie stelde Europol ook voor om de chatcontrole uit te breiden: “Er zijn andere vormen van criminaliteit die baat zouden hebben bij detectie.” Deze zouden ook in de wet moeten worden vastgelegd.

De EU-politie riep Europol en wetshandhavingsinstanties ook op om “AI-instrumenten te gebruiken voor onderzoeken” en “onderscheppingsmaatregelen te gebruiken”. De AI-regelgeving, waarover ook wordt onderhandeld , mag de politie niet beperken.

Veel van de voorstellen van Europol zijn opgenomen in het wetsontwerp van de Commissie . Dienovereenkomstig moet het EU-centrum alle rapporten die niet “kennelijk ongegrond” zijn, doorgeven aan Europol en de nationale wetshandhavingsautoriteiten.

De Europese Commissie heeft niet gereageerd op onze vragen over de bijeenkomst.

AI en fundamentele rechtenproblemen

Europol “wees er ook op dat gegevens van hoge kwaliteit nodig zijn om algoritmen te trainen.” Sinds de hervorming van Europol vorig jaar mag de EU-politie dit doen . Voorstanders van gegevensbescherming, zoals European Digital Rights, bekritiseren de wet als een ‘datazwart gat’ en ‘NSA-achtige toezichtmaatregelen’ .

De EU-politie heeft een eigen onderzoeks- en ontwikkelingscentrum. Het Innovation Lab werkt aan een tool “die AI gebruikt om automatisch afbeeldingen en video’s van vermoedelijk seksueel misbruik van kinderen te classificeren.” De grondrechtenfunctionaris van Europol, Dirk Allaerts, heeft het voorstel onderzocht en wij publiceren zijn rapport .

Dienovereenkomstig ziet de grondrechtenfunctionaris “geen risico op schending van fundamentele rechten in engere zin” in de ontwikkeling. Bij het gebruik van deze AI-tool is echter “speciale aandacht vereist om te voorkomen dat het instrument vertekende resultaten, valse positieven of valse negatieven oplevert.” Valse resultaten kunnen “leiden tot problemen op het gebied van de grondrechten, b.v. B. schending van het recht op verdediging of een eerlijk proces”.

Europol wil informatie ontvangen

We vroegen Europol naar zijn invloed op de nieuwe EU-wetgeving. Europol wil niets zeggen over de specifieke inhoud van de bijeenkomst. “Europol geeft geen publiekelijk commentaar op interne bijeenkomsten.”

De EU-politie voegde hieraan toe: “Wat het toekomstige EU-centrum voor seksueel misbruik van kinderen betreft, werd Europol terecht gevraagd naar de interacties tussen de taken van het toekomstige EU-centrum en Europol. Ons standpunt is dat we relevante informatie moeten ontvangen om de EU en haar burgers te beschermen tegen ernstige en georganiseerde misdaad, waaronder seksueel misbruik van kinderen.”

Van Europol tot Thorn-lobbyist

Eerder deze week onthulde onderzoek het complexe lobbynetwerk van voorstanders van chatcontrole . Ondertussen eist de Commissie Binnenlandse Zaken van het EU-Parlement “verduidelijkingen en uitleg” van commissaris Ylva Johansson. We kunnen nu melden dat Europol ook nauwe banden heeft met de lobbyorganisaties.

Cathal Delaney werkte acht jaar bij Europol in Den Haag. Daar leidde hij de afdeling tegen seksueel misbruik van kinderen en werkte hij aan een AI-project over kinderporno-inhoud. In januari 2022 veranderde Delaney van baan. Volgens zijn CV op LinkedIn ging hij rechtstreeks van Europol naar Thorn, de Amerikaanse organisatie van Ashton Kutcher die AI-software ontwikkelt om kinderporno te bestrijden.

De overplaatsing van EU-ambtenaren naar de particuliere sector moet worden goedgekeurd als zij in hetzelfde vakgebied blijven werken. Deze toestemming kan worden geweigerd als de nieuwe baan ‘zou kunnen leiden tot een conflict met de legitieme belangen van de instelling’.

Europol heeft de overplaatsing van zijn ambtenaar goedgekeurd: “Rekening houdend met de door de ambtenaar verstrekte informatie en in overeenstemming met het Statuut van de ambtenaren van Europol, heeft Europol de betrokken ambtenaar toegestaan ​​een contract te sluiten met een nieuwe werkgever nadat hij Europol aan het einde van zijn diensttijd had verlaten. 2021.” .

In juni bezocht Delaney zijn voormalige collega’s bij Europol. Hij schreef op Linkedin : “Ik heb deze week de jaarlijkse expertmeeting van Europol bijgewoond en namens Thorn verslag gedaan van onze innovaties ter ondersteuning van de identificatie van slachtoffers.”

Cathal Delaney reageerde niet op vragen over zijn rolverandering.

Lobbyregistratie bij de Bondsdag

Thorn is ook geregistreerd in het lobbyregister van de Duitse Bondsdag . Delaney wordt daar vermeld als een van de twee ‘werknemers die zich rechtstreeks bezighouden met belangenbehartiging’.

Volgens het lobbyregister ontving Thorn in 2021 ongeveer 7 miljoen euro. Van de 28 stichtingen en twee particulieren zijn de meeste anoniem. Alleen de Duitse Postcodeloterij wordt bij naam genoemd; zij zou ruim 1,5 miljoen euro aan Thorn hebben gedoneerd.

Desgevraagd ontkende de loterij: “Ik kan bevestigen dat deze inzending absoluut bedrog is. De Duitse Postcodeloterij heeft Thorn niet gefinancierd, noch in 2021, noch op enig ander moment. Wij zullen zo spoedig mogelijk om een ​​correctie van de invoer verzoeken.”

Van Europol tot Thornboard

Fernando Ruiz Pérez werkte negen jaar bij Europol in Den Haag. Volgens zijn cv op LinkedIn leidde hij tot een jaar geleden het European Cybercrime Center . Begin 2023 werd hij bestuurslid bij Thorn . De algemeen directeur van Thorn plaatste dit op LinkedIn . Europol gaf alleen commentaar op Pérez: “De voormalige werknemer verliet Europol in april 2022.”

In zijn commentaar op deze personele veranderingen zei Thorn: “Om seksueel misbruik van kinderen op grote schaal te bestrijden is nauwe samenwerking met wetshandhavingsinstanties zoals Europol essentieel. Uiteraard respecteren wij eventuele barrièreclausules wanneer wetshandhavingspersoneel naar Thorn verhuist. Al het andere zou een schending zijn van onze gedragscode en zou ook de relaties van Thorn met deze autoriteiten beïnvloeden.”

Neelie Kroes zit ook in het Thorn-bestuur . Van 2010 tot 2014 was zij EU-commissaris voor de Digitale Agenda. Destijds ontving ze in Oostenrijk een Big Brother Award voor het automonitoringsysteem eCall . Tegenwoordig is Kroes managementconsultant, onder meer voor Uber .

Europol en WeProtect

Ernie Allen zit ook in het Thorn-bord. Hij was 23 jaar lang hoofd van de Amerikaanse organisatie NCMEC . Het National Center for Missing and Exploited Children houdt een database bij met afbeeldingen van misbruik. Hun aantallen moeten echter met voorzichtigheid worden bekeken .

Allen is ook voorzitter van de WeProtect Global Alliance , die “experts uit de overheid, de particuliere sector en het maatschappelijk middenveld samenbrengt om kinderen te beschermen tegen online seksuele uitbuiting en misbruik.” WeProtect is ontstaan ​​uit een fusie van eerdere initiatieven van de Europese Commissie en nationale overheden. Het is een verzamelpunt voor belangengroepen die chatcontrole ondersteunen en lobbyen financieren.

Europol werkte ook samen met WeProtect. “Europol kan bevestigen dat er sinds januari 2021 wordt samengewerkt met de WeProtect Global Alliance, onder meer in het kader van de WeProtect Summit 2022 en een bijeenkomst van deskundigen georganiseerd door het analyseproject [kindermisbruik] van Europol.”

Dit artikel maakt deel uit van een gezamenlijk onderzoek met Balkan Insight, Solomon, Le Monde, Die Zeit, De Groene Amsterdammer, El Diario, Irpi Media. Sommige auteurs werden ondersteund door het IJ4EU-fonds , netzpolitik.org niet. Een versie van dit onderzoek verscheen in het Engels bij Balkan Insight en in het Grieks bij Solomon .

Hier is het protocol van het bezoek van de Commissie aan Europol, gepubliceerd in de pdf :

• Datum: 19 juli 2022
• Directoraat-generaal: Migratie en Binnenlandse Zaken
• Unit: Veiligheid in het digitale tijdperk

Missieverslag: Bezoek van DG Monique Pariat aan Europol

deelnemers

DG HOME: DG Monique Pariat, begeleid door █████████████████████ (HoU D4)

Europol:

• Catherine de Bolle, uitvoerend directeur
• ███████████████████████, plaatsvervangend uitvoerend directeur Operaties
• ████████████████, hoofd van het Europees Centrum voor Cybercriminaliteit
• █████████████████, hoofd Analyse Project Twins Unit

Samenvatting

De bijeenkomsten verliepen in een zeer positieve en constructieve sfeer. Er werd overeengekomen de nauwe samenwerking voort te zetten. Bij het EU-centrum voor seksueel misbruik van kinderen waren de deelnemers het eens over het belang en de relevantie van het voorstel, om de behoeften aan middelen in de gaten te houden, ook aan de kant van Europol, en om samen te werken om over het voorstel te communiceren, inclusief de locatie van de Centrum.

Gedetailleerd verslag

Strijd tegen seksueel misbruik van kinderen

Het bezoek begon met een presentatie van het werk van Europol bij de bestrijding van seksueel misbruik van kinderen, waarbij een typisch onderzoek werd beschreven en de vereiste procedurele stappen. Het team benadrukte de technologische kennis van de daders op dit gebied en de daarmee samenhangende noodzaak voor alle lidstaten om over speciale teams te beschikken, iets wat ze op dit moment niet allemaal kunnen doen. Als gevolg hiervan ziet het team van AP Twins verschillende uitkomsten bij dezelfde soorten leads, afhankelijk van de vraag of MS in staat is om er voldoende snel en competent op te reageren. ████████████████████████████████████████ ████

Dit werd gevolgd door een discussie over de zorgen van Europol met het EU-centrum. ████████████ noemde de noodzaak om ook voor voldoende middelen te zorgen zodat Europol zijn nieuwe taken kan uitvoeren, zowel operationeel als in termen van de geplande gedeelde middelen (HR, communicatie enz.) ██████ ██████████ benadrukte drie punten:

• de noodzaak ervoor te zorgen dat alle door de lidstaten ontvangen informatie ook beschikbaar is voor Europol (“parallelle stromen”);
• om één gedeelde database te hebben met verschillende toegangsrechten voor beide agentschappen;
• en in geval van conflicten zou er een manier moeten zijn om een ​​oplossing te vinden die in het bestuur is ingebouwd.

███████████████████████████ zei dat er andere misdaadgebieden zijn die baat zouden hebben bij detectie en suggereerde dat deze hierbij betrokken zouden kunnen worden; hij noemde ook de noodzaak om ervoor te zorgen dat wetshandhavers, waaronder Europol, Al-instrumenten kunnen gebruiken voor onderzoek (om mogelijke beperkingen door de Al-wet te vermijden) en gebruik kunnen maken van onderschepping.

Deze punten moeten nog steeds aan het voorstel worden toegevoegd. Hij zei ook dat alle gegevens nuttig zijn en moeten worden doorgegeven aan de wetshandhaving; er mag niet worden gefilterd door het Centrum, omdat zelfs een onschuldig beeld informatie kan bevatten die op een gegeven moment nuttig zou kunnen zijn voor de rechtshandhaving. Hij zei ook dat kwaliteitsgegevens nodig zijn om algoritmen te trainen.

DG Pariat legde uit dat tijdens het onderhandelingsproces rekening moet worden gehouden met een globale beoordeling van de middelen die nodig zijn voor het Centrum en Europol, vooral met het oog op het nieuwe MFK, en dat het bestuur van het EU-centrum ook Europol zou omvatten.

Ze gaf blijk van begrip voor de aanvullende wensen van ███████████████, maar benadrukte ook de noodzaak om realistisch te zijn in termen van wat kon worden verwacht, gezien de vele gevoeligheden rond het voorstel en de hierover gezamenlijk en coherent moeten communiceren. ███████████████ bevestigde dat alle informatie die het Centrum naar de lidstaten stuurde, parallel met Europol zou worden gedeeld.

Ze benadrukte het feit dat de door het EU-centrum ontvangen rapporten geen verband hielden met enig onderzoek en dat het daarom niet mogelijk was om duidelijke valse positieven ook door te geven aan de rechtshandhaving; wat betreft kwaliteitsgegevens informeerde zij ook naar de sandbox voor het trainen van algoritmen die het JRC Europol had helpen opzetten. Europol verklaarde dat dit nu weer zou worden opgepakt met een nieuwe rechtsgrondslag.

De deelnemers kwamen overeen de communicatie rond het voorstel nauw te coördineren.

Hier is de beoordeling van de grondrechtenfunctionaris van Europol, vrijgegeven uit de pdf :

• Datum: 22 juni 2023
• Agentschap: Europol
• Afdeling: Grondrechtenfunctionaris
• Auteur: Dirk Allaerts
• EDOC: 1316771v1
• Type: Briefingnota

Niet-bindend advies over het project van het innovatielab over CSE-beeldclassificatie

1. Doel

In overeenstemming met artikel 33a, 2a van de Europol-verordening geeft de uitvoerend directeur van Europol toestemming voor elk onderzoeks- en innovatieproject in overleg met de functionaris voor gegevensbescherming en de grondrechtenfunctionaris. Op grond van artikel 41c, 2a van de Europol-verordening adviseert de Grondrechtenfunctionaris (FRO) Europol waar hij of zij dit nodig acht of wanneer daarom wordt gevraagd over enige activiteit van Europol, zonder deze activiteiten te belemmeren of te vertragen.

Met deze briefingnota adviseert de FRO de uitvoerend directeur over een voorstel van het Innovation Lab om een ​​tool te ontwikkelen voor de classificatie van CSE-beelden en -video’s. De FRO is op 9 juni door het innovatielab geïnformeerd en op 16 juni ontving hij een Research Project Initiation Document (R-PID) en op 19 juni een gegevensbeschermingsbeoordeling.

2. Beoordeling

Het project heeft tot doel een tool te ontwikkelen die gebruik maakt van kunstmatige intelligentie (AI) om automatisch afbeeldingen en video’s van vermeend seksueel misbruik van kinderen (CSE) te classificeren. Om de tool te trainen maakt het project gebruik van CSE- en niet-CSE-materiaal. De CSE-inhoud wordt geleverd door NCMEC en de lidstaten, eigenaren van de informatie, hebben formeel toestemming gegeven om de gegevens voor het project te gebruiken.

Het project zal worden ontwikkeld op een dedicated server binnen een gesloten netwerk. Verder hebben zeer beperkte personen toegang tot de gevoelige gegevens, behalve de datawetenschapper, alle medewerkers van AP TWINS, die gewend zijn om met dit soort beelden te werken.

Door deze voorzorgsmaatregelen is de kans op een schending van fundamentele rechten sensu stricto (dus zonder het recht op privacy – dat gedekt wordt door de DPO) bij aanvang van het project zeer beperkt of onbestaande. Eenmaal ontwikkeld kan het gebruik van het instrument fundamentele rechtenkwesties veroorzaken, bijvoorbeeld de schending van het recht op verdediging of een eerlijk proces als het instrument valse positieven of valse negatieven oplevert.

Het risico op een vals-positief resultaat kan worden beperkt door een verplichte menselijke tussenkomst. Valse negatieven vormen een risico voor de rechten van de slachtoffers en mogelijk ook voor het recht op een eerlijk proces. Dit zal veel moeilijker te verzachten zijn vanwege de enorme hoeveelheden gegevens die een gedetailleerde menselijke beoordeling onmogelijk maken.

Een ander risico, zoals bij alle Al-instrumenten, zijn de vooroordelen. Dit zal speciale aandacht vereisen tijdens de ontwikkelingsfase. Zowel CSE- als niet-CSE-gegevens die tijdens deze fase worden gebruikt, moeten worden beoordeeld, zodat alle geslachten, rassen en leeftijden voldoende aanwezig zijn om het risico te beperken dat de tool CSE alleen voor specifieke rassen of geslachten herkent.

3. Conclusies en advies

Als dit project tot een positief resultaat leidt, kan het zeer gunstig zijn voor de rechtshandhaving. De efficiëntie van een onderzoek kan worden vergroot, maar ook het welzijn van de politieagenten die onderzoek doen naar deze overtredingen kan verbeteren. Ze zullen minder worden blootgesteld aan gruwelijk en gevoelig materiaal.

Er bestaat geen risico op schending van fundamentele rechten in de strikte zin van het woord om het project uit te voeren. Hoewel tijdens het project speciale aandacht nodig is om te voorkomen dat de tool vertekende resultaten, valse positieven of valse negatieven oplevert.

4. Een weg vooruit

Deze nota wordt als niet-bindend advies naar de ED gestuurd en ter informatie naar het innovatielab.