Europol arresteert 25 gebruikers van online netwerk beschuldigd van het delen van AI CSAM

CSAM Europol richt zich met zijn jacht op iedereen die AI-seksbeelden maakt of deelt waarop minderjarigen te zien zijn.

CSAM Europa treedt streng op tegen door AI gegenereerde seksbeelden van minderjarigen. Tot nu toe heeft Europol 25 mensen gearresteerd in een grootschalig lopend onderzoek genaamd Operation Cumberland en bevestigd dat er in de komende weken meer arrestaties worden verwacht.

In een persbericht zei Europol dat de 24 arrestaties gelijktijdig plaatsvonden op 26 februari, nadat de Deense wetshandhaving in november een hoofdverdachte had gearresteerd. Die verdachte wordt ervan beschuldigd “een online platform te runnen waar hij het door AI gegenereerde materiaal dat hij produceerde” verspreidde voor anderen die bereid waren te betalen om “kinderen te zien worden misbruikt”, beweerde Europol. Het netwerk was verborgen voor toevallige lurkers en vereiste een “symbolische betaling” om toegang te krijgen, aldus Europol.

Hoewel volledig door AI gegenereerde afbeeldingen mogelijk geen echte kinderen afbeelden, is er ten minste één AI-model (nu verwijderd) getraind op daadwerkelijk CSAM en afbeeldingen van echte kinderen , dus experts op het gebied van kinderveiligheid vrezen dat de uitkomsten mogelijk een bekend slachtoffer of echt kind kunnen afbeelden of erop lijken. En er is wereldwijd een groeiende consensus dat door AI gegenereerd CSAM kinderen in het algemeen schaadt door seksueel misbruik van kinderen te normaliseren door de toegenomen prevalentie van CSAM online.

Europol heeft zich nu aangesloten bij een toenemend aantal autoriteiten die volhouden dat AI-gegenereerd kindermisbruikmateriaal (CSAM) nog steeds CSAM is . Politie wereldwijd heeft gewaarschuwd dat AI CSAM het internet overspoelt en omdat de technologie snel is gevorderd, is het veel moeilijker om onderscheid te maken tussen echte slachtoffers van kindermisbruik en AI-gegenereerde afbeeldingen van misbruik van nepkinderen.

Europol waarschuwde er bovendien voor dat AI CSAM soms “door daders wordt misbruikt om CSAM te produceren en voor seksuele afpersing.”

“Zelfs in gevallen waarin de inhoud volledig kunstmatig is en er geen echt slachtoffer wordt afgebeeld, zoals Operatie Cumberland, draagt ​​door AI gegenereerde CSAM nog steeds bij aan de objectivering en seksualisering van kinderen”, aldus het persbericht van Europol.

In Zuid-Korea, waar AI-gegenereerde deepfake-porno is gecriminaliseerd , werd een “noodtoestand” uitgeroepen en werden honderden mensen gearresteerd, voornamelijk tieners. Maar de meeste landen hebben nog geen duidelijke wetten die AI-seksbeelden van minderjarigen verbieden, en Europol noemde dit feit als een uitdaging voor Operatie Cumberland, een gecoördineerde hardhandige aanpak in 19 landen zonder duidelijke richtlijnen.

“Operatie Cumberland was een van de eerste zaken waarbij sprake was van door AI gegenereerd kindermisbruikmateriaal (CSAM). Dat maakt het voor onderzoekers een enorme uitdaging, vooral vanwege het gebrek aan nationale wetgeving die deze misdaden aanpakt”, aldus Europol.

Lidstaten van de Europese Unie overwegen momenteel een door de Europese Commissie voorgestelde regel die rechtshandhavingsinstanties zou kunnen helpen “deze nieuwe situatie aan te pakken”, aldus Europol.

Catherine De Bolle, directeur van Europol, zei dat de politie ook “nieuwe onderzoeksmethoden en -hulpmiddelen” moet ontwikkelen om door AI gegenereerd seksueel misbruik van kinderen en “de toenemende prevalentie” van seksueel misbruik van kinderen in het algemeen te bestrijden.

Voor Europol is afschrikking cruciaal om inspanningen in veel EU-lidstaten te ondersteunen om slachtoffers van seksueel misbruik van kinderen te identificeren. Het agentschap is van plan om iedereen die betrapt wordt op het produceren, delen en/of verspreiden van AI CSAM te blijven arresteren, en tegelijkertijd een online campagne te lanceren om bewustzijn te creëren dat dit illegaal is in de EU.

Die campagne zal de “gevolgen van het gebruik van AI voor illegale doeleinden” benadrukken, aldus Europol, door “online berichten te gebruiken om kopers van illegale content te bereiken” op sociale media en betaalplatforms. Daarnaast zal het agentschap blijkbaar van deur tot deur gaan en waarschuwingsbrieven sturen naar verdachten die zijn geïdentificeerd via Operatie Cumberland of een toekomstig onderzoek.

Het is onduidelijk hoeveel arrestaties er in de EU nog meer zullen volgen, maar Europol meldde dat 273 gebruikers van het online netwerk van de Deense verdachte zijn geïdentificeerd, 33 huizen zijn doorzocht en 173 elektronische apparaten in beslag zijn genomen.