Jaarverslag van Amnesty International : Kritiek op Big Tech, generatieve AI en de mondiale spywarehandel

Amnesty International bekritiseert in het rapport van dit jaar gewapende conflicten, genderonrechtvaardigheid en de impact van crises op gemarginaliseerde groepen. Ook in beeld: de gevaren die nieuwe technologieën met zich meebrengen.

Amnesty International heeft vandaag haar rapport uit 2023 over de stand van zaken op het gebied van de mensenrechten wereldwijd gepubliceerd. Daarin benadrukt de niet-gouvernementele organisatie ook de toenemende bedreigingen van nieuwe en bestaande technologieën. Centrale onderwerpen zijn het gebruik van kunstmatige intelligentie (AI), de voortdurende handel in spionagesoftware en de machinaties van de grote technologiebedrijven.

Ook het recht op privacy en de vrijheid van meningsuiting zijn belangrijke zorgen voor de mensenrechtenorganisatie. Het rapport maakt duidelijk dat er het afgelopen jaar in zorgwekkend veel delen van de wereld aanvallen op deze grondrechten hebben plaatsgevonden. De juridische situatie is op veel plaatsen verslechterd, maar er is slechts op enkele gebieden vooruitgang geboekt.

Het rapport is beschikbaar in meer dan 40 talen. De analyses van de 155 onderzochte landen zijn ook afzonderlijk op de website te raadplegen.

Amnesty International: AI vergroot de ongelijkheid

De introductie van de chatbot ChatGPT-4 heeft het debat aangewakkerd over hoe generatieve AI de wereld van werk en platforms op internet zal veranderen. Hoewel deze technologie ongetwijfeld kansen biedt, dreigt het zonder goede regelgeving de risico’s voor de mensenrechten te vergroten, merkt Amnesty op. Met name gebieden als de sociale zekerheid, het onderwijs en de gegevensbescherming kunnen hierdoor worden getroffen.

Volgens het rapport hebben bestaande AI-systemen de ongelijkheid bevorderd en gemarginaliseerde groepen geschaad op gebieden als toegang tot overheidsdiensten, politie, veiligheid en migratie.

Een gedeeltelijk geautomatiseerd socialebijstandssysteem in Servië kan er bijvoorbeeld toe hebben geleid dat duizenden mensen op oneerlijke wijze de toegang tot essentiële sociale diensten hebben verloren, waarbij Roma en mensen met een handicap onevenredig zwaar zijn getroffen. In de VS gebruikte de politie van New York technologieën als gezichtsherkenning om Black Lives Matter-protesten te monitoren , bekritiseert de mensenrechtenorganisatie.

Amnesty International: Bewakingssoftware is onvoldoende gereguleerd

Een ander aandachtspunt van het rapport is de mondiale handel in spionagesoftware. Amnesty International en andere organisaties merkten op hoe de Pegasus-spyware werd gebruikt tegen journalisten en maatschappelijke groeperingen. Bovendien heeft een ‘Predator Files’-onderzoek van de mensenrechtenorganisatie onthuld hoe de Europese staatstrojan vrijelijk over de hele wereld werd verkocht .

Volgens Amnesty International zijn staten er niet in geslaagd deze handel aan banden te leggen. De EU heeft nu haar eerste, zij het voorzichtige, stappen gezet: in november 2023 heeft het Europees Parlement een niet-bindende resolutie aangenomen waarin kritiek wordt geuit op misbruik door de spyware-industrie. Voor Amnesty is dit niet genoeg; verdere maatregelen zijn dringend nodig.

Amnesty International: Big Tech bevordert haat en desinformatie

Het rapport veroordeelt ook de zakelijke praktijken van grote technologiebedrijven. Hun op surveillance gebaseerde bedrijfsmodellen brengen niet alleen de privacy in het algemeen in gevaar, maar ook de rechten van kinderen en jongeren. Platforms als TikTok en X zouden de depressieve en suïcidale inhoud vergroten en haatzaaiende uitlatingen tegen bijvoorbeeld LGBTQ-mensen mogelijk maken. Deze bedrijven hebben ook de verspreiding van politieke desinformatie gefaciliteerd. Dit is vooral zorgwekkend gezien de vele aanstaande verkiezingen in 2024, aldus het rapport.

Amnesty belicht op positieve wijze de inspanningen van sommige rechtbanken en regelgevende instanties om misbruiken te bestrijden. Een voorbeeld is de uitspraak van het Europese Hof van Justitie tegen de verwerking van gevoelige gegevens door Meta en de maatregelen die de Noorse autoriteiten hebben genomen tegen gepersonaliseerde advertenties op de platforms van de groep. De Digitale Dienstenwet van de EU heeft ook tot doel de macht van Big Tech te reguleren, maar gaat volgens de normen van Amnesty niet ver genoeg.

Amnesty International: Het is slecht voor de vrijheid van meningsuiting

In grote delen van de wereld zijn ook de vrijheid van meningsuiting en de persvrijheid beperkt of geschonden. Regeringen voerden hun aanvallen op de media, mensenrechtenverdedigers en oppositiepartijen op, meldt de mensenrechtenorganisatie.

In Afghanistan, dat wordt geregeerd door de Taliban, waren mediawerkers het slachtoffer van intimidatie en willekeurige detentie, terwijl de militaire junta in Myanmar journalisten veroordeelde tot lange gevangenisstraffen in oneerlijke processen. De communistische regering van Noord-Korea handhaafde haar totale controle over de openbare ruimte en legde zware straffen op aan degenen die kritiek hadden op de regering.

In Bangladesh gebruikte de regering de zogenaamde Digital Security Act om mensenrechtenverdedigers te bedreigen en het zwijgen op te leggen, terwijl in China de nationale veiligheid als voorwendsel werd gebruikt om de uitoefening van de vrijheid van meningsuiting, vereniging en vergadering te verhinderen. De regering hanteerde zowel online als offline strikte censuurmaatregelen en gebruikte ook biometrische surveillancesystemen om de bevolking te monitoren en te controleren.

Ook in Iran ging de censuur door : de autoriteiten blokkeerden satelliettelevisiekanalen en veel mobiele apps en sociale-mediaplatforms. Repressieve maatregelen – zoals het ontwrichten van internet en mobiele netwerken tijdens en voorafgaand aan verwachte protesten – waren bedoeld om landelijke opstanden te voorkomen.

Rusland zette zijn agressieoorlog tegen Oekraïne voort en pleegde daar talloze misdaden tegen de mensenrechten. Ondertussen verslechterde ook de situatie in ons eigen land: het recht op vrijheid van meningsuiting werd verder ingeperkt. Critici van de regering werden geconfronteerd met willekeurige vervolging en lange gevangenisstraffen. Media en individuen kregen te maken met boetes, schorsingen of vervolging. In sommige gevallen werden meningsuitingen belasterd als ‘het verspreiden van valse informatie’, ‘in diskrediet brengen’ of ‘aanzetten tot haat’. Mensen die zich uitspraken tegen de invasie van Oekraïne in het land werden bijzonder hard vervolgd.

Amnesty International: Het recht op privacy

Het rapport biedt enkele lichtpuntjes op het gebied van privacy: verschillende steden en kantons in Zwitserland hebben een verbod op gezichtsherkenning in de openbare ruimte ingevoerd. In Polen oordeelde een commissie van de Senaat vervolgens dat het gebruik van Pegasus-spionagesoftware tegen oppositieleden en regeringscritici onwettig was en dat de parlementsverkiezingen van 2019 daarom oneerlijk waren. In dit land heeft het Federale Constitutionele Hof hoge drempels gesteld voor het gebruik van geautomatiseerde data-analyse bij politieoperaties.

In Frankrijk staat een nieuwe wet echter massale, door AI aangedreven videobewaking van de Olympische Spelen van 2024 toe. De Moldavische regering heeft veiligheids- en inlichtingenwetten aangenomen die, hoewel ze enkele verbeteringen met zich meebrengen, nog steeds ruimte laten voor misbruik en toezicht. Spanje is ook het middelpunt van kritiek nadat bekend werd dat ten minste 65 mensen, waaronder journalisten en politici, het doelwit waren van de Pegasus-spionagesoftware. De lopende juridische procedures tegen het gebruik van de software zijn echter voorlopig opgeschort vanwege een gebrek aan medewerking van de Israëlische autoriteiten.

De digitalisering van overheidsdiensten en een daaropvolgende cyberaanval hebben de zorgen over de privacy onder de Keniaanse bevolking doen toenemen. In Lesotho werd onthuld hoe de regering op ongrondwettelijke wijze mobiele telefoons van oppositiepolitici in beslag nam.

Amnesty International: Het blijft een beroep

Amnesty International roept regeringen op om invasieve software en gezichtsherkenningstechnologieën onmiddellijk te verbieden. Er zijn solide wet- en regelgevende maatregelen nodig om de risico’s van kunstmatige intelligentie aan te pakken. Staten moeten Big Tech ook meer op hun plaats zetten – vooral in de context van hun surveillancepraktijken.

Agnès Callamard, secretaris-generaal van Amnesty International, reflecteert op de toestand van de mensenrechten in 2023. Wat haar bijzonder zorgwekkend is, is de terugkeer naar autoritaire praktijken en de erosie van fundamentele rechten – zowel historisch als in de context van moderne technologieën. Callamard benadrukt echter ook de mondiale solidariteit, benadrukt het belang van verzet en roept op tot gemeenschappelijke inzet voor onze menselijkheid.