Indignatie redactie 
Elon Musk – Het Europese onderzoek naar schadelijke inhoud op X over de oorlog tussen Israël en Hamas stelt een nieuwe wet op de proef die het internet zou kunnen hervormen.
Het is geen mysterie dat Elon Musk , na de aankoop van Twitter , nu bekend als X, stappen heeft ondernomen om de verdediging van het platform tegen ongecontroleerde versterking van desinformatie te verzwakken. Begin oktober werd de oorlog tussen Israël en Hamas de eerste echte test voor hoe X nu omgaat met belangrijke nieuwsgebeurtenissen. Volgens velen gaat het niet goed.
Het is duidelijker dan ooit dat X meer is veranderd dan alleen zijn naam. Desinformatie heeft vrijelijk op X gecirculeerd in de minuten, uren en dagen na de aanval van Hamas op Israël. Musk gebruikte zelfs zijn eigen X-account om gebruikers die op zoek waren naar nieuws over de oorlog door te verwijzen naar twee geverifieerde accounts die een duidelijke geschiedenis hebben van het delen van valse informatie.
Regelgevers in Europa proberen echter de macht van grote technologiebedrijven te controleren door een nieuwe wet te testen die socialemediabedrijven verantwoordelijker en transparanter wil maken . De Europese Unie onderzoekt de manier waarop X omgaat met haatzaaiende uitlatingen en desinformatie met betrekking tot de oorlog tussen Israël en Hamas, de eerste in zijn soort onder de nieuwe Digital Services Act (DSA) die eind augustus van kracht werd.
Deze test van het bereik van de DSA zou reële gevolgen kunnen hebben voor sociale-mediabedrijven, en de uitkomst zou de ervaring van online zijn tot ver buiten Europa kunnen veranderen. Hoewel sommige technologiebedrijven nieuwe transparantiekenmerken voor Europese gebruikers hebben geïntroduceerd die elders niet beschikbaar zijn, zal het voor technologiebedrijven met een mondiaal bereik waarschijnlijk moeilijk worden om voor onbepaalde tijd twee versies van hun producten in stand te houden – de ene voldoet aan de DSA en de andere niet.
In de VS beschermt Sectie 230 technologiebedrijven tegen aansprakelijkheid voor de inhoud die hun gebruikers plaatsen. De DSA vervangt de e-commercerichtlijn van de EU, die in 2000 van kracht werd en soortgelijke aansprakelijkheidsschilden bevatte voor Big Tech- bedrijven die in Europa actief zijn. Hoewel de DSA deze schilden niet verwijdert, definieert zij wel de verantwoordelijkheden die een in Europa opererende onlinedienst heeft jegens haar gebruikers.
De wet vereist ook dat bedrijven transparanter zijn over hun moderatie en contentbeheer, en beperkt de reikwijdte van gerichte reclame. (Ondertussen weigerde het Amerikaanse Hooggerechtshof de grenzen van Sectie 230-bescherming te definiëren in een paar besluiten die afgelopen mei werden uitgevaardigd, waardoor de toekomst van de vrijheid van meningsuiting online in twijfel werd getrokken.)
Groepen voor digitale rechten in de VS hebben de adoptie van de DSA gevolgd , evenals de manier waarop bedrijven uit Silicon Valley daarop reageren. Hoewel er nog steeds veel variabelen zijn voor deze grotendeels ongeteste reeks regelgeving, heeft de DSA het potentieel om beleidshervormingen wereldwijd te beïnvloeden en de manier te veranderen waarop deze platforms buiten Europa opereren.
Om je op de hoogte te houden, volgt hier een gids voor de DSA, het onderzoek naar X en wat er daarna zou kunnen gebeuren.
Is verkeerde informatie over X echt zo slecht geweest?
In de uren nadat de Hamas-aanval op Israël begon, verspreidden gebruikers die zich hadden geabonneerd op X Premium – waarvan de accounts een geverifieerd vinkje tonen en een grotere betrokkenheid krijgen in ruil voor een maandelijks bedrag – een aantal bijzonder flagrante desinformatie.
Volgens een running tracker van Media Matters versterkten deze verslagen een valse memo van het Witte Huis, waarin werd beweerd dat de Amerikaanse regering op het punt stond 8 miljard dollar aan hulp naar Israël te sturen; verspreidde video’s van andere conflicten (en in sommige gevallen beelden van een videogame ) terwijl ze beweerden dat ze het laatste nieuws uit Israël en Gaza lieten zien; beweerde ten onrechte dat een kerk in Gaza was gebombardeerd; en deed zich voor als een nieuwsuitzending.
Deze berichten werden gedeeld door X-gebruikers met een groot aantal volgers en werden tientallen miljoenen keren bekeken. Het Tech Transparency Project zei donderdag dat het X Premium-accounts had geïdentificeerd die propagandavideo’s van Hamas promootten, die honderdduizenden keren werden bekeken .
Waarom maakt het uit of er een heleboel verkeerde informatie over X staat?
De impact van betaalde X-accounts die terroristische propagandavideo’s posten is waarschijnlijk vanzelfsprekend, maar de redenen om ons zorgen te maken over de verspreiding van desinformatie gaan verder dan het mogelijk maken van letterlijke oorlogspropaganda. Oplichters en oplichters gebruiken oorlogsbeelden om volgers op sociale media te krijgen.
Wanneer verkeerde informatie breed genoeg wordt bekeken, kan dit beleid en overtuigingen vormgeven die van invloed zijn op de levens van echte mensen. Het kan aanzetten tot geweld tegen mensen of groepen door woede en verontwaardiging teweeg te brengen in zijn zoektocht naar standpunten. Er is hier sprake van echte schade voor echte mensen.
Hoewel X nooit echt goed is geweest in het naar boven halen van alleen nauwkeurige informatie tijdens een groot nieuwsevenement, maakten de chronologische tijdlijn en beknoptheid het tot een nuttig en belangrijk hulpmiddel voor het verkrijgen van toegang tot een zee aan informatie uit verschillende bronnen tijdens snel veranderende momenten in de geschiedenis. Dit was vooral het geval in het begin en midden van de jaren 2010, en het platform bleef nuttiger dan niet, zo beweren sommigen, tot eind oktober 2022, toen Elon Musk zijn aankoop van Twitter voltooide . De miljardair ging snel over tot prioriteit geven aan de inhoud van betalende gebruikers in ieders feeds.
In het jaar sinds hij Twitter heeft overgenomen en er X van heeft gemaakt, heeft Musk toezicht gehouden op een vermindering van de capaciteit van het platform om haatzaaiende uitlatingen en desinformatie te matigen, de Trust and Safety Council van de site ontbonden en het identiteitsverificatiesysteem voor invloedrijke accounts beëindigd. In plaats daarvan beloont het platform nu blauwe vinkjes die identiek zijn aan de oude geverifieerde vinkjes uitsluitend aan de betalende abonnees van X, die geen verificatieproces ondergaan. Eind september verwijderde X ook een functie waarmee gebruikers inhoud konden melden die misleidende informatie bevatte.
Een andere reden waarom u zich zorgen zou moeten maken over desinformatie zijn eenvoudigweg de hoofdgebruikers van X. Ondanks de inspanningen van Musk gebruiken een heleboel journalisten, experts, politici en invloedrijke mensen X nog steeds als informatiebron. Geen van de platforms die het afgelopen jaar naar voren kwamen als mogelijke Twitter-vervangers hebben de toegang tot aandacht en macht veroverd die het nut van de site kenmerkten. X blijft dus een efficiënt hulpmiddel om veel mensen te bereiken die zelf een groot publiek hebben, wat betekent dat wanneer onwaarheden daar aan de oppervlakte komen, ze zich verspreiden.
Wat is precies deze nieuwe wet die de EU handhaaft?
De Digital Services Act (DSA) regelt een aantal behoorlijk belangrijke aspecten van de manier waarop Big Tech-bedrijven inhoud in Europa modereren. De DSA, die in 2022 werd aangenomen, is pas enkele maanden geleden van kracht geworden en vereist dat bepaalde sites die zijn aangewezen als “zeer grote online platforms” zich aan de EU-regels houden om in Europa te kunnen opereren. Die 19 platforms omvatten Amazon , Apple ’s App Store, Facebook , verschillende Google- diensten, Instagram , TikTok en natuurlijk X.
De regels zijn bedoeld om platforms meer verantwoordelijk te maken voor de inhoud die ze hosten en aanbevelen, en transparanter te maken over hoe hun algoritmen werken. De DSA schetst standaarden voor moderatie, rapportage en transparantie, verbiedt gerichte reclame op basis van ras, religie, genderidentiteit en andere gevoelige categorieën, evenals gerichte reclame voor kinderen. De regels vereisen ook dat platforms actie ondernemen om de risico’s van desinformatie, illegale inhoud, geweld, verkiezingsintegriteit en mensenrechten in te schatten en de verspreiding ervan te vertragen.
De nieuwe wet wordt gehandhaafd door de Europese Commissie, die ook de wet heeft geschreven, samen met het Europees Centrum voor Algoritmische Transparantie, dat door de EU is opgericht en wetenschappers en andere onderzoekers met relevante expertise in dienst heeft.
Bedrijven die zich niet aan de regels van de DSA houden, zullen te maken krijgen met boetes , waaronder boetes tot 6 procent van hun jaaromzet (X had een jaaromzet van 5,08 miljard dollar in 2021, het laatste volledige jaar dat het bedrijf financiële resultaten bekendmaakte voordat het naar de beurs ging Onder Musk. Als je dat getal gebruikt, kan X boetes krijgen van maximaal $300 miljoen. Musk heeft gezegd dat hij verwacht dat X in 2023 ongeveer $3 miljard zal verdienen ).
Hoewel veel van de vereisten te maken hebben met transparantie en rapportage, heeft de DSA de manier waarop sommige van deze platforms in de regio opereren al veranderd. TikTok en Meta hebben Europese gebruikers bijvoorbeeld de mogelijkheid gegeven om gepersonaliseerde feeds uit te schakelen.
Wat bracht de EU ertoe om achter X aan te gaan? Hoe reageerde X?
EU-commissaris Thierry Breton plaatste op 10 oktober een open brief over X waarin hij Musk waarschuwde dat de EU “aanwijzingen” had dat X werd gebruikt “om illegale inhoud en desinformatie in de EU te verspreiden”, en herinnerde Musk aan de “ zeer precieze verplichtingen met betrekking tot inhoudsmoderatie.”
In de brief noemt Breton een aantal bijzonderheden. Ten eerste schrijft hij dat recente beleidswijzigingen onzekerheid hebben geïntroduceerd over hoe X zijn regels handhaaft en welke inhoud überhaupt is toegestaan. Ten tweede zegt Breton dat ze rapporten hebben van ‘gekwalificeerde bronnen’ over illegale inhoud die op X blijft circuleren nadat deze door de autoriteiten is gemarkeerd. Hij vertelde Musk ook dat X “proportionele en effectieve mitigatiemaatregelen” moest treffen voor desinformatie.
In een bericht op X antwoordde Musk op de brief van Breton, waarin hij schreef dat het beleid van X was om alles ‘open source en transparant’ te houden, en vroeg Breton om ‘de schendingen op te sommen waarnaar u verwijst op X, zodat het publiek [sic] zie ze.” Breton antwoordde vervolgens dat Musk “goed op de hoogte” moest zijn van de inhoud die door gebruikers en autoriteiten aan X werd gerapporteerd, waarop Musk volhield dat hij ze alleen zou aanspreken als deze openbaar werd gepost.
X-CEO Linda Yaccarino bracht de volgende dag een open brief uit waarin ze de reactie van X op desinformatie en illegale inhoud op het platform verdedigde, met het argument dat X “toegewijd is aan het dienen van het publieke gesprek, vooral op kritieke momenten als deze … er is geen plaats op X voor terroristische organisaties of gewelddadige extremistische groeperingen en we blijven dergelijke accounts in realtime verwijderen, inclusief proactieve inspanningen.” Volgens de brief van Yaccarino heeft X sinds de Hamas-aanval “tienduizenden” stukjes inhoud verwijderd.
De Europese Commissie heeft op 12 oktober een formeel verzoek om informatie naar X gestuurd, waarin zij op zoek is naar materiaal dat relevant is voor “haar beleid en acties met betrekking tot mededelingen over illegale inhoud, klachtenafhandeling, risicobeoordeling en maatregelen om de geïdentificeerde risico’s te beperken.” X moet uiterlijk 18 oktober op het verzoek reageren, anders riskeert hij boetes.
Hoe zit het met de andere grote platforms, zoals Facebook en TikTok?
Breton schreef ook brieven aan de CEO’s van Meta , TikTok en YouTube .
De EU-commissaris vroeg Meta-CEO Mark Zuckerberg om “ervoor te zorgen dat uw systemen effectief zijn” voor het reageren op illegale inhoud op Facebook en Instagram met betrekking tot de oorlog tussen Israël en Hamas. In de brief, gepubliceerd op 11 oktober , wordt Zuckerberg ook gevraagd te reageren op een verzoek om informatie over Meta’s maatregelen om deepfakes en desinformatie gericht op verkiezingsintegriteit tegen te gaan.
De brief aan YouTube-CEO Neal Mohan herinnerde het platform aan zijn verplichting onder DSA om te voorkomen dat kinderen en tieners gewelddadige inhoud bekijken, waaronder gijzelingsvideo’s en oorlogspropaganda.
Breton verwees ook naar een jonge gebruikersbasis in zijn brief aan TikTok-CEO Shou Zi Chew , waarin hij betoogde dat de toenemende populariteit van TikTok als nieuwsbron de noodzaak onderstreept om ervoor te zorgen dat “betrouwbare bronnen” “voldoende onderscheiden zijn van terroristische propaganda.” Breton vroeg TikTok om zijn handhavingsinspanningen ‘op te voeren’, verslag uit te brengen en ‘onmiddellijk te reageren’ op verzoeken van Europese wetshandhavingsinstanties.
Maar tot nu toe is X het enige platform waarnaar de EU een formeel verzoek om informatie heeft gestuurd.
Wat gebeurt er nu?
Het EU-onderzoek naar X is de eerste publieke zaak tegen een groot technologiebedrijf in het kader van de DSA sinds deze een paar maanden geleden van kracht werd. Er zijn dus veel dingen die we gewoon niet weten over hoe dit zal uitpakken. Vergeet niet dat de DSA de EU machtigt om straffen uit te vaardigen voor het overtreden van de DSA-regels, en ook voor het niet naleven van de onderzoeksprocedures.
Sommige experts hebben hun bezorgdheid geuit over de eerste communicatie van Breton met X en vroegen zich af of de waarschuwingen in de brief afdwingbaar zouden blijken te zijn. Asha Allen van het Center for Democracy and Technology noemde de brief aan Musk een “misstap”, een misstap die uiteindelijk onzekerheid zou kunnen veroorzaken in de bepalingen van de DSA en de impact van haar handhavingspogingen zou kunnen verzwakken.
Breton vertelde Politico dat zijn bureau de DSA “grondig zou handhaven”. Uit het onderzoek naar X blijkt in ieder geval dat ze die belofte nakomen.
Toch zijn de regels van de DSA ingewikkeld om af te dwingen en vereisen ze expertise over de innerlijke werking van algoritmisch ontwerp en moderatiepraktijken. Deze barrières waren voor de EU aanleiding om een volledig onderzoeksbureau op te richten, bemand met deskundigen om harde bewijzen van schendingen van de DSA-regels te identificeren. Zoals de New York Times in september meldde, zal elke handhaving waarschijnlijk voor de rechter belanden zodra de EU een groot technologiebedrijf bestraft voor het overtreden van de wet.
Als de bepalingen van de DSA deze tests doorstaan, zullen Big Tech-bedrijven hun platforms moeten adopteren voor een nieuw tijdperk van technologische regulering dat de verscheidenheid aan online schade in het huidige internettijdperk directer aanpakt. Maar de beleidshervormingen van de EU zijn hier niet de enige bron van druk: wetgevers in de VS dringen al jaren aan op een hervorming van Sectie 230, ook al hebben de meest uitgesproken critici van de wet niet precies dezelfde prioriteiten in gedachten .
