Indignatie redactie 
Een heleboel gekke video’s op TikTok lijken misschien onschuldig, maar reken er niet op. Een toonaangevend socialemediaplatform in buitenlandse handen kan gevaarlijk zijn.
Oppervlakkig gezien is het moeilijk om TikTok te zien als een ernstige bedreiging voor de nationale veiligheid. De vaak dwaze aanbiedingen van de site zien er ongeveer net zo aanstootgevend uit als een Barbiepop of de gemiddelde teddybeer. Maar schijn bedriegt en de potentiële dreiging die uitgaat van TikTok is zowel onmiddellijk als reëel.
Tot nu toe heeft het Congres zich vooral gericht op het vermogen van de TikTok-app om inlichtingen te verzamelen in de vorm van intieme gegevens over het Amerikaanse publiek. Een grotere, langer reikende bedreiging is het potentieel van de app om op subtiele wijze de manier te manipuleren waarop we de dagelijkse realiteit begrijpen.
In de futuristische roman 1984 vecht de hoofdpersoon van George Orwell, Winston Smith, wanhopig om weerstand te bieden aan de subtiele, geestdodende controle die Big Brother over vrijwel iedereen uitoefent – het enigmatische hoofd van een saai, totalitair systeem dat heerst over een doorgaans onderdanige samenleving. Big Brother kan wel of niet een echt persoon zijn.
Niemand weet het echt. Smith werkt bij een overheidskantoor dat voortdurend de hedendaagse geschiedenis herschrijft, waardoor wordt gegarandeerd dat de uitspraken van Big Brother altijd als juist worden beschouwd. Constante videobewaking beschermt de staat tegen elke afwijking. Degenen die protesteren zijn simpelweg ‘verdwenen’.
De introductie van een door de overheid gesponsorde taal, Nieuwspraak, is bedoeld om het kritische denken te kortsluiten. Zoals Orwell uitlegt, was het ‘ontworpen om het denkvermogen te verkleinen’. Iedereen die in de verleiding komt om het systeem te bekritiseren, zal merken dat hij niet over de woorden beschikt om nieuwe ideeën tot uitdrukking te brengen.
Uiteindelijk werkt er maar één ding in het voordeel van Winston Smith. ‘Met al hun slimheid’, redeneert hij, ‘hadden ze nooit het geheim onder de knie om erachter te komen wat een ander mens dacht…’ TikTok belooft daar verandering in te brengen.
Orwell schreef de roman in 1948, en hij draaide eenvoudigweg de laatste twee cijfers van het jaartal om toen hij hem afrondde. Orwell, slechts drie jaar na het einde van de Tweede Wereldoorlog geschreven, kon de eerste tekenen van overheidsinspanningen op het gebied van mind control al zien in de propaganda- en psyops-inspanningen die beide partijen tijdens de oorlog hadden geleverd.
Ondanks de waarschuwing van Orwell versnelden deze inspanningen in de decennia na de oorlog. Van de ‘Mad Men’ van de reclamebureaus op Madison Avenue in New York in de jaren zestig tot onderzoek naar motivatie en gedrag: de Heilige Graal is een voortdurende poging geweest om erachter te komen wat mensen denken en waarom.
Volgens een Pew-enquête zei ongeveer 22 procent van de in 2020 ondervraagde TikTok-gebruikers dat ze het meeste nieuws van TikTok kregen. Slechts een jaar later zei 43 procent dat ze hun nieuws van TikTok kregen.
Het uiteindelijke doel is om beter te begrijpen hoe we ieder van ons kunnen beïnvloeden en controleren, zodat we iets zullen doen waar we op eigen kracht misschien niet toe zouden besluiten. Het grootste verschil tussen de tijd dat Orwell schreef en nu is het internet. Sociale media bieden influencers tegenwoordig niet alleen buitengewoon gedetailleerde informatie over iedereen die online is, maar zorgen er ook voor dat berichten kunnen worden afgestemd op de gevoeligheden en zwakheden van elk individueel lid van de doelgroep. Dat publiek zijn wij in essentie.
Adverteren beperkt zich niet langer tot een lokale of regionale markt. Met het internet is het mondiaal geworden. In plaats van uit te zenden, wat betekent dat een one-size-fits-all boodschap wordt gestuurd naar een willekeurige groep mensen die het er wel of niet mee eens zijn, is de trend tegenwoordig richting narrowcasting, waarbij buitengewoon gedetailleerde informatie wordt gebruikt om berichten te maken die gegarandeerd zijn. resoneren met specifieke groepen mensen.
De truc is om te identificeren wie die mensen zijn. De enorm toegenomen rekenkracht, gecombineerd met mModels in grote talen, zoals ChatGPT-4, en kunstmatige intelligentie, maakt het mogelijk individuen te targeten in een mate die nooit eerder bestond.
Het mooie van TikTok vanuit het perspectief van China is dat de meeste rauwe creativiteit die TikTok zo verslavend maakt, afkomstig is van de gebruikers, die voornamelijk Amerikaans zijn. Hoe die rauwe creativiteit daadwerkelijk wordt gebruikt, wordt echter bepaald door de algoritmen van het platform, die dankzij AI het eindproduct kunnen vormgeven om subtiele effecten te produceren die misschien niet meteen voor de hand liggen.
Een voorbeeld van het destructieve potentieel van ongecontroleerde sociale media werd gegeven toen de nieuwsfeed van Facebook in 2017 gebruik maakte van op betrokkenheid gebaseerde algoritmische systemen om het internet te bedekken met opruiende beelden die de haat tegen de Rohingya-minderheid in Myanmar (Birma) aanwakkerden.
Volgens Amnesty International zijn de algoritmen van Facebook veroorzaakte een vuurstorm die de etnische zuiveringscampagne van de regering versterkte en ertoe leidde dat duizenden Rohingya werden verkracht, vermoord en ontheemd. Hoewel Facebook werd gewaarschuwd voor het geweld dat plaatsvond, deed het aanvankelijk niets om zijn algoritmen tegen te houden.
In 2023 opende de Britse journaliste Cristina Criddle, die over technologie schrijft voor de Financial Times , een TikTok-account gewijd aan video’s van haar zwart-witte kat, Buffy. TikTok gaf uiteindelijk toe dat het had geprobeerd het Internet Protocol-identificatienummer van haar computer te matchen met dat van zijn eigen stafmedewerkers om te ontdekken welke stafmedewerkers bedrijfsinformatie naar de pers hadden gelekt. Buffy, voorheen een vaste TikTok-artiest, is sindsdien van het internet verdwenen.
De New York Times meldde dat TikTok-medewerkers routinematig gevoelige informatie over TikTok-gebruikers rapporteerden in e-mails en op hun interne berichtensysteem. Veel van die informatie zou gemakkelijk toegankelijk zijn voor TikTok-stafmedewerkers in China.
Het is belangrijk op te merken dat het wetsvoorstel dat in het Congres is besproken niet oproept tot het sluiten van TikTok; in plaats daarvan eist het dat de Chinese eigenaren van TikTok het platform binnen zes maanden verkopen. De Chinese overheid heeft al aangegeven dat zij kan proberen elke verkoop te blokkeren. Het heeft de VS gevangen in een honingval, versterkt door de populariteit van TikTok.
Eerlijk gezegd kwamen de Chinezen en TikTok vrij laat in de game ter plaatse. De cruciale doorbraak kwam begin jaren negentig, toen een netwerksoftware-ingenieur, Lou Montulli, de internetcookie uitvond , in wezen een stukje softwarecode die elke keer dat u iets op internet bezoekt, op uw computer wordt opgeslagen. Cookies laten een spoor van digitale broodkruimels achter die vrijwel alles wat u op internet doet, kunnen volgen.
In 1995 ontwikkelde een reclamebedrijf, Double Click, een systeem dat cookies gebruikte om het publiek automatisch te profileren, zodat adverteerders hun pitches konden richten op de klanten die het meest waarschijnlijk geïnteresseerd zouden zijn in een specifiek product. Als je op internet naar vakantieplekken op de Bahama’s zocht, werd je plotseling overweldigd door advertenties voor goedkope hotels in het Caribisch gebied.
Terwijl ik in 1995 aan een verhaal over Double Click werkte, belde ik Montulli om te praten over wat het koekje heeft teweeggebracht. “Als ik had geweten wat er zou gebeuren,” vertelde hij me, “denk ik niet dat ik het koekje zou hebben uitgevonden.” Double Click werd al snel door Google gekocht en uiteindelijk opgenomen in zijn advertentieverkoopapparaat. Reclame was daarna nooit meer hetzelfde.
Mark Zuckerberg duwde het concept verder met Facebook. Zijn doel was om zoveel mogelijk gebruikers aan te trekken om advertenties te verkopen. Door gegevens over individuele gebruikers te verzamelen, probeerde Zuckerberg de specifieke voorkeuren en antipathieën van elke gebruiker te identificeren en vervolgens bijpassende advertenties in hun richting te sturen. Met vallen en opstaan werd al snel duidelijk dat een verhit debat een effectieve manier was om gebruikers online te laten blijven.
Door gebruikers toe te staan schandalige uitspraken te doen die resulteerden in online schreeuwwedstrijden, werden meer gebruikers zelfs aangemoedigd om zichzelf bloot te stellen aan meer advertenties. Als dat heeft bijgedragen aan de polarisering van het publiek en mogelijk tot schade aan de samenleving, dan was dat het probleem van iemand anders. Zuckerberg deed het voor het geld, niet voor het welzijn van de samenleving.
Naast de advertentieverkoop werd al snel duidelijk dat de gegevens die Facebook produceerde een buitengewoon gedetailleerd beeld gaven van waar de meeste gebruikers zichzelf in het politieke spectrum positioneerden. In 2015 huurde Cambridge Analytica een computerwetenschapper, Aleksandr Kogan, in om een digitale app te ontwikkelen met de naam ‘This is Your Digital Life’. Kogan, geboren in Moldavië, in de voormalige Sovjet-Unie, en opgeleid aan de Universiteit van Hong Kong, was Amerikaans staatsburger geworden en vervolgde zijn studie aan Stanford University.
Kogan betaalde honderdduizenden Facebook-gebruikers een nominale vergoeding om hun gegevens te gebruiken in wat volgens hem een onderzoeksproject was dat uitsluitend bedoeld was voor academisch gebruik. Wat destijds niemand besefte, was dat Kogan dankzij de structuur van Facebook ook toegang kreeg tot de “vrienden” van nietsvermoedende gebruikers die toestemming hadden gekregen om hun gegevens te gebruiken.
Steve Bannon, de belangrijkste strateeg van Donald Trump in de aanloop naar de verkiezingen van 2016, had drie jaar eerder geholpen bij het opzetten van Cambridge Analytica, met behulp van geld van de rechtse computermagnaat Robert Mercer. Volgens Christopher Wylie, die het grootste deel van de activiteiten van Cambridge Analytica leidde en deze in detail beschreef in zijn boek Mindf*ck uit 2019, had Bannon zich al vroeg gerealiseerd dat de verkiezingen van 2016 zeer waarschijnlijk zouden afhangen van honderdduizend of meer onafhankelijke kiezers in een sleutelrol. staten.
Als blanke supremacisten, neonazi’s, militieorganisaties van eigen bodem en andere voorheen genegeerde minderheidsgroepen gemobiliseerd zouden kunnen worden, zouden hun stemmen net genoeg kunnen zijn om de verkiezingen in het voordeel van Trump te laten uitslaan.
Sociale media bleken het perfecte middel om voorheen rechtelozen te bereiken en hen ervan te overtuigen hun stem aan de Trump-campagne toe te voegen. De strategie werkte. In 2016 verloor Trump de volksstemming met bijna 3 miljoen stemmen, maar won hij het Electoral College met 77 kiesstemmen en werd hij tot president uitgeroepen.
De bemoeienis van Cambridge Analytica met de Amerikaanse politiek was één ding. Dat soort macht geven aan China, dat steeds meer vijandige bedoelingen heeft geuit tegen de Verenigde Staten, vooral in geschillen over Taiwan en het marineverkeer in de Zuid-Chinese Zee, is een heel andere zaak.
Peking toegang geven tot essentiële financiële en persoonlijke informatie over ongeveer 170 miljoen Amerikanen is al zenuwslopend genoeg, maar Bytedance, de eigenaar van TikTok, een platform laten exploiteren waarmee het de communicatie tussen meer dan de helft van de Amerikaanse bevolking kan framen en manipuleren, zou op de lange termijn kunnen blijken nog gevaarlijker zijn.
Bytedance stelt dat het tot nu toe nooit enige overmatige invloed van de Chinese overheid heeft gehad, ook al is Peking een grootaandeelhouder. Dat kan waar zijn, maar er is geen garantie dat Peking in de toekomst niet zal ingrijpen. Een jachtgeweer is onschadelijk totdat iemand besluit de trekker over te halen.
Als het om zijn eigen grondgebied gaat, is China zich nauwelijks bewust van de gevaren van ongeremde sociale media en vrijlopende ondernemingen als Bytedance en TikTok. Peking heeft niet alleen zijn beroemde ‘grote firewall’ opgezet om zichzelf af te sluiten van niet-Chinese internetproviders; het weigert ook standvastig toe te staan dat sociale media in buitenlandse handen op de Chinese markt actief zijn.
De draconische repressie van de vrije meningsuiting in Hongkong, de slavernij van de Oeigoerse minderheid en de voortdurende pogingen om Taiwan te intimideren, om nog maar te zwijgen van de agressieve pogingen om de controle over de Zuid-Chinese Zee op te leggen, laten weinig twijfel over waar het land werkelijk staat. China is allesbehalve een knuffelige teddybeer.
De VS geloven misschien in het beginsel van de vrijheid van meningsuiting, ook al zijn er discussies over de grenzen ervan als het gaat om desinformatie of opruiende opmerkingen. Zoals het in Hong Kong en elders heeft laten zien, heeft Peking geen enkele moeite met censuur.
Terwijl TikTok in Amerika een verleidelijke mix van dwaasheden uitzendt die grotendeels gericht is op een jongere generatie die maar al te graag grapjes maakt voor een camera, is Douyin, de versie van TikTok die in China actief is, allesbehalve frivool. De Chinese versie benadrukt dat Chinese jongeren wetenschap en technologie moeten studeren en promoot de kerndeugden waar de Chinese Communistische Partij de voorkeur aan geeft. De boodschap is duidelijk: als Amerikanen zichzelf echt dood willen amuseren, is China meer dan bereid om hieraan tegemoet te komen.
Terwijl Bytedance in China dicht bij de partijlijn blijft, biedt TikTok het bedrijf een verbazingwekkende hoeveelheid invloed als het gaat om het manipuleren van wat Amerikanen over de wereld denken. Volgens een Pew-enquête zei ongeveer 22 procent van de in 2020 ondervraagde TikTok-gebruikers dat ze het meeste nieuws van TikTok kregen.
Slechts een jaar later zei 43 procent volgens Pew dat ze hun nieuws van TikTok kregen. Statista, een andere opiniepeilingsgroep die sociale media in de gaten houdt, meldt dat 1 op de 3 Amerikanen tussen de 18 en 29 jaar momenteel hun nieuws via TikTok haalt. Een verrassend aantal TikTok-gebruikers vindt de app zowel verslavend als grappig.
Bij dit alles is het de moeite waard om te bedenken dat China, ondanks enkele cosmetische gebaren richting het modernisme, in hoge mate een totalitaire staat blijft. Gedurende het grootste deel van de tweede helft van de 20e eeuw experimenteerden zowel China als Rusland met het “hersenspoelen” van tegenstanders en politieke dissidenten, feitelijk iedereen die het niet eens was met de lijn van de Communistische Partij.
De Russen vertrouwden doorgaans op grove martelingen om dissidenten te dwingen ‘misdaden tegen de staat’ te bekennen. Daarentegen probeerden de Chinezen de denkprocessen en het identiteitsgevoel van hun slachtoffers opnieuw vorm te geven. De Chinezen wilden dat de slachtoffers oprecht geloofden dat de staat altijd gelijk had gehad.
Het resultaat was een mix van Orwells 1984, versterkt door een aantal brute technieken die deden denken aan de Spaanse Inquisitie. Tijdens de Koreaanse oorlog betekende het proces het afbreken van het identiteitsgevoel van een gevangene en het vervolgens aanbieden van een alternatief dat niet alleen een einde beloofde aan de ondraaglijk harde behandeling, maar ook logisch redelijk leek. Aan het einde van de Koreaanse oorlog besloten minstens 21 Amerikaanse krijgsgevangenen dat ze liever in China wilden wonen dan terug te keren naar de VS.
De Koreaanse oorlog was lang geleden, maar de belangstelling van de Chinese staat voor het hervormen van het menselijk bewustzijn is sindsdien constant gebleven. Het is misschien niet mogelijk om een hele bevolking te martelen, maar een paar terroristische aanslagen, een aanval van inflatie en een paar strategisch geplaatste angsten kunnen leiden tot een algemene desoriëntatie die de weg opent voor een vastberaden beïnvloeder om de manier waarop mensen denken te veranderen.
De dreiging beperkt zich echter niet tot TikTok. Wat gebeurt er als een krachtig, in de VS gevestigd platform voor sociale media – Elon Musk’s X (voorheen Twitter) of Zuckerberg’s Facebook of Google – besluit onze realiteit vorm te geven voor zijn eigen potentieel destructieve doeleinden?
Grote taalmodellen en kunstmatige intelligentie herdefiniëren wat mogelijk is, vooral omdat steeds meer van ons leven zich via internet afspeelt. We leven in grotere mate dan ooit tevoren in een virtuele realiteit die ons wordt overgebracht door smartphones, tabletschermen en laptops, en zeer waarschijnlijk in de toekomst door virtual reality-brillen en -headsets. Het is een stuk gemakkelijker om met die realiteit te knoeien dan met de fysieke realiteit om ons heen.
Dit alles in aanmerking nemend, is het niet moeilijk te begrijpen waarom het Congres vrijwel unaniem heeft gestemd om erop aan te dringen dat TikTok zich losmaakt van elke toekomstige manipulatie door een potentieel vijandige Chinese Communistische Partij.
De dreiging beperkt zich echter niet tot TikTok. Wat gebeurt er als een krachtig, in de VS gevestigd platform voor sociale media – X van Elon Musk (voorheen Twitter) of Facetbook van Zuckerberg, of Google – besluit onze realiteit vorm te geven voor zijn eigen potentieel destructieve doeleinden? Het bedrijfsleven minacht uiteraard overheidsregulering, maar wat gebeurt er als het bedrijfsleven toegang krijgt tot instrumenten waarmee een paar CEO’s de samenleving opnieuw kunnen definiëren? De schade thuis zou net zo groot kunnen zijn als die van een kwaadaardige TikTok-teleguide door China.
De VS hebben duidelijk richtlijnen voor sociale media nodig die verder gaan dan het simpelweg blokkeren van TikTok. Hoe dat kan worden bereikt met een regering die al zo gepolariseerd is dat ze nauwelijks kan stemmen om zichzelf te financieren, is een raadsel. Maar er moet snel een antwoord worden gevonden, anders zal Orwells visie van een uitgestorven bevolking geregeerd door een Big Brother die niet langer onder controle van iemand staat waarschijnlijk werkelijkheid worden.
