Indignatie redactie 
Terwijl de Chinese regering leden van de Oeigoerse minderheid vasthoudt in kampen, heeft TikTok in Duitsland woorden als ‘werkkamp’ en ‘heropvoedingskamp’ aan banden gelegd: ze zijn vervangen door sterretjes in automatische bijschriften. TikTok legt dit uit met “verouderde Engelse taalbescherming”.
Er zijn woorden die ogenschijnlijk ongewenst zijn op TikTok. In ieder geval één nieuwe functie van het social media platform wekt de indruk. TikTok-gebruikers zouden in de toekomst automatische ondertitels voor hun video’s moeten kunnen maken. De functie werd aanvankelijk in het Engels uitgerold. Het was beschikbaar in het Duits, althans voor een korte tijd in februari. TikTok zette sommige Duitse woorden niet automatisch om in tekst, maar maakte ze onherkenbaar.
Zo werd “heropvoedingskamp” “heropvoeding***********” en “werkkamp” werd “werk***************”. Over het algemeen kon netzpolitik.org negen woorden en één lettergreep identificeren die TikTok met een asterisk had gemarkeerd. Het waren niet alleen woorden die associaties opriepen met het Chinese kampsysteem. TikTok censureerde ook het woord “prostitutie” naar “pros********************”. De ondertitels kunnen in ieder geval later met de hand worden gecorrigeerd.
Op 9 februari was de ondertitelfunctie op een van onze testtelefoons ineens niet meer beschikbaar. Het TikTok-persbureau legt het als volgt uit: “Tijdens een recente test van ondertitels werden verouderde Engelstalige beschermingsmaatregelen ten onrechte toegepast voor de Duitse functie.”
Deze uitleg is irritant. Omdat sommige gecensureerde termen niet lijken op Engelse woorden. “Werkkampen”, “heropvoedingskampen”, “interneringskampen”, “concentratiekampen” en “vernietigingskampen”. TikTok heeft al deze woorden onherkenbaar gemaakt in de ondertitels met sterretjes. Het woord “kamp” verscheen echter volledig in ondertitels in andere contexten. Een gevaar voor verwarring met Engelse termen is hier moeilijk te herkennen.
De termen hebben ook een actuele politieke achtergrond. De staat China houdt de Oeigoerse minderheidsbevolking vast in heropvoedingskampen. Honderdduizenden mensen worden al jaren getroffen, wat pas door journalistiek onderzoek bij het grote publiek bekend werd . China spreekt in dit verband liever van “onderwijscentra” en omschrijft de maatregelen als vrijwillig. Het moederbedrijf van TikTok, ByteDance, komt uit China. TikTok ontkent enige invloed van het autoritaire regime . Toch zijn er in het verleden verschillende aanwijzingen geweest voor een politiek gemotiveerde controle op de inhoud .
Nogmaals: waarom blokkeerde TikTok “heropvoedingskamp” en soortgelijke termen in de ondertitelfunctie? We hebben onderzocht en uitgelegd dat we “verouderde beschermingsmaatregelen in de Engelse taal” in dit geval geen plausibele verklaring vinden. Een woordvoerster antwoordde: “We modereren de inhoud niet op basis van politieke voorkeuren. Onze moderatiebeslissingen worden door geen enkele regering beïnvloed, zelfs niet door de Chinese.”
“Massage” en “prostitutie” zijn blijkbaar ook niet oké
De woorden “massage” en “lul” en alle woorden met de lettergreep “ezel”, zoals “haat” en “racisme”, maar ook “laten” en “water” kregen ook een asterisk. Andere woorden waren ’tieten’, ‘prostitutie’ en ‘prostituee’. In ieder geval voor deze woorden is een uitleg bij “English language protection settings” aannemelijk: “dick”, “massage”, “tit”, “ass” en “prostitute” zijn Engelse woorden. Ongeacht de taal blijft de vraag waarom deze specifieke woorden in ondertitels werden gecensureerd.
Hoewel het beleid van TikTok de “afbeelding” van seksuele handelingen verbiedt , lijdt het geen twijfel dat sommige woorden ongewenst zijn. Sekswerkers melden herhaaldelijk dat hun werk wordt bemoeilijkt door publieke stigmatisering . Beperkingen op termen als ‘prostitutie’ kunnen hier waarschijnlijk aan bijdragen.
De ondertitelingsfunctie was op 10 februari nog beschikbaar op een van onze andere testtelefoons, nadat we TikTok met de observaties hadden geconfronteerd. Sindsdien zijn de eerder gecensureerde woorden volledig in de ondertitels verschenen.
De geteste woorden in de ondertitelingsfunctie zijn slechts een voorbeeld. De omvang van het mogelijke probleem erachter is hier niet uit af te lezen. Talloze andere woorden werden door TikTok gemakkelijk in tekst omgezet, waaronder scheldwoorden, seksuele termen en woorden die mensenrechtenschendingen in China aan de kaak stellen. Zelfs als er een politieke invloed zou zijn op bepaalde kwesties achter de onleesbare ondertitels, zou het niet consistent zijn. We wilden van TikTok weten welke criteria werden gebruikt om de betreffende woorden te selecteren – geen antwoord.
Er waren al problemen met de introductie van de ondertitelfunctie in het Engels. Vanaf april 2021 was TikTok er niet in geslaagd om “Aziatische vrouw” naar tekst te converteren. Het Amerikaanse tijdschrift Mashable beschreef dit als “bijzonder betreurenswaardig gezien de recente toename van haatmisdrijven tegen Aziaten”. TikTok had dit aan Mashable beschreven als een “fout” en gecorrigeerd.
Vereniging van Doven: “Geen censuur in ondertitels”
De Duitse Dovenvereniging bekritiseerde netzpolitik.org vanwege het paternalisme wanneer ondertitels niet worden uitgeschreven. De vereniging ziet zichzelf als vertegenwoordiger van de belangen van doven in Duitsland. “Dove gebruikers kunnen in de overgrote meerderheid van de gevallen niet zien om welke woorden het gaat”, schrijft perswoordvoerder Wille Zante.
De vereniging is blij met alles wat de bereikbaarheid natuurlijker maakt. Het feit dat je de TikTok-ondertitels kunt bewerken, is in ieder geval een uitweg. Maar: “Censuur hoort niet thuis in ondertitels”. We confronteerden TikTok met kritiek van de Dovenvereniging. TikTok: “We zijn dankbaar voor de feedback van onze community terwijl we eraan werken om TikTok nog toegankelijker te maken voor iedereen.”
In engere zin betekent censuur controle door staatsinstellingen . Maar TikTok is een bedrijf. In dit opzicht zou het woord censuur niet passen. Aan de andere kant kan TikTok als platform direct bepalen welke politieke informatie toegankelijk wordt gemaakt voor een miljoenenpubliek. In bredere zin zouden platforms van deze omvang zeker niet-statelijke censuur kunnen toepassen.
Politieke gematigdheid heeft een lange traditie bij TikTok
In het verleden had TikTok al politiek explosieve video’s aan banden gelegd. In 2019 onthulden onthullingen door de Britse Guardian dat TikTok regels leek te hebben om politiek aanstootgevende inhoud te onderdrukken. In hetzelfde jaar publiceerde netzpolitik.org fragmenten uit de inmiddels achterhaalde regels voor TikTok-moderators . Eind 2019 plaatste de auteur van deze tekst TikTok-video’s waarin hij kritiek had op mensenrechtenschendingen in China. Vervolgens werden de video’s verborgen door te verdwijnen uit de zoekresultaten van relevante hashtags. Rechtvaardiging van TikTok: een “bug” .
Bij een tweede poging werden video’s geüpload die politiegeweld documenteren. De video’s kwamen uit journalistieke nieuwsaanbiedingen. TikTok had ze verwijderd. Rationale: Het beleid van het platform moet de “veiligheid en het welzijn” van gebruikers waarborgen .
Een platform dat mogelijk elk beeld en woord zou kunnen controleren en beperken – dit geldt niet alleen voor TikTok. Facebook-zus Instagram ontwikkelt momenteel ook een functie om automatisch ondertitels te genereren. Tot nu toe is het al beschikbaar in het Engels. Instagram heeft aan Mashable bevestigd dat scheldwoorden automatisch worden gecensureerd . YouTube doet dat ook .
TikTok-gebruikers vermijden bepaalde woorden
Blijkbaar geven zulke invloeden een signaal af. TikTok-gebruikers vrezen bijvoorbeeld al nadelen als ze woorden in hun video’s gebruiken die het platform misschien niet leuk vindt. Bijvoorbeeld TikTok-gebruiker Marlies , die meer dan 180.000 volgers op het platform heeft. In een van haar video’s sprak ze van ‘seksueel geweld’. Op een met de hand toegevoegd tekstpaneel maakte ze het zelf “s3ksu3ll3r G3w4lt”.
“Het is eigenlijk zo dat video’s vaker worden gecontroleerd als ze ‘aanstootgevende’ woorden bevatten”, schrijft de TikTok-gebruiker in een e-mail aan netzpolitik.org. “Persoonlijk heb ik de ervaring dat video’s eerst worden verwijderd of helemaal niet worden gepubliceerd en dan moet je bezwaar maken”. De betreffende video’s zouden pas weer worden vrijgegeven nadat ze waren gecontroleerd. “Je kunt dit meestal omzeilen door de woorden te vervreemden”, schrijft ze.
Ook de Duitse TikTok-gebruiker “HerrAnwalt” (4,9 miljoen volgers) vervreemdt woorden op TikTok. “Sex” werd “Seggs” voor hem. Bij “KingLoui23” (3,2 miljoen volgers) werden “drugs” en “depressie” de woorden “Dr*gen” en “D€pr€$$ion”.
Aman, die het TikTok-kanaal kingloui23 beheert , beantwoordde onze vragen via een spraakmemo. Hij zegt dat hij uit voorzorg woorden vervormt om te voorkomen dat zijn video’s worden verbannen voor alles wat met seks, geweld en drugs te maken heeft. Hij maakt bewust spelfouten, zegt hij, zoals ‘slaan’ met ‘@’ in plaats van ‘a’. Of hij gebruikt misschien onopvallende woorden als ‘in de stemming’ als het om iets seksueels gaat.
Moet men zulke beperkingen tolereren? Aman zegt: “De handen van elke maker zijn gebonden.” Hij gelooft blijkbaar niet dat TikTok-ondersteuning bij twijfel serieuze hulp is. “Als mijn video’s beperkt zijn, kan ik niets doen.”
We wilden van TikTok weten of het waar is dat video’s vanwege dergelijke voorwaarden worden geblokkeerd of bestraft. Voor welke woorden en onderwerpen je wordt gestraft op TikTok en waarom. Hier kwam geen officieel antwoord op.
Zelfcensuur als meme
Inmiddels is de anticiperende zelfcensuur een meme geworden. Iedereen die TikTok elke dag gebruikt, ziet het fenomeen vaker – ook in openbare TikTok-formaten. Het kanaal “brudi_fficial” is gemaakt voor radio. Dit is het inhoudsnetwerk van ARD en ZDF. Hier worden bijvoorbeeld de woorden “sex” en “sexting” “segs” en “seggsting”.
De redactie legde het als volgt uit aan netzpolitik.org: “Voor ons gaat de vervreemding vooral over de nabijheid van de doelgroep”. Dit zijn voornamelijk mannen tussen de 14 en 16 jaar. “Onze indruk is dat dergelijke vervreemdingen bij deze doelgroep op alle platformen heel gebruikelijk zijn. Om zo dicht mogelijk bij de relevante leefomgeving en het bijbehorende kijkgedrag te komen, hebben we dit deels overgenomen voor onze teksten.”
Dat gebruikers vrijwillig hun woorden vervreemden, beperkt zich niet alleen tot TikTok. Dit gebeurt ook op Instagram en YouTube. YouTuber Rezo schreef bijvoorbeeld ‘Seggs’ in plaats van ‘Sex’ op een voorbeeldafbeelding . Het is niet meteen duidelijk of gebruikers dit voornamelijk voor de lol doen of uit bezorgdheid over algoritmische straffen.
Wapenwedloop tegen algoritmen
Wille Zante van de Dovenvereniging vergelijkt het met een wapenwedloop: enerzijds algoritmen, anderzijds taalveranderingen. “Het is in ieder geval slecht voor de bereikbaarheid”, schrijft Zante. Tegelijkertijd heeft de kwestie een politieke dimensie. Het gaat om de vraag hoe algoritmische prikkels van invloed zijn op welke onderwerpen en welke woorden een breed publiek vinden.
We hebben Amnesty International om een assessment gevraagd. De mensenrechtenorganisatie wilde niet in detail treden over TikTok. Een woordvoerster schreef: “Mensenrechten gelden zowel online als offline, inclusief het recht op vrijheid van meningsuiting.” Platforms zouden duidelijker moeten onthullen hoe hun algoritmen werken om begrijpelijk te maken waarom gebruikers bepaalde content te zien krijgen.
In lijn hiermee wilden we van TikTok weten waarom er geen openbare lijst met ongewenste woorden is. Zo konden mensen zich eraan houden. Ze zouden niet hoeven te raden op welke regels ze zouden kunnen worden bestraft. De groep, die in verschillende steden zogenaamde “centra voor transparantie en verantwoordelijkheid” exploiteert , heeft deze vraag niet beantwoord.
