Geheime woordfilters : TikTok heeft in het geheim reacties geblokkeerd

Slaven, LGBTQ of de naam van de vermiste Chinese tennisser Peng Shuai: Sommige woorden zijn waarschijnlijk ongewenst in TikTok-commentaren. Uit Tagesschau-onderzoek blijkt dat TikTok sommige reacties niet – stilletjes en stiekem – publiceert. Het videoplatform geeft nu “fouten” toe.

TikTok biedt niet alleen een bijna eindeloze stroom aan video’s, maar ook een levendige commentaarcultuur. Het commentaargedeelte is een plek voor debatten, running gags en suggesties van de community. Veel TikTok-gebruikers zien reacties direct als een kans om meer video’s te maken. Op deze manier hebben opmerkingen een enorme impact op wat miljoenen mensen zien.

In de commentaarkolommen van TikTok staan ​​echter schijnbaar geheime regels. Ze hebben het effect dat sommige dingen überhaupt niet eens ter sprake kunnen komen. Een onderzoek door de Tagesschau onthult : De vermelding van bepaalde termen verhinderde automatisch de publicatie van TikTok-commentaren, in ieder geval tot februari. In dit geval was een opmerking zichtbaar voor de persoon die deze plaatste, maar niet voor andere gebruikers. Een door de blokkade getroffen persoon heeft geen waarschuwing gekregen. De beperking gebeurde in het geheim.

Volgens de Tagesschau bevatten de getroffen woorden termen uit de gebieden queer (“homofoob”, “LGBTQ”), rechts-extremisme (“Auschwitz”, “Nationaal-socialisme”) en erotiek (“seks”, “porno”) . Ook de naam van de vermiste Chinese tennisser Peng Shuai werd aangetast. De voorwaarden werden bepaald door eenvoudig vallen en opstaan.

In een persverklaring geeft TikTok “fouten” toe. “In dit geval zijn we er duidelijk niet in geslaagd om onze beschermingsmaatregelen op een gepaste gedifferentieerde manier door te voeren”, schrijft een woordvoerster. TikTok heeft mechanismen opgezet om mogelijk schadelijke opmerkingen automatisch uit te filteren. “We zijn ons ervan bewust dat deze aanpak in dit geval niet doelgericht genoeg was en we werken er hard aan om onze aanpak te herzien.”

Woorden die naar verluidt ‘haatdragend’ of ‘overdreven seksueel’ zouden zijn

Na het personderzoek werden slechts 11 van de ontdekte termen geblokkeerd, zo meldt de Tagesschau. De woorden die oorspronkelijk onder het verbod vielen, waren:

Auschwitz, homoseksueel, heteroseksueel, homo, homofoob, homoseksueel, LGBTQ, LGBTQI, nazisme, Peng Shuai, porno, pornografie, prostitutie, queer, homoseksueel, seks, sekswerk, slaven, terroristen

TikTok schrijft dat sommige van de woorden “kunnen worden gebruikt als godslastering op een hatelijke of overdreven seksuele manier, en om onze gemeenschap te beschermen hebben we een zeer restrictieve benadering gevolgd.”

Het antwoord is irritant, termen als ‘LHBTQ’ of ‘homofoob’ zijn immers niet hatelijk of overdreven seksueel. In plaats daarvan kunnen deze termen worden gebruikt om haatspraak en haatspraak te benoemen en te bestrijden om de getroffenen te onderwijzen en te machtigen.

Het was zogenaamd gewoon een Oostenrijks scheldwoord

In het geval van de geblokkeerde term ‘Peng Shuai’ heeft TikTok een technische verklaring. “Vanwege de Oostenrijks-Duitse term ‘Hua’ (hoer) werd Peng Shuai alleen gemodereerd in Duitstalige gebieden omdat de letterreeks ‘HUA’ in het woord werd herkend”, zegt TikTok. De termijn is nu niet meer geblokkeerd.

TikTok kwam in februari al met een vergelijkbare verklaring, toen netzpolitik.org blijkbaar gecensureerde termen ontdekte in automatisch gegenereerde ondertitels . De woorden “werkkamp” en “heropvoedingskamp” werden aangetast. Ze zijn verduisterd door sterretjes in ondertitels. TikTok rechtvaardigde dit met “verouderde Engelstalige beschermingsmaatregelen”. Zo herkende een woordfilter het Engelse scheldwoord “slag” in het woord “arbeidskamp”.

Dus nu zou een scheldwoord uit Oostenrijk verantwoordelijk zijn voor het per ongeluk blokkeren van TikTok-opmerkingen. In beide gevallen zouden de TikTok-woordfilters er niet in zijn geslaagd om vrijstaande woorden te onderscheiden van ongevaarlijke letterreeksen.

Het relatief jonge TikTok-platform heeft al een lange geschiedenis van beschuldigingen van censuur en politiek problematische moderatie. In 2020 bleek uit onderzoek dat TikTok over de hele wereld LGBTQ-gerelateerde hashtags in het Russisch en Arabisch verborg . Een onthulling in 2019 over de inmiddels ter ziele gegane moderatieregels liet zien hoe TikTok een systeem gebruikte om inhoud te onderdrukken en te sturen .

TikTok: “Verhelp soortgelijke fouten”

Het buitensporig blokkeren van inhoud staat bekend als overblokkeren. Dit kan gebeuren wanneer platforms liever vertrouwen op goedkope technische oplossingen in plaats van dure menselijke moderatie. Als inhoudsbeperkingen ook stiekem gebeuren, wordt dit schaduwverbod genoemd. Over het algemeen mogen platforms regels vaststellen en inhoud die de regels schendt, beperken en blokkeren. Maar zolang deze regels niet transparant zijn, kunnen gebruikers ze niet vrijwillig naleven of zelfs maar bespreken.

Voor veel gebruikers van TikTok zou het Tagesschau-onderzoek lang gekoesterde angsten moeten bevestigen. We berichtten in februari al hoe zelfs prominente makers termen vervreemden uit angst voor woordfilters . In plaats van “seks” schrijven ze “Seggs” in de tekstoverlays van hun video’s, “drugs” en “depressie” worden woorden als “Dr*gen” en “D€pr€$$ion”.

Na het Tagesschau-onderzoek wil TikTok een “grondige review” starten “om deze en mogelijk soortgelijke fouten te corrigeren”, aldus een woordvoerster. Het platform wil zijn strategie heroverwegen “om ervoor te zorgen dat we haat en schendingen erkennen, maar tegenspraak en neutrale opmerkingen toestaan”. TikTok zei twee jaar geleden iets soortgelijks als het ging om gecensureerde hashtags. Destijds zei het platform ” soortgelijke problemen in de toekomst te willen vermijden .” Blijkbaar is dat niet gelukt.

Tagesschau wil ondanks woordfilter op TikTok blijven

De aanleiding voor het onderzoek van de Tagesschau was waarschijnlijk toeval: de journalisten hadden opgemerkt dat sommige TikTok-commentaren die door het Tagesschau-account zelf waren geschreven niet bij andere gebruikers leken te verschijnen. In 2019 had de Tagesschau een rode lijn voor zijn eigen TikTok-kanaal getoond aan het mediamagazine Zapp . Hoofdredacteur Marcus Bornheim zei destijds: “Als we merken dat onze content door een of andere vorm van moderatie wordt verwijderd van TikTok, als we niet meer vrij en onafhankelijk kunnen rapporteren, dan sluiten we het kanaal per direct.”

Dit is precies wat er gebeurde in het geval van opmerkingen. We vroegen de persdienst van de verantwoordelijke NDR of de Tagesschau zich terugtrok als gevolg van het onderzoek op TikTok. Kort antwoord: nee. Een woordvoerster legt nader uit: “Sinds de start van het tagesschau-account wordt het afspelen van de video’s in de TikTok-nieuwsfeed nauwlettend gevolgd. Tot nu toe is er geen dagelijkse nieuwsinhoud geblokkeerd.” Blijkbaar bevat de rode lijn die Bornheim in 2019 beschrijft alleen video’s en geen zelfgeschreven opmerkingen.

Het Tagesschau TikTok-kanaal heeft momenteel 1,2 miljoen abonnees. “Het onderzoek leidde ertoe dat TikTok fouten erkende en aankondigde dat het de procedure zou herzien”, vervolgt de woordvoerster. Zeker in tijden van desinformatie wordt de Tagesschau als informatieleverancier voor een jonge doelgroep op Tik Tok gezien als “een onmisbare troef”.