Indignatie redactie 
Pavel Durov
Het laksheidsbeleid van Telegram op het gebied van contentmoderatie begint de CEO parten te spelen.
Pavel Durov, de CEO en oprichter van de berichtenapp Telegram, werd zaterdag in Parijs gearresteerd als onderdeel van een lopend Frans onderzoek naar financiële en cybercriminaliteit. Maandag zeiden Franse functionarissen dat hij nog steeds gearresteerd is, hoewel hij niet is aangeklaagd voor een misdaad.
De Franse president Emmanuel Macron ontkende dat de arrestatie politiek gemotiveerd was . Durov heeft de Franse en Verenigde Arabische Emiraten nationaliteit, maar komt oorspronkelijk uit Rusland; Frankrijk is zeer kritisch geweest over de Russische invasie van Oekraïne en heeft sancties opgelegd aan zijn economie.
Details over wat precies tot de arrestatie heeft geleid, zijn beperkt. Volgens Franse aanklagers wordt Durov echter vastgehouden als onderdeel van een groter Frans onderzoek. The New York Times meldde dat aanklagers zeiden dat ze onderzoek doen naar een “naamloze persoon” die volgens hen een uitgebreide lijst van misdaden heeft gepleegd – blijkbaar met behulp van Telegram – waaronder de verspreiding van kindermisbruikmateriaal, witwassen van geld en drugshandel. The Washington Post heeft gemeld dat de Franse politie heeft gesuggereerd dat “kinderseksuele misdaden” een gebied zijn waar ambtenaren zich met name op richten.
Het is onduidelijk wat Durovs relatie, indien aanwezig, is met de “ naamloze persoon ”. Tenzij hij formeel wordt aangeklaagd, kan Durov slechts tot woensdag worden vastgehouden .
Dit is niet de eerste keer dat Telegram in verband wordt gebracht met illegale activiteiten. Het is een wereldwijd populair platform dat zowel uitzendkanalen (waarin gebruikers tekst en media naar grote groepen mensen kunnen sturen) als gebruiker-tot-gebruikerchats biedt. Het biedt ook wat het noemt ” geheime chat “-gesprekken die end-to-end gecodeerd zijn — wat betekent dat de verzonden berichten alleen ontcijferbaar zijn voor de gespreksdeelnemers en dat niemand anders, zelfs Telegram niet, de inhoud kan zien.
Die functie, en andere privacyfuncties zoals zelfverwijderende berichten, maken de app extreem nuttig voor politieke dissidenten en journalisten die proberen te werken onder repressieve regimes of bronnen te beschermen. Maar de app is in de loop der jaren ook een ruimte geworden waar extremisten gebruikers kunnen radicaliseren en terroristische aanslagen kunnen organiseren.
Dat heeft geleid tot enige druk van de kant van overheden om Telegram meer te laten samenwerken in de data die het deelt met autoriteiten. Desondanks is Telegram er grotendeels in geslaagd dramatische juridische confrontaties te vermijden — tot nu toe.
De arrestatie van Durov zorgt ervoor dat er opnieuw kritisch naar de app wordt gekeken en dat de heftige discussies over de vrijheid van meningsuiting en de uitdagingen rondom het modereren van inhoud op sociale media weer oplaaien.
Telegram en het probleem van inhoudsmoderatie
Durov en zijn broer Nikolai richtten Telegram op om een app aan te bieden die de privacy van gebruikers centraal stelde na de Russische ” Sneeuwrevolutie ” in 2011 en 2012, toen flagrante verkiezingsfraude maandenlange protesten veroorzaakte, die culmineerden in een harde en voortdurend evoluerende overheidsrepressie. Eerder had Durov ruzie met de Russische autoriteiten die de vrijheid van meningsuiting op de Facebook-achtige dienst die hij had opgericht, VKontakte , wilden onderdrukken .
In de jaren sinds de oprichting heeft Telegram naar verluidt een aantal werkelijk schokkende misdaden mogelijk gemaakt. Het meest berucht is misschien wel dat het werd gebruikt om ISIS-aanvallen in Parijs en Berlijn te coördineren . Het heeft na die aanvallen streng opgetreden tegen ISIS-activiteiten op de app, maar het beleid voor contentmoderatie is flink onder de loep genomen.
Zoals Indignatie heeft opgemerkt , zijn die beleidslijnen lakser dan die van andere sociale mediagroepen, en outlets zoals de Washington Post hebben gemeld dat Telegram gastheer is geweest voor een verscheidenheid aan criminele content, waaronder kinderpornografie. Het is een lastige — maar niet onmogelijke — taak om dat soort materiaal van een platform te houden, vertelde Alessandro Accorsi, een onderzoeker bij de International Crisis Group, aan Vox.
“De effectiviteit van contentmoderatie is grotendeels afhankelijk van het platform en de middelen die het toewijst aan veiligheid”, aldus Accorsi. “Social media bedrijven zijn over het algemeen reactief. Ze willen de financiële middelen die aan moderatie worden besteed beperken, evenals mogelijke juridische, politieke en ethische hoofdpijn. Dus wat er meestal gebeurt, is dat ze hun inspanningen richten op een paar groepen of kwesties waarvoor inactiviteit van hun kant juridische of reputatiekosten met zich meebrengt.”
Wanneer ISIS bijvoorbeeld een dienst gebruikt voor terroristische aanslagen, richt die dienst zich op het tegenhouden van het gebruik van die producten door ISIS.
In communicatie die niet end-to-end gecodeerd is, gebruiken techbedrijven een combinatie van menselijke onderzoekers en algoritmegestuurde programma’s om content te sorteren. Het soort end-to-end encryptie dat in Telegram’s “geheime chats” wordt gebruikt, maakt dat type moderatie echter vrijwel onmogelijk.
Wat de zaken ook ingewikkelder maakt, is de uiteenlopende aard van internetwetgeving over de hele wereld. In de VS zijn uitgevers over het algemeen wettelijk beschermd tegen aansprakelijkheid voor wat gebruikers posten. Maar dat is niet overal het geval; veel landen hebben veel strengere wettelijke kaders rond aansprakelijkheid van tussenpersonen . De Franse SREN-wet is extreem streng en kan boetes opleggen aan uitgevers voor contentovertredingen.
“Het is echt heel moeilijk om te doen, vooral in een vergelijkende context, want wat haatdragend of extreem of radicaal is in een land als de VS, zal anders zijn dan in Myanmar of Bangladesh of andere landen,” vertelde David Muchlinski , hoogleraar internationale zaken aan Georgia Tech, aan Vox. Dat maakt contentmoderatie “op zijn best een onhandig hulpmiddel.”
Telegram heeft, als reactie op recente externe druk , enige contentmoderatie toegepast, vertelde Accorsi aan Vox. Het heeft kanalen verboden die geassocieerd worden met een handvol organisaties (meest recent Hamas en extreemrechtse groepen in het VK), maar duizenden problematische groepen zijn nog steeds aanwezig.
Uit het Franse onderzoek blijkt dat Telegram mogelijk niet genoeg doet om kwaadwillenden ervan te weerhouden het platform te gebruiken om misdaden te plegen.
