Het vreemde verhaal van Sectie 230, de obscure wet die ons gebrekkige, kapotte internet heeft gecreëerd

In 1995 leek het erop dat we misschien op weg waren naar een internet waar censuur en gematigdheid de baas waren. Toen kwam er Sectie 230

I n de onmiddellijke nasleep van de Christchurch aanval, Facebook en YouTube worstelde om te gaan met de gruwelijke beelden overstromingen hun platforms, bleek dat het internet was fundamenteel gebroken. Op YouTube probeerden moderators video’s te verwijderen die werden geüpload met een snelheid van één per seconde, terwijl Facebook 1,5 miljoen video’s blokkeerde of verwijderde in de 24 uur na de aanval.

Maar het internet was niet kapot. Het werkte precies zoals ontworpen.

Voor het grootste deel van de geschiedenis van het web zijn er twee gouden regels: je kunt online zetten wat je maar wilt, maar het bedrijf dat je toespraak host, kan ook alles verwijderen wat het niet leuk vindt. Deze regels hebben het internet mogelijk gemaakt dat we vandaag hebben – een plaats waar bijna alle inhoud wordt aangeboden door gebruikers. Geen van de internetreuzen – Google, Twitter, Facebook, Amazon – zou zonder het bestaan ​​bestaan.

Niets hiervan was onvermijdelijk. Tegen 1995 leek het zeker dat we op weg waren naar een internet waar obsceniteit en onfatsoenlijkheid werden gecensureerd en het modereren van online commentaren bedrijven zou openstellen voor rechtszaken van meerdere miljoenen dollars.

Maar toen veranderde een onwaarschijnlijke reeks gebeurtenissen de richting van het internet voor altijd. Het is een verhaal dat gaat over de vroegste trollen, de meest dodelijke binnenlandse terreuraanval van Amerika en een paar politici van over de gangen wanhopig om te overbruggen wat zij beschouwden als de hyperpartijdige politiek van het midden van de jaren negentig. En in het hart van dit alles zijn 26 woorden die ons het internet gaven dat we vandaag hebben.

Vertegenwoordiger Chris Cox was 36.000 voet boven Amerika toen hij de Wall Street Journal opensprong en een artikel tegenkwam dat het moderne internet vorm zou geven. Het was in de lente van 1995 en Cox – een Republikeins lid van het Amerikaanse Huis van Afgevaardigden – vloog vanuit Washington DC terug naar zijn thuisstaat, Californië.

Cox was geland op een artikel over een uitspraak van het Hooggerechtshof van New York . Het ging om een ​​online prikbord onder leiding van Prodigy – een inmiddels overleden bedrijf dat toentertijd een van Amerika’s grootste websites runde. De kern van de zaak was een bericht op een prikbord waarin een onbekende gebruiker beweerde dat Stratton Oakmont – de New Yorkse beursvennootschap later werd vereeuwigd in The Wolf of Wall Street – en de president fraude had gepleegd.

Stratton Oakmont heeft Prodigy aangeklaagd voor smaad en de zaak kwam neer op een simpele vraag: was Prodigy wettelijk verantwoordelijk voor iets dat door een van zijn gebruikers werd gepost? Het probleem ging regelrecht in het onkruid van lasterwetgeving. Als Prodigy werd beschouwd als een ‘uitgever’ van de reacties, dan was het verantwoordelijk. Als het slechts een “distributeur” was, was het van de haak.

In mei 1995 besliste de rechtbank dat Prodigy aansprakelijk was voor de lasterlijke verklaringen – met het argument dat omdat het bedrijf inhoudsrichtlijnen had en software gebruikte om aanstootgevende taal te verwijderen, het juridisch verantwoordelijk was voor de inhoud van die berichten. Deze redenering rangschikte Cox. Waarom zouden bedrijven moeten worden gestraft voor het proberen om online content te modereren?

en soortgelijk geval in 1991 was de andere kant op gegaan omdat de beklaagde – Compuserve – geen moeite had gedaan om de enorme hoeveelheid inhoud op zijn forums te herzien. Hierdoor bleven online bedrijven in een vreemde positie. Als ze online inhoud modereerden, waren ze aansprakelijk voor alles wat hun gebruikers zeiden. Als ze dat risico wilden ontwijken, hoefden ze alleen maar te voorkomen dat er iets werd gematigd.

Voor Cox leek deze redenering volkomen achterlijk. Hij wilde een schoner web, waar het voor mensen moeilijker was om obscene of aanstootgevende inhoud tegen te komen. Als bedrijven die probeerden het internet te modereren werden geslagen met rechtszaken van meerdere miljoenen dollars, wie zou het dan willen opruimen? “Het viel me op dat als die regel van kracht zou worden, internet het Wilde Westen zou worden en niemand een stimulans zou hebben om het internet burgerlijk te houden,” zegt hij.

Maar het internet van 1995 was op bijna alle denkbare manieren anders dan tegenwoordig. In die tijd waren er wereldwijd maar 16 miljoen mensen online. Mark Zuckerberg was pas net begonnen met de middelbare school en Google zou nog geen drie jaar bestaan. Mensen die online praatten, verzamelden zich meestal in gespecialiseerde nicheborden om over films, games of persoonlijke financiën te kletsen.

Toen arriveerde het door de gebruiker gegenereerde internet. In plaats van nichebelangenissen hadden we mensen als Zuckerberg die praatten over het creëren van het “stadsplein” van het internet. Nu heeft Facebook 2,2 miljard maandelijkse gebruikers. Jeff Bezos bouwde een miljardenbedrijf op basis van het besef dat hij in plaats van boeken te verkopen, meer geld kon verdienen door kopers te verbinden met verkopers van derden. Google sprong op om mensen naar door gebruikers gegenereerde inhoud te verwijzen over het hele internet. Dit alles geregeld door een reeks regels die zijn ontworpen voor een eerder, eenvoudiger internet.

Cox, die in 1995 onlangs was verkozen tot de Republikeinse leiding van het Huis, was op zoek naar een stuk wetgeving waar beide partijen het over eens konden zijn. Hij realiseerde zich dat dit artikel in Wall Street Journal het zou kunnen zijn. Samen met een democratische vertegenwoordiger uit Oregon, Ron Wyden, schreef hij een kleine toevoeging aan de Telecommunicatiewet – een belangrijke herziening van de Amerikaanse wet die voor het eerst de kwestie van internetregulering probeerde aan te pakken.

Het resultaat was artikel 230. In 26 korte woorden schetste de wetgeving de toekomst van het internet. De kern van de wetgeving was een bepaling die duidelijk maakte dat online platforms niet verantwoordelijk waren voor materiaal dat hun gebruikers online plaatsten. “Geen enkele aanbieder of gebruiker van een interactieve computerservice zal worden behandeld als de uitgever of spreker van enige informatie verstrekt door een andere aanbieder van informatie-inhoud,” zo luidt het.

Maar even belangrijk is een ‘goede samaritan’-clausule die de platformen het ultieme zegje geeft over wat ze wel of niet online toestaan. Platforms kunnen alle inhoud verwijderen die zij als ‘obsceen, onzedelijk, wellustig, smerig, overdreven gewelddadig, intimiderend of anderszins verwerpelijk’ vinden.

Samen vormen deze twee delen van Sectie 230 de doelpalen van het internet dat we vandaag hebben. Zuckerberg’s droom van een mondiaal stadsplein is daar in embryonale vorm in Sectie 230. Het gaf internet startups en hun investeerders het vertrouwen dat ze hun platformen konden vullen met inhoud van gewone gebruikers, zonder enige wettelijke aansprakelijkheid te trekken voor alles wat die gebruikers zouden schrijven. En het stond Zuckerberg toe om de voorwaarden van zijn dorpsplein te bepalen. Als hij niet wilde dat een bepaalde gebruiker op zijn site – of een bepaald soort spraak – het kon verwijderen, geen vragen gesteld.

“Zijn rol bij het mogelijk maken van een bepaald soort technische innovatie is ondubbelzinnig”, zegt Daphne Keller van het Center for Internet and Society van Stanford Law School. “Het maakte het voor investeerders mogelijk om achter bedrijven te komen die zoveel spraak en informatie zonden dat ze onmogelijk alles konden beoordelen en konden vaststellen wat legaal of illegaal was.”

Het is moeilijk te overschatten hoe fundamenteel artikel 230 is geweest voor het mogelijk maken van allerlei online innovaties. Het is waarom Amazon kan bestaan, zelfs als verkopers van derden nazi-memorabilia en gevaarlijke medische desinformatie dichtslaan . Daarom kan YouTube bestaan, zelfs als pedofielen de commentaarsecties van video’s overspoelen . En het is waarom Facebook kan bestaan, zelfs wanneer een terrorist het platform gebruikt om het bloedbad van onschuldige mensen te streamen. Het zorgt voor de verwijdering van al deze slechte dingen, zonder de platformen te dwingen juridisch verantwoordelijk voor hen te zijn.

Deze kunnen allemaal klinken als vreselijke dingen – en je zou een punt hebben. Maar een wereld zonder Sectie 230 zou al deze dingen wel kunnen verergeren. “Als we een beleid zouden voeren dat websites aansprakelijk zouden zijn voor de inhoud van derden die ze publiceren, zouden ze twee dingen doen,” zegt Eric Goldman, een geleerde van sectie 230 en een professor aan de Santa Clara University School of Law. “Ze zouden überhaupt niet publiceren of ze zouden manieren zoeken om de verantwoordelijkheid over te dragen aan andere mensen.”

Met andere woorden, als de wet de platformen niet naar hartelust liet modereren, zouden we uiteindelijk bijna helemaal geen internet hebben. Het lijkt erop dat alle websites met door gebruikers gegenereerde inhoud zijn gemodelleerd naar 8chan, Gab of de slechtste delen van Reddit. Zonder Section 230, zegt Goldman, zou je eindeloos online kunnen zijn, gratis voor iedereen. “Als je de controle over laat aan de gekken, zullen de gekken winnen.”

In februari 1996 een beroerte Bill Clinton pen draaide Cox en Wyden’s droom van het temmen van het Wilde Westen van het internet in de wet. Maar het was nog steeds niet helemaal duidelijk hoe Section 230 in werkelijkheid zou werken. Zouden de rechters een brede interpretatie van artikel 230 aannemen – vaststelling dat ondernemingen alleen in zeer specifieke omstandigheden aansprakelijk kunnen worden gesteld voor inhoud – of zouden zij beweren dat de reikwijdte van artikel 230 bepaalde soorten inhoud niet dekt?

Twintig maanden nadat Clinton de wet had ondertekend, kwam er een zaak die deze antwoorden zou gaan geven. Het ging om een ​​terroristische aanslag, een canoniek voorbeeld van online trollen en een van de grootste onopgeloste mysteries op internet. Wie heeft Kenneth Zeran omlijst?

Op 19 april 1995 bombardeerden twee binnenlandse terroristen een federaal overheidsgebouw in het centrum van Oklahoma City. In totaal werden 186 mensen gedood met meer dan 500 gewonden, waardoor het de dodelijkste terroristische gruweldaad op Amerikaanse bodem was tot 11 september 2001. Zes dagen later verscheen een bericht op een AOL-prikbord dat t-shirts verkocht met berichten die de bombardementen bespotten, zoals als “Bezoek Oklahoma … Het is een BAAST !!!” De post nodigde de lezers uit om “Ken” te bellen en nam het echte telefoonnummer van Kenneth Zeran in, die tot het moment dat de gesprekken binnenstroomden geen idee had van de advertentie. Hij had zelfs geen AOL-account.

Tegen het einde van de maand ontving Zeran beledigende telefoongesprekken met een snelheid van één elke twee minuten – iets dat werd verergerd door een lokale radiopresentator die luisteraars aanmoedigde Ken te bellen en hem een ​​stukje van zijn geest te geven. “Probleem was, het was niet gepost door Ken. Het werd gepost door een anonieme poster. We weten niet wie, ze zijn nooit gevonden, “zegt Goldman.

Een jaar later, in april 1996, daagde Zeran AOL aan, verwijt dat het bedrijf nalatig was geweest door te weigeren de schadelijke informatie over hem te verwijderen. Nadat een lagere rechtbank in het voordeel van AOL had besloten, bereikte de zaak uiteindelijk zijn weg naar het hof van het Fourth Circuit in Richmond, Virginia. Dit was een beslissend moment voor Sectie 230. Het Vierde Circuit bevindt zich net onder het Amerikaanse Hooggerechtshof in termen van belangrijkheid en zijn beslissingen bepalen invloedrijke precedenten voor hoe latere zaken zullen worden overhandigd. Tot Zeran’s teleurstelling was de uitspraak van de rechter onmiskenbaar in het voordeel van AOL. Sectie 230 had opnieuw gewonnen.

“Welke beslissing [AOL] ook heeft genomen – om de post te verlaten of te verwijderen – werd evenzeer beschermd door Section 230,” zegt Goldman. Dit was de eerste keer dat een dergelijke hoge rechtbank de nieuwe wet had geïnterpreteerd en het legde een juridisch precedent voor hoe afdeling 230 in latere gevallen zou worden bekeken. De lezing van het Vierde Circuit van Sectie 230 was genereus, zeggende dat zelfs als AOL op de hoogte was van de schadelijke inhoud en er niets aan deed, Section 230 nog steeds het bedrijf van enige wettelijke aansprakelijkheid ontsloeg. Het liet doorschemeren dat als het ging om online vrije meningsuiting, Section 230 aan de kant van online platforms zou staan.

Zeran, die beweert dat hij het slachtoffer was van een willekeurige aanslag, is een toevallige hoeksteen geworden in de wereld van het spraakrecht op internet. In 2011 nodigde Goldman hem uit om te spreken op een conferentie die hij organiseerde om de vijftiende verjaardag van Sectie 230 te vieren. “Helaas gebruikte hij [zijn toespraak] om de details van zijn verhaal niet te vertellen, maar om tegen sectie 230 te strijden en een wetgevingsagenda voor te stellen – daarvoor was het niet echt het juiste publiek. ”

Hoewel Zeran erg verdrietig was, legde zijn juridische strijd de basis voor talloze latere verdedigingen op basis van Sectie 230. Grote technische platforms hebben tientallen keren Sectie 230 ingeroepen, zegt Goldman, en nu is de wet zo bekend dat de meeste advocaten het niet eens zijn. moeite doen om dergelijke zaken tegen grote platforms te brengen. Sectie 230 werd later gebruikt om de immuniteit van eBay te handhaven wanneer een gebruiker vervalste memorabilia op het platform en de immuniteit van Myspace verkocht toen een 13-jarig meisje seksueel werd mishandeld door iemand die ze op het platform ontmoette, nadat ze online over haar leeftijd loog.

Voor Jennifer Granick, toezichthouder en cybersecurity-counsel bij de American Civil Liberties Union, gaf deze wettelijke bescherming internet-startups de ruimte die ze nodig hadden om online te floreren. “Je kunt op geen enkele manier een YouTube-filmpje hebben waarop iemand elke video moet bekijken. Er is geen manier om een ​​Facebook te hebben als iemand elke post moet bekijken. Er zou geen Google zijn als iemand elk zoekresultaat zou moeten controleren, “zegt ze. “Het klinkt heel simpel, maar de reden dat het internet is wat het nu is, is daarom. Zonder twijfel. ”

Meer dan 24 jaar na zijn concept kraakt de wet die internet maakte onder de druk van platforms van ongekende omvang en invloed. Aangezien sociale netwerken steeds meer luchtaanvallen hebben gekregen vanwege hun rol in het mogelijk maken van electorale interferentie, desinformatie en online haat, is Section 230 zelf onder vuur komen te liggen. Eens een trots voorbeeld van tweeledige, pro-innovatiewetgeving, zegt Goldman dat Section 230 nu aan beide zijden van het gangpad regelmatig wordt geringschat. “Liefde voor Sectie 230 is op het laagste punt ooit en ik zie niet hoe het zich zal omdraaien en weer omhoog zal komen.”

In april 2018 werd een tweetal controversiële wetsvoorstellen gericht op het terugdringen van sekshandel online in de VS. FOSTA-SESTA sluit een uitzondering uit op artikel 230, wat betekent dat online services wettelijk aansprakelijk zijn als derden advertenties op de platformen plaatsen voor prostitutie – inclusief consensuele sekswerkzaamheid. Toen het aankwam op de senaat stem op FOSTA-SESTA, stemden alleen Ron Wyden en Rand Paul tegen de rekening.

Critici van FOSTA-SESTA stellen dat de wet de uitdrukking van politieke, seksuele en artistieke spraak online verstikt zonder het probleem van de seksuele handel te verbeteren. Daphne Keller is een van een aantal advocaten die FOSTA-SESTA uitdagen als ongrondwettelijk. “Als je Section 230 wilt wijzigen en platforms meer takedown-verplichtingen wilt geven, zijn er slimme manieren en een stomme manier om het te doen, en FOSTA was een stomme manier om het te doen. Het is echt slecht opgesteld en echt moeilijk te zeggen wat platforms moeten doen, “zegt ze.

In reactie op de wet heeft de online advertenties-advertentiesite Craiglist de sectie met persoonlijke advertenties verwijderd, omdat deze vreesde dat deze in strijd zou zijn met FOSTA-SESTA. “Ze gaven gewoon categorisch op in plaats van te proberen en navigeren door de aansprakelijkheidsregeling waarmee ze werden geconfronteerd,” zegt Goldman. En in december 2018 begon Tumblr alle porno op zijn website te blokkeren om aan de wet te voldoen.

Terwijl wetgeving zoals FOSTA-SESTA wegschiet aan de randen van Sectie 230, lijken sommige wetgevers in de congreszalen hun messen nog meer openlijk aan te tasten tegen vrije meningsuiting. In maart 2019 diende afgevaardigde Devin Nunes een rechtszaak tegen Twitter en twee parodie-accounts in wegens smaad en politieke vooringenomenheid tegen conservatieven. Natuurlijk, zoals wetenschappers van Sectie 230 weten, kan Twitter alles verwijderen wat het wil, of het online laten, zonder wettelijke aansprakelijkheid, maar Goldman zegt dat Nunes ‘pak wijst op een gevaarlijke minachting voor deze online bescherming. Nunes hoeft Twitter niet te vervolgen om het pijn te doen, benadrukt hij, hij kan wetgeving introduceren om sectie 230 aan te vallen.

En verder gaan andere landen in op de manier waarop spraak online moet worden gereguleerd, waardoor de machtsverhoudingen voor de eerste keer in de geschiedenis van het internet worden verplaatst van de VS naar Europa. In mei 2016 zijn Twitter, Facebook, YouTube en Microsoft overeengekomen hun servicevoorwaarden bij te werken om in overeenstemming te zijn met de gedragscode van de Europese Commissie tegen haatzaaien. Dit betekende dat elk van deze bedrijven er in wezen mee instemde om Europese regels toe te passen op al hun gebruikers wereldwijd.

In het VK overweegt de regering wetgeving die sociale-mediabedrijven zou kunnen dwingen meer te doen om een ​​reeks problemen aan te pakken, van cyberpesten tot seksuele uitbuiting van kinderen. In Duitsland is in 2018 een wet van kracht geworden die vereist dat sociale-mediasites haatzaaiende uitspraken binnen 24 uur na het bekend worden van het bestaan ​​ervan verwijderen.

Gretig aan regulering in Europa, kunnen technische bedrijven zich er op vrijwillige basis toe verbinden soortgelijke regels wereldwijd uit te rollen – zoals het geval was met de haatdragende gedragscode van de Europese Commissie. Keller zegt dat dit de machtsverhoudingen over spraak online heeft verschoven ten gunste van Europa. “De netto-exporteur van spraakregels is nu Europa”, zegt ze.

Maar er is geen garantie dat strakkere moderatiewetten een oplossing zullen zijn voor alle problemen waarmee het internet wordt geconfronteerd. De droom om het internet in harmonie te reguleren, kan gebaseerd zijn op de veronderstelling dat internet de schuld is van wat bredere maatschappelijke twijfels zijn. “Veel van de dingen waar mensen over geklaagd hebben, is wanneer het internet als een spiegel fungeert, niet als een versneller, dus het internet neemt de geest in beslag maar het probleem wordt niet opgelost door internet te repareren. Het neemt gewoon de spiegel weg “, zegt Goldman.

Misschien houden we van het geluid van het openbare plein, maar als er twee miljard mensen op een platform zijn, dan laat dat veel mensen het oneens. “Er is geen goede oplossing voor de wereldwijde medianetwerken die ruimtes proberen te creëren die we allemaal samenleven. Ik denk dat dat een verloren spel is – ik zie niet hoe we dat kunnen laten gebeuren zonder dat iemand echt van streek raakt, “zegt hij.

Voor Keller is het antwoord op de problemen van het internet wellicht niet de strakkere spraakwetgeving, maar het effectievere mededingingsrecht. “Als er 10 verschillende Facebook-sites waren en ze hadden allemaal andere regels over spraak – wat wordt er afgebroken en wat blijft hangen, en wat wordt met het algoritme versterkt – dan zou geen van hen net zo belangrijk zijn”, zegt ze. In plaats van het gevoel te hebben dat we onder de controle van een handvol bedrijven met een rigide set regels leefden, konden we onze eigen ruimtes online vinden met spraakregels die onze persoonlijke standpunten beter weergeven.

Voor Goldman is het antwoord niet om de wet te hermuizen, maar om opnieuw na te denken over hoe onze sociale netwerken werken. “Als je een omgeving wilt hebben waar zowel een pro- als een anti-vaxxer-inhoud wordt gedeeld en naast elkaar zitten, zal die community niet slagen,” zegt hij. “Ik denk niet dat het mogelijk is dat ze met elkaar praten.”

Maar is het mogelijk om de genie van het sociale netwerk terug in de fles te stoppen? “Het web zoals het vandaag bestaat, is een ander dier,” zegt Cox. Zijn poging om het web een meer heilzame plek voor zijn kinderen te maken, hielp de opkomst van enorme platforms en onthulde de ongekende schaal van menselijke intolerantie en haat. Misschien hebben we het internet dat we toch verdienden.