Klokkenluider van Facebook vertelt het Congres hoe technologie moet worden gereguleerd

De getuigenis van Frances Haugen biedt een manier om de schade van Facebook aan te pakken.

WASHINGTON, DC – Amerikaanse wetgevers zijn al jaren boos op Facebook. Sinds 2011 hebben ze alarm geslagen over het falen van Facebook om de privacy van gebruikers te beschermen , de strijd tegen desinformatie op zijn platforms en de impact ervan op de geestelijke gezondheid van zijn gebruikers . Maar ze hebben geen nieuwe wetten aangenomen om deze problemen aan te pakken.

Nu zeggen enkele belangrijke wetgevers dat ze de katalysator hebben die ze nodig hebben om echte verandering door te voeren: klokkenluider en voormalig Facebook-medewerker Frances Haugen.

Haugen, ooit een productmanager bij het bedrijf, getuigde dinsdag voor de Senaatscommissie voor consumentenbescherming, productveiligheid en gegevensbeveiliging in wat wetgevers beschrijven als een dringende oproep tot actie om Facebook te reguleren. De klokkenluider zorgde voor een golf van media-onderzoek naar Facebook toen ze duizenden interne documenten deelde met de Wall Street Journal , de SEC en het Congres waaruit blijkt dat Facebook op de hoogte is van de schade die zijn producten kunnen veroorzaken, maar deze realiteit heeft gebagatelliseerd voor wetgevers en het publiek . Dit bewijs, dat tot nu toe in het gesprek ontbrak, onthult hoe Facebook onderzoek deed waaruit bleek dat zijn producten geestelijke gezondheidsproblemen kunnen veroorzaken, gewelddadige inhoud kan laten bloeien en polariserende reacties kan bevorderen – en dat onderzoek vervolgens grotendeels negeerde.

“Ik kwam naar voren omdat ik een angstaanjagende waarheid herkende: bijna niemand buiten Facebook weet wat er binnen Facebook gebeurt”, zei Haugen dinsdag in haar openingsverklaring.

In een verklaring in reactie op de hoorzitting van dinsdag schreef Lena Pietsch, directeur beleidscommunicatie van Facebook, dat Haugen “minder dan twee jaar voor het bedrijf heeft gewerkt, geen directe rapporten had, nooit een beslissingspuntvergadering met C-level executives bijwoonde – en getuigde meer dan zes keer om niet aan het onderwerp in kwestie te werken.”

“We zijn het niet eens met haar karakterisering van de vele zaken waarover ze getuigde”, schreef Pietsch. “Ondanks dit alles zijn we het over één ding eens; het is tijd om standaardregels voor internet te maken. Het is 25 jaar geleden dat de regels voor internet zijn geüpdatet, en in plaats van te verwachten dat de industrie maatschappelijke beslissingen neemt die aan wetgevers toebehoren, is het tijd voor het Congres om in te grijpen.”

In het verleden zijn hoorzittingen van het congres over Facebook vaak verworden tot politieke grootsheid , waarbij wetgevers van het onderwerp afweken en in hun eigen partijdige grieven met het bedrijf. Sommige Republikeinen hebben zich gericht op het uiten van onbewezen beschuldigingen dat het socialemediabedrijf een anticonservatieve vooringenomenheid heeft. Op andere momenten hebben wetgevers blunders gemaakt die hun schijnbare gebrek aan technische basiskennis onthullen – zoals de beruchte vraag van de inmiddels gepensioneerde senator Orrin Hatch (R-UT) over hoe Facebook geld verdient , of de recente vraag van senator Richard Blumenthal over “Finsta” tijdens een hoorzitting van een subcommissie van de Senaat afgelopen donderdag.

Deze keer waren de wetgevers in het gangpad echter met name gefocust en goed bestudeerd op de relevante – en tastbare – problemen. Ze stelden Haugen gerichte vragen over de schade die Facebook kan veroorzaken, met name voor tieners en kinderen, en hoe dat kan worden opgelost.

In ruil daarvoor was Haugen een welsprekende getuige. Ze bracht ingewikkelde onderwerpen zoals de algoritmisch gerangschikte nieuwsfeed van Facebook op een toegankelijke manier uiteen. En ze gaf een aantal van de duidelijkste verklaringen tot nu toe aan zowel het Congres als het publiek over wat er mis is met Facebook en hoe deze problemen kunnen worden opgelost.

Geef Facebook echt extern toezicht

Haugen riep herhaaldelijk op tot wetgevers om een ​​externe regelgevende instantie op te richten die de bevoegdheid zou hebben om gegevens van Facebook op te vragen, met name over hoe de algoritmen werken en het soort inhoud dat ze versterken op de sociale-mediaplatforms van het bedrijf.

“Zolang Facebook in het donker opereert, is het aan niemand verantwoording verschuldigd”, zei Haugen in haar openingsverklaring. Haugen betoogde dat “een cruciaal uitgangspunt voor effectieve regelgeving transparantie is: volledige toegang tot gegevens voor onderzoek dat niet door Facebook wordt geleid.”

In haar schriftelijke getuigenis die ze voorafgaand aan de hoorzitting deelde, bekritiseerde Haugen de bestaande quasi-onafhankelijke toezichtsraad van Facebook (die geen echte juridische macht heeft over Facebook) omdat ze gelooft dat het “blind” is voor de innerlijke werking van Facebook.

“Op dit moment zijn de enige mensen ter wereld die zijn opgeleid om deze ervaringen te analyseren, mensen die zijn opgegroeid binnen Facebook of andere sociale-mediabedrijven”, zegt Haugen. “Er moet een regelgevend huis zijn waar iemand zoals ik een dienstplicht kan doen nadat hij op een plek als deze heeft gewerkt”, zei ze.

Nate Persily, professor in de rechten van Stanford, die eerder rechtstreeks met Facebook heeft gewerkt aan academische partnerschappen en die de beperkingen van die partnerschappen heeft erkend, riep onlangs op tot wetgeving die platforms zoals Facebook zou dwingen interne gegevens te delen met externe onderzoekers.

Gegevenstransparantie is niet bepaald het meest opvallende concept, en het is ook niet gemakkelijk te reguleren. Maar zoals Recode eerder heeft gemeld, zijn veel vooraanstaande experts op het gebied van sociale media het met Haugen eens dat het een eerste stap is om Facebook op een zinvolle manier te reguleren.

Open de algoritmische zwarte doos van Facebook

De algoritmen van Facebook bepalen hoe zijn platforms werken en wat iedereen ziet in hun nieuwsfeeds. Haugen zei dat deze krachtige mechanismen niet mogen werken in een zwarte doos die alleen Facebook controleert en begrijpt, en dat ze moeten worden gecontroleerd en gereguleerd.

Interne documenten die Haugen onthulde, toonden aan hoe een wijziging in de nieuwsfeed van Facebook in 2018 inhoud beloont die meer emotie bij mensen oproept , met name woede, omdat het meer betrokkenheid oproept dan welke andere emotie dan ook. Haugen en leden van het Congres spraken ook over hoe de algoritmen van Facebook tieners ook naar giftige inhoud kunnen duwen, zoals degenen die eetstoornissen promoten.

“Ik heb het grootste deel van mijn carrière besteed aan op engagement gebaseerde rankings”, zegt Haugen, die in het verleden bij Google en Pinterest heeft gewerkt. “Facebook zegt: ‘We kunnen het veilig doen omdat we AI hebben. De kunstmatige intelligentie zal de slechte inhoud vinden waarvan we weten dat onze op engagement gebaseerde ranglijsten promoot’, zei ze. Maar ze waarschuwde dat “Facebook’s eigen onderzoek zegt dat ze die gevaarlijke inhoud niet adequaat kunnen identificeren”, en dat als gevolg daarvan die algoritmen “extreem sentiment en verdeeldheid” bij mensen opwekken.

Dit, benadrukte Haugen, vormt de kern van veel van de meest urgente problemen van Facebook en heeft toezicht van het Congres nodig.

“Ik denk dat [Haugen] ons in staat heeft gesteld om onder de motorkap van Facebook te komen”, zei senator Ed Markey (D-MA). “We kunnen nu zien hoe dat bedrijf werkt en hoe het onverschillig is voor de impact die de algoritmen hebben op jongeren in ons land.”

Maak federale privacywetten om Facebook-gebruikers te beschermen

Privacy was niet een van de belangrijkste aandachtspunten van Haugen tijdens de getuigenis, maar verschillende wetgevers, waaronder senator Amy Klobuchar (D-MN), senator Marsha Blackburn (R-TN) en senator Ed Markey (D-MA), brachten de behoefte aan betere privacyregelgeving.

Het beschermen van de privacy van mensen op platforms zoals Facebook is een gebied waarop het Congres tot nu toe de meeste wetgeving heeft ingevoerd, waaronder het bijwerken van de Children’s Online Privacy Protection Act (COPPA) van 1998 , de KIDS Act, die technologiebedrijven zou dwingen om gerichte reclame sterk te beperken bij kinderen van 16 jaar of jonger, en de SAFE DATA Act, die gebruikersrechten op gegevenstransparantie zou creëren en om toestemming zou vragen voor het verwerken van gevoelige gegevens. Het is dus logisch waarom dit een belangrijk onderdeel zou zijn van hun potentiële plannen om Facebook te reguleren.

“Het is lang in de maak geweest om een ​​federale privacynorm door te voeren. Ik plaatste mijn eerste in 2012 en ik denk dat dit congres en deze subcommissie het voortouw zullen nemen’, zei Blackburn.

Haugen was het ermee eens dat hoe Facebook omgaat met de privacy van zijn gebruikers een belangrijk punt van zorg is waar regelgevers zich op moeten concentreren, maar ze zei ook dat ze niet gelooft dat privacyregulering de enige oplossing is om de schade van Facebook aan de samenleving te verminderen.

“Facebook wil je laten denken dat privacybescherming of wijzigingen in sectie 230 alleen voldoende zullen zijn”, zei Haugen. “Hoewel belangrijk, ze zullen niet tot de kern van het probleem doordringen, namelijk dat niemand de destructieve eigenschappen van Facebook echt begrijpt, behalve Facebook. We kunnen ons niets minder dan volledige transparantie veroorloven.”

Hervorm Sectie 230 — maar focus op algoritmen

Tijdens de hoorzitting brachten verschillende senatoren Sectie 230 naar voren – de historische internetwet die technologiebedrijven beschermt tegen vervolging voor de meeste soorten illegale inhoud die hun gebruikers op hun platforms plaatsen.

De hervorming van Sectie 230 zou zeer controversieel zijn. Zelfs sommige beleidsorganisaties, zoals de Electronic Frontier Foundation en Fight for the Future , die technologiebedrijven streng onder de loep nemen, hebben betoogd dat het schrappen van deze wet de regerende technologiereuzen zou kunnen verankeren, omdat het voor kleinere sociale-mediaplatforms met minder middelen voor contentmoderatie moeilijker zou worden om werken zonder dure rechtszaken.

Haugen leek sommige van deze nuances te begrijpen in haar bespreking van 230. Ze stelde voor dat regelgevers sectie 230 zouden wijzigen om bedrijven wettelijk aansprakelijk te stellen voor hun algoritmen die schadelijke inhoud promoten in plaats van berichten van specifieke gebruikers.

“Ik moedig het hervormen van Sectie 230-beslissingen over algoritmen aan. Het aanpassen van 230 rond inhoud – het wordt erg ingewikkeld omdat door gebruikers gegenereerde inhoud iets is waar bedrijven minder controle over hebben, “zei Haugen. “Ze hebben 100 procent controle over algoritmen.”

Wat is het volgende

De leiders van de subcommissie van de Senaat die Haugen dinsdag liet getuigen, zeiden dat ze Facebook in de schijnwerpers zullen houden en dat ze in de toekomst meer hoorzittingen zullen houden (ze zouden niet zeggen wanneer) over Facebook en andere technologiebedrijven.

“Ze heeft het bewustzijn van het Congres vandaag echt gegrepen en een blijvend en blijvend verschil gemaakt in hoe we Big Tech zullen beschouwen”, zei Blumenthal. “Zonder enige overdrijving beginnen we nu een ander tijdperk – ik hoop dat het anders zal zijn – om Big Tech verantwoordelijk te houden.”

Maar het Congres is nog steeds erg in de pratende fase. Geen van de vele wetsvoorstellen die in de loop der jaren zijn ingediend – zoals een wetsvoorstel om verkeerde informatie over de gezondheid op sociale media te voorkomen of een voorgestelde antitrustwet om te voorkomen dat grote technologiebedrijven productlijnen verkopen die ze beheren – is in de verste verte niet aangenomen . En hoewel dit moment anders aanvoelt – en sommige senatoren, zoals Ed Markey, hebben wetsvoorstellen opnieuw ingediend in het licht van de nieuwe controle – ligt er een strijd voor de wetgevers in het verschiet als ze klaar zijn om te vechten.

Sen. Richard Blumenthal, die mede-leider is van de subcommissie die dinsdag de hoorzitting hield, weigerde te zeggen of hij Mark Zuckerberg zal dagvaarden of wanneer de volgende hoorzitting precies zou zijn. Sen. Marsha Blackburn, die samen met Blumenthal de leiding heeft, zei dat er “eerder vroeger dan later” verandering komt en dat het Congres “dicht bij een tweeledige overeenkomst is”. Maar gezien de realiteit dat het Congres nog steeds onderhandelt over de basisfinanciering voor de Amerikaanse regering, zal het proberen om Facebook effectief te reguleren tijd vergen, evenals een opmerkelijke coördinatie tussen partijen.

Maar de focus-senatoren die vandaag naar de hoorzitting zijn gebracht, laten zien dat zelfs dit gepolariseerde congres misschien klaar is om zich te verenigen – tenminste als het gaat om het reguleren van Facebook.