Waarom niemand echt weet hoe slecht Facebook’s probleem met verkeerde informatie over vaccins is?

Sommige onderzoekers zeggen dat Facebook niet transparant genoeg is over Covid-19-inhoud op zijn platform.

Is Facebook “mensen aan het doden” door de verspreiding van desinformatie over Covid-19 mogelijk te maken, zoals president Joe Biden een paar weken geleden zei ? Of verwijdert het socialemediabedrijf op efficiënte wijze desinformatie over Covid-19 van zijn platform en laat het miljoenen mensen informatie zien over waar ze zich kunnen laten vaccineren, zoals het bedrijf een dag later betoogde in zijn reactie aan de president?

Biden liep zijn opmerkingen gedeeltelijk terug, maar de realiteit is dat we gewoon niet de ware omvang of het effect kennen van desinformatie over Covid-19 op Facebook en Instagram die eigendom is van Facebook. Dat komt voor een groot deel omdat Facebook onderzoekers niet genoeg realtime gegevens geeft die ze nodig hebben om erachter te komen hoeveel verkeerde informatie over Covid-19 er op het platform staat, wie het ziet en hoe dit hun bereidheid om zich te laten vaccineren beïnvloedt. Onderzoekers zeggen dat ze dit soort gegevens nodig hebben om de omvang van het probleem van desinformatie te begrijpen, welke misleidende berichten mensen aanspreken en hoe volksgezondheidsfunctionarissen ze kunnen tegengaan.

“Op dit moment gissen we [op] veel dingen”, zegt Katherine Ognyanova, universitair hoofddocent communicatie aan de Rutgers University, die mede leiding geeft aan het Covid States-project , een onderzoeksgroep die mensen onderzoekt naar hun gebruik van sociale media en Covid-19-gedragingen. “We kunnen mensen vragen stellen. Maar Facebook heeft echt de gegevens over wat mensen hebben gezien en hoe hun aandacht wordt besteed aan het platform.”

Meer dan een dozijn onafhankelijke onderzoekers die Facebook regelmatig bestuderen, waaronder zes die specifiek onderzoek doen naar de verspreiding van informatie over Covid-19, vertelden Recode dat het bedrijf het moeilijk maakt voor mensen die het platform bestuderen om toegang te krijgen tot essentiële informatie, inclusief hoe vaak mensen Covid-19 bekeken. -gerelateerde artikelen, welke desinformatie over gezondheid Facebook verwijdert en wat er wordt gedeeld op privépagina’s en groepen.

Facebook heeft wel een aantal programma’s, zoals het Social Science One-initiatief voor het delen van gegevens, om onderzoekers meer gedetailleerde informatie te geven dan publiekelijk beschikbaar is. Maar sommigen zeggen dat het proces voor het ontvangen van die gegevens te lang duurt om de steeds veranderende Covid-19-situatie bij te houden. Dit heeft ertoe geleid dat onderzoekers alternatieve methoden hebben gebruikt om berichten handmatig te loggen, opt-in gebruikersonderzoeken uit te voeren of onafhankelijke enquêtes te ontwerpen, en Facebook heeft soms de resultaten betwist van degenen die deze tijdelijke oplossingen gebruiken.

Onderzoekers schreeuwen ook niet alleen om meer informatie over Facebook. YouTube, Twitter en andere sociale-medianetwerken hebben ook een schat aan gegevens over desinformatie over Covid-19 die onderzoekers zouden kunnen helpen. Maar omdat Facebook het grootste socialemediaplatform is voor het delen van nieuws – een platform waar veel berichten privé zijn – staat het bedrijf centraal in het debat over transparantie in Big Tech en de maatschappelijke impact van zijn producten.

Nick Clegg, VP of Global Affairs van Facebook, zei dat het bedrijf “reeds toegewijd is aan het leveren van ongekende datasets aan onafhankelijke onderzoekers” en dat “iedereen altijd meer wil, en we zullen altijd proberen meer te doen”, wanneer hem wordt gevraagd naar de kwestie van onderzoeksgegevens toegang tot een recent evenement georganiseerd door de non-profit Freedom House.

Ondertussen zeggen verschillende academici waarmee Recode sprak dat een gebrek aan toegang tot Facebook-gegevens hun vermogen beperkt om te begrijpen hoeveel mensen verkeerde informatie over Covid-19 zien die de aarzeling van vaccins in de VS zou kunnen veroorzaken. Het wordt een steeds urgenter probleem omdat de delta-variant van het virus zich over het land verspreidt en dagelijks tienduizenden nieuwe mensen infecteert. Slechts ongeveer de helft van de bevolking is volledig gevaccineerd en naar schatting 20 procent van de Amerikanen blijft niet bereid om de injectie te krijgen .

Volgens chirurg-generaal Vivek Murthy, wiens kantoor onlangs een rapport uitbracht dat verkeerde informatie een bedreiging voor de volksgezondheid vormt, is de toegang van onderzoekers tot de online verspreiding van sociale media “uiterst belangrijk” om de terughoudendheid in vaccins in de VS te overwinnen .

“De data gap betekent dat we blind vliegen. We kennen de omvang van het probleem niet. We weten niet wat werkt om het probleem op te lossen. We weten niet wie het meest getroffen is door het probleem,” vertelde Murthy aan Recode.

Nauwkeurigere onderzoeksgegevens zijn “absoluut essentieel voor ons om gerichte effectieve actie te kunnen ondernemen om verkeerde informatie aan te pakken”, voegde hij eraan toe. “Het feit dat je het niet hebt, belemmert ons in een tijd waarin verkeerde informatie de gezondheid van mensen actief schaadt.”

De controversiële relatie van Facebook met onderzoekers trok onlangs de krantenkoppen, nadat het bedrijf de toegang tot de accounts van een groep externe onderzoekers van NYU’s Ad Observatory, die politieke advertenties op het platform in de gaten hield, had afgesloten . Facebook zei dat het de toegang van de groep had ingetrokken vanwege privacyoverwegingen, maar het Ad Observatory voerde aan dat de deelnemers aan het onderzoek allemaal opt-in vrijwilligers waren, die graag informatie deelden over welke advertenties ze op Facebook zagen voor onderzoeksdoeleinden. De leider van de groep zei dat Facebook onderzoek “tot zwijgen brengt” dat “de aandacht vestigt op problemen” met hoe het bedrijf omgaat met politieke advertenties. Het Ad Observatory hielp ook met wat onderzoek naar desinformatie over Covid-19.

Er zijn echter legitieme privacyredenen waarom Facebook aarzelt om onderzoekers carte blanche te geven om gebruikersgegevens te bestuderen. Sinds het Cambridge Analytica-schandaal in 2016 , toen een psychologisch onderzoeker de privé-informatie van tot wel 87 miljoen Facebook-gebruikers voor politieke doeleinden exploiteerde, is Facebook meer waakzaam geweest over de manier waarop het informatie deelt met academici. Maar onderzoekers zeggen dat Facebook nog steeds manieren heeft om geanonimiseerde gegevens te delen, zoals een lijst met de meest bekeken artikelen in realtime of geaggregeerde informatie over welke Covid-19-onderwerpen populair zijn bij bepaalde demografische gegevens van mensen.

“Het is verdedigbaar van Facebook dat ze de gegevens van een gewoon persoon willen beschermen”, vertelde Rachel Moran, een onderzoeker die desinformatie over Covid-19 op sociale media aan de University of Washington’s Information School bestudeert, aan Recode. “Maar om te begrijpen hoeveel verkeerde informatie er op Facebook staat en hoe er dagelijks mee wordt omgegaan, moeten we meer weten.”

Hoewel het behouden van de privacy van gebruikers een prijzenswaardig doel is, is de zorg onder de academische gemeenschap dat Facebook deze grondgedachte effectief gebruikt als een schild tegen critici die meer open toegang tot het platform willen. En nu meer dan ooit kan deze toegang van cruciaal belang zijn om onderzoekers en volksgezondheidsexperts te helpen begrijpen welke soorten valse verhalen over Covid-19 kwetsbare gemeenschappen treffen en hoe middelen kunnen worden toegewezen om hen te helpen.

Hoe onderzoekers de datakloof omzeilen

Facebook biedt een aantal tools aan mensen die het platform bestuderen, zoals het realtime analyseplatform Crowdtangle en regelmatige onderzoeksresultaten over de Covid-19-symptomen en attitudes van Facebook-gebruikers over Covid-19, inclusief vaccins . Het bedrijf levert ook een speciale dataset aan het consortium van academici Social Science One .

Maar deze bronnen – hoewel nuttig – zijn niet genoeg om het constant evoluerende spervuur ​​van desinformatie over Covid-19 bij te houden, en om echt te begrijpen hoe dit hun gedrag beïnvloedt, volgens verschillende vooraanstaande onderzoekers van sociale media.

Daarom hebben academici hun eigen handmatige methoden bedacht om gegevens te verzamelen, waaronder onafhankelijke enquêtes en opt-in gebruikersexperimenten.

“We proberen vaak een ingebedde benadering te hanteren waarbij we denken: ‘Oké, dus als ik een gemiddelde Facebook-gebruiker was, hoe zou ik deze informatie dan tegenkomen?'”, zei Moran. “Ik heb een arme onderzoeksassistent die letterlijk wordt belast met het handmatig vastleggen van elk verhaal, elke video die verschijnt, omdat er anders geen manier is om toegang te krijgen tot die informatie.”

Moran en haar personeel kunnen “uren en uren” besteden aan het doorspitten van Instagram-verhalen van populaire beïnvloeders van verkeerde informatie, waar gebruikers valse beweringen doen over Covid-19. Hoewel nuttig voor het begrijpen van de tactieken die influencers gebruiken om hun publiek te misleiden, is dat soort tijdrovend onderzoek uiteindelijk slechts een kleine momentopname van het grotere Facebook-ecosysteem.

Om een ​​idee te krijgen van welke desinformatie over Covid-19 viraal gaat, gebruiken veel onderzoekers Crowdtangle als uitgangspunt. Met deze tool van Facebook kunnen onderzoekers opzoeken hoe vaak een specifieke URL is gedeeld of waarop is gereageerd op Facebook. Crowdtangle geeft onderzoekers echter geen bepaalde belangrijke statistieken, zoals hoeveel mensen een bericht bekijken en wat er circuleert op de privé-Facebook-profielen van mensen in tegenstelling tot openbare pagina’s. Deze details kunnen belangrijker zijn dan hoeveel mensen het delen of erop reageren.

Facebook erkent zelf de beperkingen van Crowdtangle-gegevens, maar weigert nog steeds nauwkeurigere gegevens te delen over wat de meest populaire inhoud op zijn platform is. Het zou bijvoorbeeld “extreem eenvoudig” zijn voor Facebook om een ​​actuele lijst vrij te geven van de meest bekeken websites waarnaar mensen linken op zijn platform, zonder zich zorgen te maken over de privacy van gebruikers, aldus David Rothschild, een econoom bij Microsoft Research. Maar Facebook heeft in het verleden geweigerd om zelfs dergelijke geaggregeerde gegevens op hoog niveau vrij te geven.

“Het is verbijsterend,” zei Rothschild. “Gewoon verbijsterend.”

Zelfs enkele van Facebook’s eigen interne datawetenschappers – van wie wordt aangenomen dat ze meer toegang hebben tot de gebruikersgegevens van het bedrijf dan externe academici – hebben naar verluidt moeite gehad om verkeerde informatie op het platform te bestuderen. Een groep datawetenschappers bij het bedrijf werd vorig jaar een verzoek geweigerd om de prevalentie van desinformatie over Covid-19 op het platform te meten, volgens bronnen die worden aangehaald door The New York Times .

Zonder meer gegevenstoegang van Facebook over wat mensen zien en wat er wordt verwijderd, zeggen onderzoekers dat ze proberen een zwarte doos open te breken. Om de zaken moeilijker te maken, veranderen Facebook en andere sociale-mediabedrijven voortdurend hun functies en tweaken hun algoritmen, waardoor de eigen methoden van onderzoekers voor het bestuderen van het sociale netwerk nutteloos kunnen worden.

“Net als je denkt dat je een set tools en scripts en codes van deze platforms hebt, brengen ze enkele wijzigingen aan en moet je opnieuw beginnen”, zegt Ognyanova van Rutgers. “Dus dat is een beetje het lot van onderzoekers van sociale media.”

Facebook’s geschiedenis van het bekritiseren van extern onderzoek

David Lazer leidt het Covid States Project , een van de toponderzoeksgroepen die gedeeltelijk probeert te begrijpen waarom zoveel Amerikanen zich niet willen laten vaccineren. De onderzoeksresultaten van het gerespecteerde team worden regelmatig gebruikt door politici, gezondheidsexperts en andere onderzoekers om het overheidsbeleid beter te informeren.

Het Covid States Project bracht eind juli een rapport uit waaruit blijkt dat Facebook-nieuwsconsumenten minder snel gevaccineerd werden dan Fox News-kijkers. Facebook viel prompt de methodologie van het onderzoek aan. Een woordvoerder van het bedrijf vertelde Gizmodo dat de resultaten “sensationeel” en “overdreven” waren, deels omdat ze vertrouwden op zelfgerapporteerde onderzoeksgegevens in een kort tijdsbestek. In plaats daarvan, zo betoogde Facebook, hadden onderzoekers betere gegevens moeten gebruiken, zoals de daadwerkelijke afhankelijkheid van mensen van het sociale netwerk voor nieuws, in plaats van zelfgerapporteerde onderzoeksgegevens – gegevens waartoe alleen Facebook toegang heeft.

Lazer zegt dat hij Facebook rechtstreeks had kunnen vragen om samen te werken om samen een experiment te ontwerpen om betere gegevens te krijgen over hoe mensen het platform gebruikten, maar dat zou tijd kosten. Vorig jaar was Lazer een van de vele academici die werden geselecteerd om met Facebook samen te werken aan een afzonderlijk verkiezingsgerelateerd onderzoeksproject , waarvoor hij speciale toegang krijgt tot gegevens over gebruikersgedrag. Maar dat model zou niet werken voor het Covid States Project, aangezien zijn team realtime gegevens nodig had om snel veranderende berichten over Covid-19-vaccins te bestuderen.

“[Facebook] zegt: ‘Je kan deze vraag niet beantwoorden, tenzij je gegevens zoals hebben dat . Oh, en tussen haakjes, we hebben een monopolie op dat soort data ”, aldus Lazer. “Dat is een probleem.”

Het heen en weer vertegenwoordigt een al lang bestaand probleem tussen Facebook en externe onderzoekers die sociale media bestuderen. Jarenlang hebben onderzoekers om meer gedetailleerde informatie gevraagd over hoe mensen de site gebruiken, inclusief links waarop ze hebben geklikt en op emoties gebaseerde reacties op berichten . Ze willen deze gegevens zodat ze beter kunnen begrijpen hoe inhoud in de Facebook- en Instagram-feeds van mensen hun mening bepaalt. Gedetailleerdere gegevens kunnen hen helpen te antwoorden, bijvoorbeeld of mensen die het ene stuk desinformatie bekijken, eerder op een ander klikken, of dat een bepaalde demografie vatbaarder is voor het delen van Covid-19-hoaxes dan andere.

“Facebook kan zeggen: ‘Oh, heb je dit verhaal gezien? Oh, je bleef er maar bij hangen”, stelde Lazer voor. “Dus Facebook heeft de droommachine om menselijk gedrag te begrijpen.”

Facebook heeft ook de bevindingen betwist van een invloedrijk rapport geciteerd door Biden en senator Amy Klobuchar (D-MN) dat beweerde dat slechts 12 gebruikers – een zogenaamde “Disinformation Dozen” – verantwoordelijk waren voor 65 procent van de verkeerde informatie over vaccins op Facebook en Twitter . Facebook vertelde Recode dat het belangrijke feiten wegliet over hoe het bedrijf veel populaire accounts had uitgeschakeld die verantwoordelijk waren voor het verspreiden van verkeerde informatie. Maar in plaats van externe onderzoeken te bekritiseren, zou Facebook zijn boeken moeten openstellen voor onderzoekers over hoe het prioriteit geeft aan inhoud die mensen in hun nieuwsfeed zien, zegt Imran Ahmed, de CEO van het Center for Countering Digital Hate, dat het rapport schreef.

“Het is buitengewoon dat bedrijven waarvan de kernverdediging is dat ze open ruimtes moeten bieden, in feite enkele van de meest controlerende en ondoorzichtige organisaties ter wereld zijn”, vertelde Ahmed aan Recode. “Ze beheersen de communicatie- en kennisarchitectuur van de wereld en zullen geen inzicht geven in hun algoritmen en wat ze willen versterken.”

Facebook twijfelde zelfs aan de geloofwaardigheid van gegevens afkomstig van zijn eigen tool, Crowdtangle, nadat New York Times-journalist Kevin Roose het analyseplatform had gebruikt om dagelijkse lijsten samen te stellen van de 10 meest gedeelde Facebook-links, die vaak werden gedomineerd door rechtse pagina’s. Facebook betwistte deze bevindingen en voerde aan dat de Crowdtangle-gegevens een vertekend beeld geven van wat echt populair is op Facebook. Vorige maand meldde Roose dat sommige leidinggevenden binnen het bedrijf overwogen de toegang tot Crowdtangle- gegevens voor journalisten helemaal te beperken vanwege de negatieve PR-gevolgen, hoewel Facebook heeft gezegd dat het geen plannen heeft om Crowdtangle te sluiten.

Desalniettemin heeft het incident sommige onderzoekers bezorgd gemaakt dat Facebook een van de weinige directe gegevensbronnen waarmee ze moeten werken, beperkt. En het is problematisch dat een van de nuttigste tools die journalisten en onderzoekers momenteel hebben om verkeerde informatie op het platform te begrijpen, kan worden uitgeschakeld wanneer Facebook dat wil.

Toen Facebook begin augustus het NYU Ad Observatory effectief sloot, verspreidden soortgelijke zorgen zich niet alleen in de academische gemeenschap, maar ook bij wetgevers en de Federal Trade Commission. Voor critici was de manier waarop Facebook omging met het Ad Observatory-incident gewoon een ander voorbeeld van het bedrijf dat probeerde degenen die het verantwoordelijk wilden houden het zwijgen op te leggen.

“Sinds enkele jaren roep ik sociale-mediaplatforms zoals Facebook op om samen te werken met, en beter te machtigen, onafhankelijke onderzoekers, wiens inspanningen consequent de integriteit en veiligheid van sociale-mediaplatforms verbeteren door schadelijke en uitbuitende activiteiten bloot te leggen,” Sen. Mark Warner (D-VA) zei in een verklaring de dag nadat Facebook actie ondernam tegen de Ad Observatory. “In plaats daarvan heeft Facebook schijnbaar het tegenovergestelde gedaan.”

De beperkingen van externe onderzoekspartnerschappen van Facebook

Het is een verdienste dat Facebook sommige onderzoekers toestemming geeft om toegang te krijgen tot meer gedetailleerde datasets over gebruikersgedrag via het Facebook Open Research and Transparency (FORT)-programma. Het probleem is, zeggen onderzoekers, die datasets zijn tot nu toe grotendeels niet nuttig geweest bij het bestuderen van berichten over Covid-19.

Social Science One is een van de meest ambitieuze academische samenwerkingsprojecten waaraan Facebook tot nu toe via FORT heeft deelgenomen. Gestart door Stanford professor in de rechten Nate Persily en Harvard professor politieke wetenschappen Gary Koning in 2018, de groep bedoeld om het opzetten van een systeem voor het buiten academici interne gegevens gegenereerd door Facebook’s 2,2 miljard gebruikers te onderzoeken , zoals hoe vaak een URL is over de bekeken platform en welke demografie het heeft bekeken. Het opzetten van een dergelijke workflow zou aanvankelijk twee maanden duren, maar duurde uiteindelijk twee jaar, nadat Facebook juridische zorgen had geuit over het delen van te veel gebruikersgegevensen mogelijk de privacy van mensen schenden. (Facebook paste uiteindelijk een “differentiële privacy” -techniek toe om de gegevens te anonimiseren, wat volgens sommige onderzoekers het minder nauwkeurig en moeilijker te ontleden maakt.)

Sinds de oorspronkelijke dataset in februari 2020 werd vrijgegeven, hebben onderzoekers volgens Facebook acht academische papers gepubliceerd met behulp van Social Science One-gegevens. Ze variëren in onderwerpen van de invloed van politieke campagnes op Facebook in Chili tot de prevalentie van nepnieuws op het platform. Er zijn momenteel 22 conceptuele academische papers die gebruikmaken van Social Science One-gegevens. Slechts één daarvan betreft onderzoek naar desinformatie over Covid-19.

Hoewel de missie van Social Science One prijzenswaardig is, zeggen verschillende onderzoekers dat het slechts een statische momentopname biedt van het data-universum van Facebook, een die niet bijzonder nuttig is om de constant evoluerende wereld van desinformatie over Covid-19 te begrijpen. En tot eerder deze zomer bevatte de dataset slechts gegevens tot juli 2019, hoewel deze sindsdien is bijgewerkt om gegevens tot maart 2021 te bevatten. gegevens via Social Science One, zegt Lazer, zou een grote verbetering zijn.

Ondanks de enorme rekenkracht van Facebook, kan het uitvoeren van datasets zoals die worden gebruikt in Social Science One veel tijd kosten: tot anderhalve maand werk voor gegevens over een periode van drie maanden, aldus het bedrijf. Volgens onderzoekers kan die vertraging Covid-19-informatie verouderd maken, dus Facebook moet een manier vinden om deze informatie sneller bij hen te krijgen.

Gegevenstransparantie door regelgeving

Sommige academici zijn van mening dat overheidsingrijpen de enige manier is om Facebook en andere socialemediabedrijven ertoe te brengen meer gegevens met onderzoekers te delen.

Persily, de Stanford-rechtsprofessor die medeoprichter van Social Science One was, nam ontslag bij de organisatie vóór de verkiezingen van 2020 en pleit nu voor nieuwe wetten om problemen tussen socialemediabedrijven en onderzoekers aan te pakken. Dergelijke wetgeving zou bedrijven als Facebook dwingen meer gegevens met onderzoekers te delen en de privacywetten om hen heen te versoepelen. Dit zou het langdurige debat tussen onderzoekers en socialemediabedrijven over de vraag of bedrijven legaal gebruikersgegevens mogen delen zonder de privacywetten te schenden, kunnen oplossen.

“Tenzij je een soort juridische immuniteit creëert voor bedrijven die gegevens delen, en een wettelijke dwang voor hen om die gegevens te delen, kun je het argument niet winnen, omdat het alleen maar risico lijkt”, zei Persily. “Ik denk dat het delen van gegevens legaal is, maar ik ben niet degene die $ 5 miljard betaalt als ik een boete krijg.”

Persily voegde eraan toe dat Social Science One een substantiële stap voorwaarts was om Facebook onderzoekers meer vrijheid te geven om zijn platform te bestuderen. Hij prees Facebook voor zijn deelname.

Maar uiteindelijk, zei Persily, hebben bedrijven als Facebook meer stimulansen nodig om aan dergelijke projecten deel te nemen zonder bang te hoeven zijn in de problemen te komen met regelgevers, die ook niet willen dat Facebook het Cambridge Analytica-schandaal herhaalt. Sommige wetgevers, zoals Klobuchar en Warner, hebben Facebook bekritiseerd omdat het niet genoeg gegevens met onderzoekers deelt. Tegelijkertijd hebben ze deze bedrijven ook opgeroepen om de privacy van gebruikers beter te beschermen.

“De verspreiding van verkeerde informatie over het coronavirusvaccin heeft ernstige gevolgen gehad”, zei Klobuchar in een verklaring aan Recode. “Dit zijn enkele van de grootste, rijkste bedrijven ter wereld en het is van vitaal belang dat ze transparant zijn over de verkeerde informatie op hun platforms, zodat onderzoekers en beleidsmakers dit probleem beter kunnen beoordelen en aanpakken.”

Voor Persily en vele anderen in de academische gemeenschap is het verkrijgen van toegang tot betere gegevens voor onderzoekers een belangrijke stap voordat regelgevers andere vragen kunnen oplossen.

“Of we de vraag kunnen beantwoorden of Facebook mensen vermoordt met verkeerde informatie over Covid, hangt af van de vraag of buitenstaanders kunnen beoordelen hoeveel verkeerde informatie er daadwerkelijk op Facebook staat”, zegt Persily. “Datatoegang is de spil voor alle andere sociale media-problemen.”