Taylor Swift, de paus, Poetin: wie vertrouw je in het tijdperk van AI en deepfakes?

AI – Geruchten en roddels veranderden de loop van de Franse geschiedenis. Nu zijn het wapens voor ‘nieuwsbeïnvloeders’ en dictators in de AI informatieoorlogen van de 21e eeuw

AI Als je wilde weten wat er in 1750 in Parijs in de wereld gebeurde, ging je naar l’arbre de Cracovie , oftewel “de boom van Krakau”. Deze kastanjeboom werd niet zo genoemd omdat hij een bijzondere band had met de Poolse stad, maar omdat de toenmalige term voor ‘nepnieuws’ craques was en de ruimte onder zijn takken er vol mee was.

En toch lokte de boom niet alleen roddels aan die beweerden te weten wat er werkelijk gaande was in de wandelgangen van de macht, omdat ze een gesprek hadden afgeluisterd of een glimp hadden opgevangen van een privébrief. Het trok ook de aandacht van de regering, die wilde weten wat de Parijzenaars dachten, en van buitenlandse mogendheden, die agenten daarheen stuurden om informatie te verzamelen – of om die te verspreiden.

Robert Darnton , een Harvard-historicus, volgde de stroom van deze informatie in een toespraak voor de American Historical Association rond de millenniumwisseling. Omdat de kranten sterk onder controle stonden van het anci en régime , nam de roddels die zich aan de voet van de boom verspreidden verschillende vormen aan als ‘openbaar lawaai’ en barliederen, werden ze collectief besproken in salons en gedrukt in satirische en lasterlijke pamfletten genaamd libelles . Uiteindelijk, zo betoogt Darnton, hebben deze anekdotes en verhalen bijgedragen aan de val van de Franse monarchie zelf.

Het eindresultaat daarvan was uiteraard de fundamentele bijdrage die de Franse revolutie aan de democratie heeft geleverd. Maar nu zijn we hier, degenen onder ons die in liberaal-democratische staten leven die voor hun voortbestaan ​​afhankelijk zijn van een goed opgeleide, betrokken bevolking, en worden geconfronteerd met een arbre de Cracovie van de 21e eeuw .

Alleen is deze onberekenbaar alomtegenwoordiger, onmiddellijker, overweldigender en krachtiger. En nu kiezers over de hele wereld het grootste verkiezingsjaar uit de geschiedenis doormaken , vraag ik me steeds vaker af: kan de democratie de sociale media overleven?

AI De fervente Colon, een Franse historicus die gespecialiseerd is in propaganda en massamanipulatie, zegt dat hoewel propaganda op zichzelf niets nieuws is, nieuw wel de virale snelheid en de mondiale schaal is die sociale media mogelijk hebben gemaakt, samen met het dalende vertrouwen in ‘filters’ (dat wil zeggen de institutionele media). Er is een trifecta van dingen op het werk die waarschijnlijk allemaal erger zullen worden, en die elkaar allemaal voeden.

Ten eerste, en voor de meesten waarschijnlijk niet verrassend, nepnieuws. De recente opkomst van AI heeft de toekomst van vervalste clips van politici die dingen zeggen die ze eigenlijk niet hebben gezegd (of natuurlijk van de paus die dingen draagt ​​die hij niet droeg ) en van deepfaked AI pornografie gericht op beroemdheden als Taylor Swift tastbaar gemaakt. Maar het wordt nog erger dan dat. De Franse gamestudio Drama heeft onlangs AI gameplaybeelden vrijgegeven van de aankomende first-person shooter Unrecord die eruit ziet als echte bodycambeelden. Ga je gang, oordeel zelf .

Het is al moeilijk genoeg om tot een samenhangend, gedeeld begrip te komen van conflicten die daadwerkelijk plaatsvinden. Wat zal er gebeuren in een tijdperk – dat net om de hoek ligt – waarin mensen tijdens mondiale crises worden gebombardeerd met gegenereerde beelden van aanvallen die niet hebben plaatsgevonden en worden gedwongen om in realtime te reageren? Samenzweringstheorieën zullen nog meer voorkomen; zoals degenen die zijn ontstaan ​​in de nasleep van de verdachte dood van Alexei Navalny, waarbij wordt beweerd dat hij is vermoord door westerse inlichtingendiensten of zelfs dat hij een fabriek van het Kremlin is. Sommigen zullen alles geloven, inclusief dingen die onwaar zijn; anderen zullen alles niet geloven, inclusief dingen die waar zijn.

Ten tweede, de opkomst van ‘nieuwsbeïnvloeders’ die onze ooit gedeelde informatierealiteit nog verder verscheuren – soms zonder dat we het ons zelfs maar realiseren. Hoeveel van de bijna 500.000 TikTok-volgers van Breakthrough News zijn zich er bijvoorbeeld van bewust dat het een van de zes sociale media-accounts is die verbonden zijn met een Amerikaanse miljardair, Neville Roy Singham, wiens vermeende belangenbehartiging van zowel het Kremlin als Peking nauwgezet werd behartigd? gedetailleerd beschreven in diepgaande analyses gepubliceerd door de New York Times en de Daily Beast .

Het is niet alleen een TikTok-specifiek probleem: het YouTube-kanaal van Russell Brand bereikt 6,8 miljoen abonnees met zijn veelbetekenende ‘stel maar vragen, man’, waarbij informatie wordt samengevoegd met valse beweringen die kijkers met een groeiend vermoeden achterlaten dat het tegelijkertijd onmogelijk is om het zeker te weten. maar dat er ook een vage waarheid bestaat dat ‘zij’ zich voor jou verbergen. (Ja, bijna zeven miljoen mensen beschouwen Russell Brand op onverklaarbare wijze als een goede bron van geopolitieke analyses.)

Deze trends zijn op zichzelf al destructief genoeg, maar zoals Peter Pomerantsev beschrijft in zijn boek This Is Not Propaganda uit 2019 , is de derde pijl gericht op het hart van de democratie dat autoritaire regimes beide actief uitbuiten en voortstuwen in een alomtegenwoordige informatieoorlog. Het gaat vaak om manipulatie langs de fijne lijn van dingen die vaag plausibel klinken, maar dat niet zijn, zoals de recente door het Kremlin gepushte desinformatie waarin wordt beweerd dat Franse ‘huurlingen’ in Oekraïne zijn vermoord. Vorige week identificeerde de Franse digitale contraspionagedienst, Viginum, een enorm Russisch propagandanetwerk genaamd Portal Kombat, dat zich specifiek op West-Europa richtte.

Voor statelijke actoren als Rusland, China en Iran gaat het bij deze operaties niet zozeer om het overtuigen van het westerse publiek om iets in het bijzonder te geloven, maar om het ontmantelen van het vertrouwen in alles.

“Als je de waarheid verzwakt en valse gelijkwaardigheid creëert, verzwakt je op de lange termijn het vermogen van burgers om onderscheid te maken tussen wat echt is en wat niet, en wordt democratie door het ontwerp onmogelijk”, zegt Colon. Met als eindresultaat natuurlijk dat in deze leegte van algemeen verlies van vertrouwen, ongeloof en niet weten wie ze kunnen vertrouwen, steeds meer mensen zich tot de sterke hand van het autoritarisme zouden wenden.

So hier zijn we dan, geconfronteerd met een wereld van gigantische complexiteit, cognitief getraind voor on-demand directheid, van wie wordt verwacht dat we over alles een mening hebben en delen, en opgesplitst in informatiesilo’s omdat het filter – op een moment dat het het meest nodig is – kan niet meer effectief functioneren. Oudere media zijn verre van perfect, maar wanneer oudere platforms iets verkeerd doen, komen ze met intrekkingen. Verwacht iemand hetzelfde van Russell Brand?

We zijn nog niet eens midden in dit AI duistere bos; wat moeten we doen?

De autoritaire staten hebben een oplossing: strenge controle over geïsoleerde internetruimtes. Maar voor liberale democratieën zou het Chinese model neerkomen op “het vernietigen van het dorp om het dorp te redden”. En bovendien is het westerse publiek te gevoelig voor censuur; elke aanpak die afhankelijk is van controle zal waarschijnlijk averechts werken.

Hoe zit het met het volledig verlaten van sociale media? Frustratie over X (voorheen bekend als Twitter) zorgde ervoor dat ik maanden geleden moest vertrekken, maar toen ik dit aan David Colon vertelde, pauzeerde hij even, keek me recht aan en zei: “Dat had je niet moeten doen.” Op het vlak van de persoonlijke levenskwaliteit kan ik niet zeggen dat ik spijt heb van de beslissing, maar misschien was het een egoïstische beslissing. Het punt van Colon was dat ik door te vertrekken een bredere sociale verantwoordelijkheid had opgegeven om desinformatie niet te laten winnen.

Sommige mensen, zoals Elica Le Bon, een in Groot-Brittannië geboren, in de VS opgeleide Iraanse advocaat, hebben zelfs de tegenovergestelde beslissing genomen. Je zou ze kunnen beschouwen als ‘tegenbeïnvloeders’, omdat ze een grotere aanwezigheid op de sociale media hebben ontwikkeld die zich toeleggen op het tegengaan van door de staat gesteunde desinformatiecampagnes. In het geval van Le Bon bestrijdt ze wat zij beschrijft als een meedogenloze stortvloed van desinformatie en propaganda over het Midden-Oosten, die op verschillende manieren uit Iran komt .

Toen ik haar vroeg of ze gebruik kon maken van haar eigen ervaring met het bestrijden van specifieke desinformatie om brede manieren te vinden om mensen ertegen te inenten, kwam ze op een reden waarom de institutionele media achterblijven. Voor velen maakt de ‘gezichtsloosheid’ het feitelijk minder betrouwbaar. ‘Zie je,’ zei ze via de videochat, ‘het feit dat ik je gezicht nu kan zien en weet wie je bent, voegt geloofwaardigheid toe aan wat je zegt.’

Colon concentreerde zich ook op het versterken van het vertrouwen in nieuwsmedia als oplossing, waarbij hij specifiek het Journalism Trust Initiative ter sprake bracht , dat, net als organische etikettering, nieuwsorganisaties zou identificeren die zich aan een reeks journalistieke praktijken houden. Dat kan nuttig zijn voor degenen die willen vertrouwen, en niet zeker weten wie ze moeten vertrouwen – maar hoe zit het met degenen wier algemene scepticisme al te diep zit?

Ik moet toegeven dat transparantie en etikettering onvoldoende lijken gezien de problemen waarmee we nu al te maken hebben en wat er nog gaat komen. Om de Italiaanse denker Antonio Gramsci te parafraseren: er zijn veel redenen om toe te geven aan het pessimisme van het intellect . Om dat niet te doen, zullen we een enorme inspanning nodig hebben om het optimisme van de wil te cultiveren.