Generatieve AI, een belangrijke speler in een samenleving van desinformatie?

Recente ontwikkelingen op het gebied van AI  generatieve kunstmatige intelligentie (deze hulpmiddelen die het mogelijk maken om volledig automatisch tekst, geluid, afbeeldingen of video’s te produceren) doen de vrees rijzen voor een heropleving van valse informatie. Deze angst wordt nog verergerd door het feit dat er de komende maanden veel verkiezingen zullen plaatsvinden, te beginnen met de Europese verkiezingen. Wat is het werkelijk?

Generatieve AI, een vals probleem?

Er moet nu al worden opgemerkt dat, hoewel het idee dat generatieve AI een bron van gevaar is in termen van desinformatie wijdverbreid is, het tegenovergestelde standpunt ook bestaat. Voor onderzoekers Simon, Altay en Mercier verandert de komst van generatieve systemen de situatie dus niet fundamenteel , noch op kwalitatief, noch op kwantitatief niveau.

Ze merken op dat traditionele informatiebronnen blijven domineren (de overgrote meerderheid van de mensen krijgt hun informatie via traditionele media, die een grotere invloedssfeer behouden ). Het publiek dat zijn informatie uit alternatieve media haalt en valse informatie ‘consumeert’, is volgens hen al gevoed met dergelijke bronnen en is niet zozeer op zoek naar precieze informatie als wel naar informatie die hun ideeën bevestigt (gebaseerd op een algemeen wantrouwen jegens politici en de media).

Hun onderzoek is in tegenspraak met de algemene opvatting en ziet AI als een belangrijke bron van gevaar voor de democratie. Het is gebaseerd op enquêtes die effectief het gewicht van de ideologie aantonen in termen van informatieconsumptie (we zijn georiënteerd volgens onze ideologie wanneer we informatie verkrijgen, en een klassieke vooringenomenheid bestaat uit het willen bevestigen wat we geloven, wanneer er verschillende interpretaties van een gebeurtenis zijn mogelijk).

Zeer eenvoudig te gebruiken hulpmiddelen

Het lijkt erop dat het vergroten van de tekstproductiecapaciteit niet het essentiële element is: het is het vermogen om informatie te verspreiden dat een belangrijke rol speelt. Dat geldt ook voor afbeeldingen en video’s, maar generatieve AI lijkt hier nog steeds voor een echte doorbraak te zorgen. 

Het onder de knie krijgen van een tool als Photoshop is lang en complex; Omgekeerd maken AI-tools zoals Dall-e en Midjourney voor afbeeldingen, of Sora voor video, het mogelijk om met slechts een paar trefwoorden realistische inhoud te genereren, en we kennen het gewicht van het beeld in informatie. De mogelijkheid om automatisch nepvideo’s te maken met de stem, en zelfs de beweging van de lippen op een hyperrealistische manier weergegeven , creëert ook een nieuwe stand van zaken, die nog maar een paar maanden geleden niet voorstelbaar was.

Merk ten slotte op dat de door AI gegenereerde documentdetectietools zeer onvolmaakt zijn en dat geen enkele oplossing het momenteel mogelijk maakt om 100% te bepalen of een document van menselijke oorsprong is of niet. Automatische markering (watermerken, code die niet met het blote oog waarneembaar is, maar die aangeeft dat een document door een AI is gegenereerd) zou kunnen helpen, maar er zullen uiteraard altijd groepen zijn die bestanden kunnen produceren zonder markering, naast grote platforms met een storefront (dit zijn processen die nog niet op grote schaal worden geïmplementeerd, maar dat zou wel eens kunnen gebeuren met de evolutie van de wetgeving).

Een gebroken samenleving

Maar daarnaast laat het argument vooral zien dat AI niet het essentiële punt in dit probleem is, maar vooral een menselijk en sociaal vraagstuk. De consumptie van valse informatie wordt vaak ingegeven door gevoelens van verzet tegen gevestigde instituties en sociale organen, die worden gezien als gefaald in hun missie. De Covid-crisis vormde hiervan een recent voorbeeld, met de snelle opkomst van spraakmakende figuren, die zich direct en systematisch verzetten tegen de voorgestelde maatregelen en zeer gesteund werden door hun aanhangers op de sociale media.

Voor veel mensen is de verspreiding en consumptie van desinformatie een manier om autoriteit in twijfel te trekken en zich te verzetten tegen de status quo. Door degenen die soortgelijke opvattingen delen te verzamelen, kan de verspreiding van valse informatie ook dienen om een ​​gevoel van verbondenheid en solidariteit te creëren binnen groepen die zich tegen de heersende macht verzetten. 

In deze context wordt desinformatie een instrument voor het opbouwen van gemeenschappen die verenigd zijn door gemeenschappelijke waarden of doelen , waardoor hun samenhang en veerkracht worden versterkt in het licht van gevestigde machtsstructuren. Deze dynamiek leidt daarom tot toenemende polarisatie en verdeeldheid binnen de samenleving ; het is zelfs een bijna geclaimd doel van bepaalde overbrengers van valse informatie , die deze niet verbergen.

De verspreiding van desinformatie wordt daarom bevorderd door “breuken in de samenleving” waar sociale, politieke en economische verdeeldheid uitgesproken is ( een fenomeen dat uitgebreid bestudeerd is door Jérôme Fourquet  ; Ipsos houdt ook regelmatig enquêtes over dit thema ).

In deze contexten is de kans groter dat individuen samenzweringstheorieën, geruchten en verkeerde informatie geloven en verspreiden die aansluiten bij hun vooroordelen, angsten of frustraties. Een gefragmenteerde samenleving wordt gekenmerkt door een gebrek aan wederzijds vertrouwen en toenemende polarisatie, waardoor een vruchtbare bodem ontstaat voor de verspreiding van desinformatie. Sociale cohesie en wederzijds vertrouwen spelen een cruciale rol bij het voorkomen van de verspreiding van desinformatie en het handhaven van de democratische gezondheid van een samenleving.

Ten slotte is de menselijke factor belangrijk bij de productie van valse informatie. Automatische ‘bots’ die massaal tekst produceren, hebben vrijwel geen invloed (behalve dat ze de informatie verdrinken in een massa teksten). We onderschatten vaak de menselijke factor, die essentieel blijft om inhoud te produceren die impact zal hebben, zelfs als het gaat om valse informatie. De nog recente ontdekking van effectieve netwerken, maar met behulp van relatief rudimentaire methoden, is hiervan het bewijs.

Geopolitieke kwesties

Het probleem van desinformatie reikt daarom veel verder dan het raamwerk van generatieve AI of zelfs dat van een paar geïsoleerde individuen. Het wordt grotendeels gevoed door machtige organisaties, vaak met quasi-staatsmiddelen, die aanzienlijke middelen inzetten om valse informatie op grote schaal te verspreiden (bijvoorbeeld het Internet Research Agency gevestigd in Sint-Petersburg).

Deze organisaties zetten netwerken op, waaronder websites, een sterke aanwezigheid op sociale netwerken en geautomatiseerde bots, maar er zijn ook echte individuen bij betrokken , al dan niet omgekocht, die verantwoordelijk zijn voor het doorgeven van deze misleidende informatie (we zien daarom dat het netwerk voor de verspreiding van informatie net zo belangrijk is als niet belangrijker dan de productie van de inhoud zelf). Deze desinformatiestrategie heeft tot doel de publieke opinie te beïnvloeden, verwarring te zaaien en democratische processen te manipuleren, waardoor het vertrouwen in instellingen en de geloofwaardigheid van verkiezingen in gevaar komt.

Om dit fenomeen effectief tegen te gaan, is het van cruciaal belang om technische, politieke en sociale maatregelen te nemen om grootschalige georkestreerde desinformatie te identificeren, tegen te gaan en het publieke bewustzijn ervan te vergroten. Vooral online platforms zijn in trek .

De strategie van het verspreiden van vals nieuws streeft een dubbele doelstelling na, die een dubbele valkuil vormt voor gevestigde instellingen. Door onjuiste informatie te verspreiden, vervuilen we niet alleen het publieke debat door verwarring te zaaien en de grenzen van de waarheid te vervagen, maar voeden we ook een algemeen klimaat van wantrouwen tegenover elke vorm van autoriteit en ‘officiële’ informatie. De aanwezige autoriteiten, die al sterk in diskrediet zijn gebracht en worden gezien als een zwakke positie, hebben moeite om effectief te reageren op deze proliferatie van desinformatie. 

De wijdverbreide twijfel over hun vermogen om transparant en onpartijdig te handelen versterkt de indruk dat hun daden gemotiveerd kunnen zijn door verborgen belangen. De bestaande instellingen zitten dus gevangen in een vicieuze cirkel waarin hun geloofwaardigheid voortdurend in twijfel wordt getrokken, waardoor ze des te kwetsbaarder worden voor aanvallen die worden georkestreerd door degenen die proberen de gevestigde orde te destabiliseren.

De uitdaging is daarom om de vrijheid van meningsuiting en de vrijheid van informatie te beschermen, en tegelijkertijd te strijden tegen de verspreiding van valse informatie die het democratisch functioneren kan schaden. Deze grens tussen deze fundamentele principes is vaak moeilijk te trekken, en autoriteiten moeten met deze complexe kwesties omgaan. In sommige gevallen die als flagrant worden beschouwd, zijn maatregelen genomen om pogingen tegen te gaan om de publieke opinie te manipuleren en democratische processen te destabiliseren. Televisiezenders als RT, die ervan verdacht worden onder Russische invloed te staan, zijn gesloten. 

Politieke figuren zijn ondervraagd vanwege vermoedens van corruptie en buitenlandse invloed. Op dezelfde manier worden de sociale media nauwlettend in de gaten gehouden en zijn accounts of netwerken die verband houden met buitenlandse mogendheden gesloten. Deze maatregelen zijn erop gericht de integriteit van democratische processen te beschermen en het vertrouwen van het publiek in instellingen te behouden, terwijl de fundamentele beginselen van vrijheid en pluralisme behouden blijven. Het vinden van het juiste evenwicht tussen bescherming tegen desinformatie en respect voor individuele vrijheden blijft echter een voortdurende uitdaging in democratische samenlevingen.