AI Uw sociale media-dieet wordt steeds gemakkelijker te exploiteren

Plausibele AI-onzin zal niet snel stoppen met het overspoelen van uw feed.

AI – Het is raar en vaak een beetje eng om nu in de journalistiek te werken. Desinformatie en desinformatie kunnen niet meer te onderscheiden zijn van de online realiteit, omdat de groeiende weefsels van genetwerkte onzin zijn versteend tot ‘ op maat gemaakte realiteiten ’ die met feitelijke informatie concurreren om uw aandacht en vertrouwen. Door AI gegenereerde inhoudsmolens doen zich met succes voor als echte nieuwssites . En bij sommige van die echte nieuwsorganisaties (bijvoorbeeld mijn voormalige werkgever ) is er een uitputtende trend geweest van interne onrust, verlies van vertrouwen in leiderschap en golven van ontslagen.

De effecten van deze veranderingen worden nu zichtbaar. Het onderzoeksinitiatief Pew-Knight heeft woensdag een nieuw rapport uitgebracht over hoe Amerikanen hun nieuws online krijgen. Het is een interessante momentopname, niet alleen van waar mensen nieuws zien – op TikTok, Instagram, Facebook of X – maar ook van wie ze vertrouwen om het hen te bezorgen.

TikTok-gebruikers die zeggen dat ze regelmatig nieuws op het platform consumeren, krijgen daar net zo vaak nieuws van influencers als van mediakanalen of individuele journalisten. Maar de kans is nog groter dat ze nieuws op TikTok krijgen van ‘andere mensen die ze niet persoonlijk kennen’.

En hoewel de meeste gebruikers op alle vier de platforms zeggen dat ze regelmatig een of andere vorm van nieuwsgerelateerde inhoud zien, logt slechts een klein deel van hen daadwerkelijk in op sociale media om deze te consumeren. X, voorheen Twitter, is nu het enige platform waarop een meerderheid van de gebruikers zegt dat ze hun feeds controleren op nieuws, hetzij als belangrijke (25 procent) of kleine (40 procent) reden om het te gebruiken. Daarentegen zegt slechts 15 procent van de TikTok-gebruikers dat nieuws een belangrijke reden is dat ze door hun Voor Jou-pagina scrollen.

Het Pew-onderzoek viel weg terwijl ik aan het puzzelen was hoe ik een grotere vraag moest beantwoorden: hoe gaat generatieve AI de media veranderen? En ik denk dat de nieuwe gegevens benadrukken hoe ingewikkeld het antwoord is.

Er zijn tal van manieren waarop generatieve AI de journalistiek en het grotere informatie-ecosysteem al verandert. Maar AI is slechts een onderdeel van een onderling verbonden reeks prikkels en krachten die een nieuwe vorm geven aan de manier waarop mensen informatie verkrijgen en wat ze ermee doen. Sommige problemen met de journalistiek als sector op dit moment zijn min of meer eigen doelen die door geen enkele zorgen over AI of piekeren over abonnementsnummers kunnen worden opgelost.

Hier zijn echter enkele dingen waar u op moet letten:

AI kan slechte informatie legitiemer laten klinken 

Het is moeilijk om een ​​eindeloze stroom van informatie en commentaar op feiten te controleren, en geruchten verspreiden zich doorgaans veel sneller dan verificatie, vooral tijdens een zich snel ontwikkelende crisis . Mensen wenden zich op die momenten tot het internet voor informatie, voor begrip en voor aanwijzingen over hoe ze kunnen helpen. En die hectische, geladen zoektocht naar de nieuwste updates is lange tijd gemakkelijk te manipuleren geweest voor slechte acteurs die weten hoe ze het moeten doen. Generatieve AI kan dat nog eenvoudiger maken.

Tools als ChatGPT kunnen de stem van een nieuwsartikel nabootsen, en de technologie heeft een geschiedenis van het “hallucineren” van citaten naar artikelen en referentiemateriaal dat niet bestaat. Nu kunnen mensen een door AI aangedreven chatbot gebruiken om slechte informatie in wezen te verbergen in alle attributen van geverifieerde informatie.

“Waar we nog niet klaar voor zijn, is het feit dat er in feite machines bestaan ​​die plausibel klinkende tekst kunnen creëren die geen relatie heeft met de waarheid”, zegt Julia Angwin, de oprichter van Proof News en al jarenlang data- en technologiejournalist. vertelde onlangs aan Journalists Resource .

“Voor een beroep dat woorden schrijft die feitelijk bedoeld zijn, concurreer je plotseling op de markt – in wezen de markt van informatie – met al deze woorden die plausibel klinken, er plausibel uitzien en geen verband houden met nauwkeurigheid. merkte ze op.

Een stroom plausibel klinkende teksten heeft ook implicaties buiten de journalistiek. Zelfs voor mensen die redelijk goed kunnen bepalen of een e-mail of een artikel betrouwbaar is of niet, kan door AI gegenereerde tekst onzinradars in de war sturen. Phishing-e-mails en naslagwerken – om nog maar te zwijgen van fotografie en video – houden mensen al voor de gek met door AI gegenereerd schrijven.

AI begrijpt geen grappen

Het duurde niet lang voordat de AI-overzichtstool van Google , die geautomatiseerde antwoorden op zoekopdrachten direct op de resultatenpagina genereert, een aantal behoorlijk twijfelachtige resultaten begon te genereren.

Bekend is dat het AI-overzicht van Google zoekers vertelde dat ze een beetje lijm op pizza moesten smeren om de kaas beter te laten plakken, gebaseerd op een grapje op Reddit . Anderen vonden overzichtsantwoorden waarin zoekers werden geïnstrueerd hun knipperlichtvloeistof te verversen, verwijzend naar een grap die populair is op auto-onderhoudsforums (knipperlicht bestaat niet). Een ander overzichtsantwoord moedigde het eten van stenen aan, blijkbaar vanwege een Onion-artikel . Deze fouten zijn grappig, maar AI Overview trapt niet alleen in het maken van grapjes op Reddit-posts.

In het antwoord van Google op de overzichtsproblemen werd gesteld dat het onvermogen van de tool om satire uit serieuze antwoorden te ontleden gedeeltelijk te wijten is aan ‘dataleemten’. Dat is wanneer er over een specifieke zoekterm of vraag niet veel serieuze of geïnformeerde inhoud online wordt geschreven, wat betekent dat de topresultaten voor een gerelateerde zoekopdracht waarschijnlijk minder betrouwbaar zullen zijn. (Ik ben bekend met het ontbreken van gegevens door het schrijven over desinformatie over gezondheid, waarbij slechte resultaten een reëel probleem zijn.)

Eén oplossing voor het ontbreken van gegevens is dat er betrouwbaardere inhoud over het betreffende onderwerp beschikbaar komt, gemaakt en geverifieerd door experts, verslaggevers, en andere mensen en organisaties die geïnformeerde en feitelijke informatie kunnen verstrekken. Maar nu Google steeds meer aandacht richt op interne resultaten, in plaats van op externe bronnen, schrapt het bedrijf ook enkele prikkels voor mensen om die inhoud überhaupt te maken.

Waarom zou een niet-journalist zich zorgen maken?

Ik maak me hier zorgen over, omdat ik een verslaggever ben die al jaren verslag doet van informatiebewapening online. Dit betekent twee dingen: ik weet veel over de verspreiding en gevolgen van desinformatie en geruchten, en ik verdien de kost met journalistiek en zou dat heel graag willen blijven doen. Dus je zou natuurlijk kunnen zeggen: het kan me schelen. AI komt misschien voor mijn werk!

Ik sta een beetje sceptisch tegenover het idee dat generatieve AI, een tool die geen origineel onderzoek doet en niet echt een goede manier heeft om de informatie die het naar boven brengt te verifiëren, een praktijk kan vervangen die op zijn best is. beste, een methode voor het verzamelen van informatie die berust op het doen van origineel werk en het verifiëren van de resultaten. Als ze op de juiste manier worden gebruikt en dat gebruik aan de lezers wordt bekendgemaakt, denk ik niet dat deze hulpmiddelen nutteloos zijn voor onderzoekers en verslaggevers. In de juiste handen is generatieve AI slechts een hulpmiddel.

Wat generatieve AI kan doen, in de handen van slechte acteurs en een falanx van oplichters – of wanneer het wordt ingezet om de winst te maximaliseren zonder rekening te houden met de informatievervuiling die het veroorzaakt – is je feed vullen met junky en onnauwkeurige inhoud die klinkt als nieuws, maar dat niet is. . Hoewel door AI gegenereerde onzin een bedreiging kan vormen voor de media-industrie, zijn journalisten zoals ik daar niet het doelwit van. Jij bent het.