Meta’s AI-drive zou sociale media kunnen doden

Meta, het bedrijf achter Facebook en Instagram, heeft plannen onthuld om miljoenen door AI gegenereerde “gebruikers” op zijn platforms te implementeren. Tegen eind 2025 zou dit initiatief Facebook en Instagram kunnen transformeren in iets dat meer lijkt op Character.AI dan op traditionele sociale netwerken. Meta-baas Mark Zuckerberg lijkt de overtuiging van Friend-oprichter Avi Schiffmann te volgen dat AI-chatbots de toekomst van online interactie vertegenwoordigen , en de twee zouden wel eens gelijk kunnen hebben.

AI – Diensten zoals Replika , Character.AI en Friend hebben de populariteit van AI companions al aangetoond, ondanks dat sommige gebruikers hun zorgen uitten over de groeiende botintegratie op sociale media. Tot voor kort konden gebruikers met opmerkelijk succes met fictieve personages interacteren. De toekomst van het internet zou wel eens kunnen verschuiven naar expliciete tekstgebaseerde rollenspellen, in plaats van het meer impliciete begrip van vandaag dat iedereen een vorm van online persona aanneemt.

Als Meta een aanpak hanteert die vergelijkbaar is met die van andere chatbotsites, zouden sociale media kunnen evolueren van een plek voor menselijke verbinding naar een door AI aangestuurde fandomruimte.

Natuurlijk brengt deze transformatie verschillende belangrijke risico’s met zich mee. Ten eerste is er de voor de hand liggende bedreiging voor het bedrijfsleven: AI-profielen zouden kunnen mislukken, net als de Metaverse . Als er geen toekomst is voor cartoonversies van onszelf die interacteren in virtual reality, is er misschien weinig hoop voor door AI gegenereerde Facebook-vrienden en Instagram-influencers.

Een zorgwekkender risico is de angst dat door AI gegenereerde interacties menselijke communicatie zouden kunnen overschaduwen, waardoor een internet zou ontstaan ​​dat wordt gedomineerd door fictie. Dat gezegd hebbende, zou een meer opzettelijke benadering van fictie de voorkeur kunnen hebben boven de huidige debatten over ‘post-truth’ en ‘desinformatie’ – stel je een wereld voor waarin we omgaan met nepcontent, wetende dat het nep is!

Er zijn ook overwegingen met betrekking tot geestelijke gezondheid. Onderzoek , hoewel beperkt, toont aan dat kwetsbare bevolkingsgroepen vatbaarder worden voor aandoeningen zoals erotomanie door online interacties, en dit strekt zich uit tot chatbots. Sommige gebruikers zijn gewoon niet in staat om onderscheid te maken tussen chatbots, oplichters en echte mensen. Er zijn ook verschillende tragische gevallen geweest waarin minderjarigen met psychische aandoeningen zelfmoord pleegden na langdurige relaties met AI-metgezellen.

Terwijl rechtbanken nog steeds de mate van de rol van de chatbots bij deze sterfgevallen bepalen, zijn de langetermijneffecten van AI-afhankelijkheid op zowel kinderen als volwassenen het onderzoeken waard.

Een mogelijke reactie op AI-verzadiging is een renaissance voor mensgerichte media. Traditionele — en, cruciaal, gatekept — mediakanalen zoals de New York Times zouden een hernieuwde populariteit kunnen ervaren in vergelijking met de troep die anders onze feeds domineert. Platformen zoals Substack, die gecureerde, achter een betaalmuur geplaatste omgevingen bieden, zouden een “Etsy voor woorden” kunnen worden in een wereld van massaal geproduceerde content en relaties. Dit zou zelfs websites als OnlyFans ten goede kunnen komen, op voorwaarde dat ze hun focus op menselijke makers behouden — hoewel het twijfelachtig is of de seksindustrie ongeschonden uit de AI-hausse zal komen.

Het is niet alleen de mediaruimte die worstelt met de implicaties van AI. Denk aan het concept van ” reality privilege “, geïntroduceerd door durfkapitalist Marc Andreessen. Zoals Andreessen het beschrijft, verwijst “reality privilege” naar een samenleving die verdeeld is tussen mensen die in stimulerende, echte omgevingen leven en anderen die meer voldoening online vinden. Deze scheiding werd vorig jaar bijzonder duidelijk, toen Jonathan Haidts poging om sociale media voor tieners te beperken bredere populariteit kreeg.

Dat klinkt als een geweldig idee, totdat je denkt aan iemand die in Nowhere, Ohio woont, wiens belangrijkste verbinding met de echte wereld via sociale media loopt. Een dergelijke tweedeling riskeert sociale ongelijkheden te verdiepen, waardoor een wereld ontstaat waarin de bevoorrechten toegang behouden tot fysieke ervaringen, terwijl anderen achterblijven met het internet.

Terwijl sociale media in hun huidige vorm traditionele noties van authenticiteit al hebben uitgedaagd — gebruikers aanmoedigen om hun leven te cureren en uit te voeren — zouden door AI gegenereerde “gebruikers” dit naar een nieuw uiterste kunnen brengen, met hele gemeenschappen die zijn opgebouwd rond bewust fictieve persona’s. Het labelen van deze persona’s als AI — en dus expliciet fictief — zou in sommige opzichten eerlijker kunnen zijn. Maar waar we minder op voorbereid zijn, is een wereld waarin een substantieel aantal mensen bewust fictie boven realiteit verkiest.

Facebook is van plan om platform te overspoelen met door AI aangestuurde gebruikers

“We verwachten dat deze AI’s op den duur daadwerkelijk op onze platforms zullen bestaan, op ongeveer dezelfde manier als accounts.”

Botnet

Had je gehoopt dat bots op social media tot het verleden zouden behoren? Nou, houd je adem maar in.

Meta zegt dat het Facebook wil vullen met door AI gegenereerde personages om de betrokkenheid op zijn platform te vergroten, als onderdeel van zijn bredere uitrol van AI-producten, zo meldt de Financial Times . De AI-personages worden door gebruikers gemaakt via Meta’s AI-studio, met als idee dat je met ze kunt interacteren alsof je met een echte mens op de website zou communiceren.

“We verwachten dat deze AI’s op den duur daadwerkelijk op onze platforms zullen bestaan, op ongeveer dezelfde manier als accounts”, vertelde Connor Hayes, vice-president van Meta voor generatieve AI, aan de FT .

“Ze krijgen biografieën en profielfoto’s en kunnen op het platform content genereren en delen die wordt aangestuurd door AI… dat is waar we dit allemaal naartoe zien gaan”, voegde hij toe.

Karakterontwikkeling

De AI-personages zijn geen nieuwe feature. Meta investeert al lang in AI en heeft het afgelopen jaar allerlei generatieve AI-technologieën in zijn bestaande producten gestopt. Dat omvatte de release van zijn AI Studio in de zomer, die al snel een broeinest werd van virtuele vriendjes en vriendinnetjes .

De service beschikt al over honderdduizenden AI-personages, aldus Hayes. Maar als we Meta moeten geloven, is dit nog maar het begin. De toegang tot de AI Studio wordt uitgebreid naar meer landen buiten de VS, en een “prioriteit” voor het bedrijf in de komende twee jaar zal zijn om interacties met AI socialer te maken, aldus de FT .

Naast fictieve personages, stelt de AI Studio Facebook- en Instagram-influencers ook in staat om AI-versies van zichzelf te maken waarmee hun volgers kunnen praten. In de afgelopen maanden hebben andere platforms AI-functies uitgebracht die gericht zijn op content creators, zoals de AI-videogeneratietool van SnapChat .

Wij zijn ook gebruikers

Het loslaten van deze AI-personages in het wild brengt enorme veiligheidsrisico’s met zich mee. Futurism heeft uitgebreid beschreven hoe vergelijkbare chatbots op het platform Character.AI regelmatig hun vangrails doorbraken en minderjarige tienergebruikers blootstelden aan grotesk ongepaste content.

Er is ook een enorm risico op misinformatie. De stortvloed aan AI-rommel op Facebook illustreert al dat de moeilijkheden om verzinsels van de werkelijkheid aan te pakken niet iets zijn dat onderschat moet worden.

“Zonder robuuste beveiliging lopen platforms het risico dat ze valse verhalen verspreiden via deze AI-gestuurde accounts”, vertelde Becky Owen, Chief Marketing Officer bij talentenbureau Billion Dollar Boy en voormalig hoofd van het Creator Innovations Team van Meta, aan de FT .

En in plaats van dat het de makers helpt, zou het juist averechts kunnen werken, betoogde Owen, omdat de AI’s van lage kwaliteit hun vakmanschap zouden kunnen ondermijnen.

“In tegenstelling tot menselijke makers hebben deze AI-persona’s geen eigen ervaringen, emoties of het vermogen om zich ergens mee te identificeren”, voegde ze toe.