Meta bedenkt nieuwe manier om gebruikers te vernederen met feed van chats van mensen met AI

Ik was vorige week ziek, dus ik had geen tijd om te schrijven over het tabblad ‘Discover’ in de AI-app van Meta, die, zoals Katie Notopoulos van Business Insider al zei, “de meest trieste plek op internet” is. Er zijn al veel goede artikelen over geschreven, en toch kan ik het bestaan ​​ervan niet onopgemerkt laten. 

Als je dit hebt gemist terwijl miljoenen mensen op straat aan het protesteren waren, politici werden vermoord, er een oorlog uitbrak tussen Israël en Iran, het leger was ingezet in Los Angeles en een door Coinbase gesponsorde militaire parade langs tientallen voorbijgangers trok in Washington D.C., dan zie je hieronder wat het tabblad ‘Discover’ inhoudt: De Meta AI-app, de concurrent van het bedrijf voor de ChatGPT-app, plaatst de gesprekken van gebruikers op een openbare ‘Discover’-pagina waar iedereen kan zien wat gebruikers de chatbot van Meta voor hen laten doen. 

Dit omvat diverse onschuldige afbeeldingen en video’s die op alle Meta-platforms volledig onontkoombaar zijn geworden (dingen zoals “ei met één oog van zwart en goud”, “schattige Maltezer wordt een heldhaftige badmeester”, “één seconde voordat God in je geest stapt”), maar het omvat ook complete chatbotgesprekken waarin gebruikers schijnbaar onbewust een mix van gênante, persoonlijke en gevoelige details over hun leven lekken naar een openbaar platform van Mark Zuckerberg. In bijna alle gevallen kon ik deze chats triviaal koppelen aan echte, echte mensen, omdat de app je Instagram- of Facebook-account als inloggegevens gebruikt.

In een paar minuten tijd heb ik vorige week een reeks van deze chats opgeslagen in een Slack-kanaal dat ik heb aangemaakt en ‘insanemetaAI’ heb genoemd. Deze chats omvatten:

• hele gesprekken over ‘mijn huidige medische toestand’, die ik met één klik kon herleiden tot een echt mens
• details over iemands levensverzekeringsplan 
• “Op een bepaald moment in de tijd dat je cerebrale parese hebt, begin je dan het gebruik van je benen te verliezen? Want zo voelt het, en daar maak ik me zorgen over.” 
• details over een mislukte relatie nadat een vrouw een cadeau niet leuk vond 
• Een oudere, gehandicapte man die zich afvroeg of hij met zijn salaris een jonge vrouw in Medellin, Colombia, kon vinden en “betalen”. (“Ik ben in een levensfase waarin ik een jonge vrouw wil vinden die voor me zorgt en voor me kookt. Ik wil gewoon ontspannen. Ik ben gehandicapt en heb een rolstoel nodig, ik heb ernstig overgewicht en lijd aan fibromyalgie en astma. Ik ben 1,75 meter lang en weeg 127 kilo, maar ik denk dat een goede jonge vrouw die me gezelschap houdt me kan helpen om af te vallen.”)
• In welke districten vallen jongere vrouwen op oudere blanke mannen? Ik heb details nodig. Ik ben 66 en single. Ik kom uit Iowa en sta open voor een verhuizing naar een nieuw land als ik een jongere vrouw kan vinden.
• “Mijn vriend zegt dat ik niet zo gevoelig moet zijn. Heeft dat invloed op zijn feminisme?”

Rachel Tobac, CEO van Social Proof Security, verzamelde een reeks chats die ze op het platform zag en stuurde ze naar mij. Deze chats zijn nog gekker en bevatten vragen als: “Welke crème of zalf kan ik gebruiken om een ​​vervelende littekenreactie op mijn balzak, veroorzaakt door een scheermes, te verzachten?”, “

Maak een brief waarin je rechter Bowser smeekt om mij niet ter dood te veroordelen voor de moord op twee mensen” (mogelijk een grap?), iemand die vraagt ​​of zijn zus, een vicepresident bij een bedrijf dat “al 12 jaar geen vennootschapsbelasting heeft betaald”, daarvoor aansprakelijk zou kunnen zijn, audio van iemand die vertelt dat hij dakloos is, en iemand die om hulp vraagt ​​bij zijn kankerdiagnose, iemand die vertelt dat hij onlangs seksueel geïnteresseerd is in transgenders, enzovoort. 

Tobac gaf me een lijst met de dingen die mensen in de Discover-feed hebben geplaatst, waaronder de exacte medische problemen van mensen, gesprekken over misdaden die ze hebben gepleegd, hun huisadressen, gesprekken met de bot over buitenechtelijke affaires, etc.

“Als een gereedschap niet werkt zoals iemand verwacht, kan dat grote gevolgen hebben voor de persoonlijke veiligheid”, vertelde Tobac mij. 

“Meta AI zou de openbare Discover-feed moeten pauzeren”, voegde ze eraan toe. “Hun gebruikers begrijpen duidelijk niet dat de prompts van hun AI-chatbot over hun moord, kankerdiagnose, persoonlijke gezondheidsproblemen, enz. openbaar zijn gemaakt. [Meta had] ervoor moeten zorgen dat alle prompts van AI-chatbots standaard privé zijn, zonder de mogelijkheid om ze per ongeluk te delen op een socialemediafeed.

Wacht niet tot gebruikers hun geheimen per ongeluk openbaar maken. Houd er rekening mee dat mensen met AI-chatbots omgaan met de verwachting van privacy, en spreek ze aan waar ze zijn. Waarschuw gebruikers die hun prompts openbaar hebben gemaakt en dat hun prompts voor hen uit de feed zijn verwijderd om hun privacy te beschermen.”

Sinds verschillende journalisten over dit probleem schreven, heeft Meta gebruikers duidelijker gemaakt wanneer interacties met de bot worden gedeeld met het tabblad ‘Ontdekken’. Notopoulos meldde maandag dat Meta geen tekstchats meer leek te delen met het tabblad ‘Ontdekken’. Toen ik maandagmiddag naar prompts zocht, ging het overgrote deel over afbeeldingen.

Maar dinsdagochtend waren de tekstprompts er weer, waaronder een volledig audiogesprek van een vrouw die de bot vroeg wat de verjaringstermijn is voor een vrouw om aangifte te doen van huiselijk geweld in de staat Indiana. Dit gesprek had twee minuten voordat het aan mij werd getoond plaatsgevonden.

Ik kreeg ook zes opeenvolgende tekstprompts te zien van mensen die vragen stelden over de filmfranchise John Wick, een chat over “het verkennen van historische inconsistenties rond de Holocaust” en iemand die om advies vroeg over “anesthesie voor verloskundige ingrepen”.

Dinsdagochtend had ik ook een lang gesprek waarin een bekende persoon uitlegde dat hij of zij depressief is: “Het is gewoon het leven dat me dagelijks op alle mogelijke manieren treft.” De persoon plaatste vervolgens een reactie op het bericht: “Is dit ergens geplaatst omdat ik er zo van zou schrikken? Oei?”

Verschillende chats die ik in dit artikel zag en noemde, zijn nu privé, maar de meeste niet. Ik kan me weinig dingen op internet voorstellen die meer opdringerig zouden zijn dan dit, maar alleen als ik mijn best doe. Dit is alsof Google je zoekgeschiedenis openbaar publiceert, of willekeurig een aantal van je verzonden e-mails in een feed plaatst om anderen te inspireren met wat voor e-mails zij ook zouden kunnen versturen.

Het is alsof Pornhub je zoekopdrachten of kijkgeschiedenis omzet in een openbare feed die triviaal gekoppeld kan worden aan je identiteit. Fout of niet, feature of niet (en het is niet duidelijk wat dit precies is), het is bizar dat Meta dit heeft gedaan; ik kan het nog steeds niet geloven. 

In een industrie vol oplichters en bedrijven die er alles aan doen om het internet slechter te maken, is het moeilijk om een ​​impactvollere, slechtere speler te bedenken dan Meta, wiens platforms volledig overspoeld zijn met virale AI-rommel , door AI aangestuurde desinformatie , AI-zwendel , AI-nudify -apps en AI-influencers en wiens impact buitensporig is omdat miljarden mensen nog steeds zijn producten gebruiken als hun belangrijkste toegangspunt tot het internet.

Meta heeft in wezen nul interesse getoond in het modereren van AI-rommel en spam en, zoals we al vaak hebben gemeld, financiert het het letterlijk, ziet het het als cruciaal voor zijn bedrijfsmodel en gelooft het dat we in de toekomst allemaal AI-vrienden op zijn platforms zullen hebben.

Tijdens het rapporteren over het bedrijf was het moeilijk voor te stellen wat de bodem zal zijn, omdat Meta bizarre en voorheen onvoorstelbare manieren blijft bedenken om het vertrouwen in sociale media te vernietigen, de privacy van mensen te schenden en in het algemeen zijn platforms en het internet in het algemeen te verpesten. 

Als ik mezelf tot het uiterste inspan, kan ik wel begrijpen waarom Meta deze functie heeft gelanceerd en wat hun bedoeling ermee is. Mensen krijgen een leeg tekstvak met de tekst “Vraag Meta AI” te zien, maar weten niet wat ze ermee moeten doen, wat ze moeten typen of wat ze in bredere zin met AI moeten doen. Meta probeert dat gedrag dus na te bootsen en is bereid om de persoonlijke gedachten van zijn gebruikers daarvoor te verkopen. “Meta zal de zielige chats van mensen met robots naar het hele internet lekken” stond niet op mijn bingokaart voor 2025, maar dat had ik duidelijk wel moeten doen.