Gehackte Muah.ai ‘AI Girlfriend’-gegevens tonen prompts die seksueel misbruik van kinderen beschrijven

Een gehackte database van de AI-begeleidende site Muah.ai legt de specifieke kinks en fantasieën bloot van mensen die ze hun bot hebben gevraagd om mee te doen. Het laat ook zien dat velen van hen proberen het platform te gebruiken om kindermisbruikmateriaal te genereren.

Muah.ai ‘AI Girlfriend’ Een hacker heeft een website waarmee gebruikers hun eigen ‘ongecensureerde’ AI-aangedreven sekspartners kunnen creëren en een enorme database met interacties van gebruikers met hun chatbots gestolen.

De gegevens, afkomstig van een site genaamd Muah.ai en bekeken door 404 Media, bevatten chatbot-prompts die de seksuele fantasieën van gebruikers onthullen. In veel gevallen proberen gebruikers chatbots te maken die scenario’s van seksueel misbruik van kinderen naspelen. Deze prompts zijn op hun beurt gekoppeld aan e-mailadressen, waarvan er veel persoonlijke accounts lijken te zijn met de echte namen van gebruikers.

“Ik ging naar de site om te rukken (in een *volwassen* scenario, om het duidelijk te maken) en zag dat het eruit zag alsof het [de Muah.ai website] behoorlijk slecht in elkaar zat,” vertelde de hacker aan 404 Media. “Het is in feite een handvol open-source projecten die met ducttape aan elkaar zijn geplakt. Ik begon rond te snuffelen en vond relatief snel wat kwetsbaarheden. In het begin was het vooral nieuwsgierigheid, maar ik besloot contact met je op te nemen toen ik zag wat er in de database stond.”

De beheerder van Muah.ai, die de naam Harvard Han gebruikte, vertelde 404 Media in een e-mail dat “de datalek werd gefinancierd door onze concurrenten in de ongecensureerde AI-industrie die winstgedreven zijn, terwijl Muah AI een doelwit wordt omdat het een communitygedreven project is.” De beheerders van de site ontdekten vorige week dat de site was gehackt. Han gaf 404 Media geen bewijs voor hun claim en de hacker zei dat ze wel in de tech-industrie werken, maar niet op het gebied van AI.

“We hebben een team van moderators dat ALLE chatbots met betrekking tot kinderen op onze kaartengalerij, Discord, Reddit, enz. opschort en verwijdert”, voegde Han toe, waarbij “kaartengalerij” verwijst naar een lijst op de Muah.ai-website van de botcreaties van de community.  

Sommige data bevatten expliciete verwijzingen naar minderjarigen, waaronder seksueel misbruik van peuters en incest met jonge kinderen. Zo hebben we bijvoorbeeld een prompt bekeken die incestueuze orgieën met “pasgeboren baby’s” en “jonge kinderen” beschreef. Het is niet helemaal duidelijk of het AI-systeem een ​​antwoord gaf dat weerspiegelde wat de gebruiker zocht, maar de data laat nog steeds zien waarvoor mensen het platform proberen te gebruiken.

Het hacken zelf is ook een significante datalek voor degenen die Muah.ai gebruikten, aangezien ze misschien niet willen dat hun expliciete seksuele fantasieën worden gekoppeld aan hun identificeerbare e-mailadres. In de data verwijst “char” naar het gegenereerde AI-personage en “user” naar de persoon die ermee communiceert. De karakteropbouwende prompts omvatten fantasieën over seksueel gedomineerd worden en gebruikt worden als een “seksslaaf”, gemarteld worden door een sadistische worstelaar en consensuele fantasieën zonder toestemming. 

404 Media nam contact op met tientallen mensen die in de data zijn opgenomen, waaronder gebruikers die prompts schreven waarin seks met minderjarige kinderen werd besproken. Geen van deze mensen reageerde op een verzoek om commentaar.

Muah.ai is een van de vele AI-relatiebots, waarbij gebruikers betalen voor de mogelijkheid om AI-metgezellen van hun keuze te creëren en ermee te communiceren. Sommige populaire AI-metgezelplatforms die worden gesteund door durfkapitaal, zoals Character.AI , hebben een strikt beleid dat seksuele content verbiedt, terwijl andere, zoals Blush, het toestaan. Er zijn ook grote communities, zoals Chub.ai , waar gebruikers hun eigen chatbots creëren en delen en waar veel mensen deelnemen aan erotische rollenspellen. 

Muah.ai profileert zichzelf als een “ongecensureerd” platform voor het bouwen van AI-chatbots, dat expliciet seksuele gesprekken en foto’s toestaat. Tegelijkertijd beweert het volgens een bericht op de site dat het minderjarige content verbiedt. Op de Discord van het platform vertelde een Muah.ai-beheerder twee gebruikers dat een bepaald personage “minderjarig was, post die shit niet op deze Discord.” Maar ze vertelden het paar om “elkaar een DM te sturen of zoiets.” 

Op Muah.ai loggen gebruikers in, kiezen uit een selectie van vooraf gemaakte bots, andere die door de community zijn gemaakt, of maken hun eigen. Deze AI companions sturen vervolgens seksueel suggestieve of expliciete berichten, evenals door AI gegenereerde afbeeldingen.

Muah.ai ontdekte vorige week dat het was gehackt en plaatste een bericht naar zijn Discord-waarschuwingsgebruikers. “We zijn het doelwit geworden van hackers die blijkbaar niets anders te doen hebben dan een community-gedreven project te hacken dat tot doel heeft om ongecensureerde/gratis Al voor iedereen te bieden. Ze verspillen hun talent aan het neerhalen van kleine bedrijven in plaats van zichzelf te verbeteren ten behoeve van de maatschappij”, stond in dat bericht. Het voegde eraan toe dat “uw chatberichten nooit worden bewaard, alles wordt gewist bij het resetten van de chat”, maar de database bevat duidelijk nog steeds veel informatie die specifieke gebruikers koppelt aan specifieke seksuele interesses.

In een welkomstmail bij het aanmelden voor de Muah.ai-service staat: “Alles binnen Muah AI is gecodeerd en privé, alleen tussen jou en je metgezel.”