Welkom in het tijdperk van paranoia, waarin deepfakes en oplichting alomtegenwoordig zijn

Fraude op basis van AI deepfake zorgt ervoor dat mensen elke online interactie verifiëren.

deepfake Wanneer Nicole Yelland tegenwoordig een vergaderverzoek ontvangt van iemand die ze nog niet kent, voert ze een meerstappen- achtergrondcontrole uit voordat ze besluit of ze het accepteert. Yelland, die in de public relations werkt voor een non-profitorganisatie in Detroit, zegt dat ze de gegevens van de persoon zal doornemen via Spokeo, een aggregator voor persoonlijke gegevens waarvoor ze maandelijks een abonnement betaalt.

Als de contactpersoon beweert Spaans te spreken, zegt Yelland, zal ze terloops testen of diegene lastigere zinnen begrijpt en kan vertalen. Als er iets niet helemaal klopt, vraagt ​​ze de persoon om deel te nemen aan een Microsoft Teams-gesprek – met de camera aan.

Als Yelland paranoïde klinkt, dan is dat ook zo. In januari, voordat ze haar huidige baan bij een non-profitorganisatie begon, raakte ze betrokken bij een uitgebreide oplichtingspraktijk gericht op werkzoekenden, vertelt Yelland. “Nu doe ik de hele verificatieprocedure elke keer dat iemand contact met me opneemt”, vertelt ze aan WIRED.

Digitale oplichtingspraktijken zijn niet nieuw; berichtenplatforms , socialemediasites en datingapps wemelen al lang van nepnieuwigheden. In een tijd waarin werken op afstand en verspreide teams alledaags zijn geworden, zijn professionele communicatiekanalen ook niet langer veilig. Dezelfde kunstmatige-intelligentietools waarvan techbedrijven beloven dat ze de productiviteit van werknemers verhogen, maken het voor criminelen en fraudeurs ook gemakkelijker om binnen enkele seconden neppersona’s te creëren.

Op LinkedIn kan het lastig zijn om een ​​licht bewerkte portretfoto van een echt persoon te onderscheiden van een te gepolijste, door AI gegenereerde kopie. Deepfake-video’s worden zo goed dat e-mailoplichters die al lang actief zijn, zich tijdens live videogesprekken voordoen als mensen . Volgens de Amerikaanse Federal Trade Commission zijn de meldingen van oplichting met betrekking tot banen en werk tussen 2020 en 2024 bijna verdrievoudigd, en zijn de daadwerkelijke verliezen door deze oplichting gestegen van $ 90 miljoen naar $ 500 miljoen.

Yelland zegt dat de oplichters die haar in januari benaderden, zich voordeden als een echt bedrijf, een bedrijf met een legitiem product. De “hiring manager” met wie ze via e-mail correspondeerde, leek ook betrouwbaar en deelde zelfs een diapresentatie met de verantwoordelijkheden van de functie die ze adverteerden.

Maar tijdens het eerste videogesprek, zegt Yelland, weigerden de oplichters hun camera’s aan te zetten tijdens een Microsoft Teams-vergadering en vroegen ze op ongewone wijze om gedetailleerde persoonlijke informatie, waaronder haar rijbewijsnummer. Toen ze besefte dat ze was opgelicht, klapte Yelland haar laptop dicht.

Dit soort praktijken zijn zo wijdverspreid dat er AI-startups zijn ontstaan ​​die beloven andere AI-gebaseerde deepfakes te detecteren, waaronder GetReal Labs en Reality Defender . OpenAI CEO Sam Altman runt ook een identiteitsverificatie-startup genaamd Tools for Humanity, die oogscanapparaten maakt die de biometrische gegevens van een persoon vastleggen, een unieke identificatie voor diens identiteit creëren en die informatie op de blockchain opslaan.

Het hele idee erachter is om “persoonlijkheid” te bewijzen, oftewel dat iemand een echt mens is. (Veel mensen die met blockchaintechnologie werken, zeggen dat blockchain dé oplossing is voor identiteitsverificatie.)

Maar sommige professionals in het bedrijfsleven grijpen terug op ouderwetse social engineeringtechnieken om elke verdachte interactie te verifiëren. Welkom in het tijdperk van paranoia, waarin iemand je kan vragen om een ​​e-mail te sturen terwijl je midden in een telefoongesprek zit, je in je Instagram-dm’s kan glippen om te controleren of het LinkedIn-bericht dat je hebt gestuurd wel echt van jou afkomstig is, of je kan vragen om een ​​selfie te sturen met een tijdstempel, om te bewijzen dat je bent wie je beweert te zijn.

Sommige collega’s zeggen zelfs dat ze codewoorden met elkaar delen, zodat ze er zeker van kunnen zijn dat ze niet misleid worden als een ontmoeting niet helemaal klopt.

“Het grappige is dat de lo-fi-aanpak werkt”, zegt Daniel Goldman, een blockchain-softwareontwikkelaar en voormalig startup-oprichter. Goldman zegt dat hij zijn eigen gedrag begon te veranderen nadat hij hoorde dat een prominent figuur in de cryptowereld overtuigend was ge-deepfakt tijdens een videogesprek. “Ik was er doodsbang voor”, zegt hij. Na afloop waarschuwde hij zijn familie en vrienden dat, zelfs als ze horen wat ze denken dat zijn stem is of hem tijdens een videogesprek om iets concreets zien vragen – zoals geld of een internetwachtwoord – ze eerst moesten ophangen en hem een ​​e-mail moesten sturen voordat ze iets deden.

Ken Schumacher, oprichter van de wervingsverificatiedienst Ropes, zegt dat hij heeft gewerkt met hiring managers die sollicitanten razendsnel vragen stellen over de stad waar ze op hun cv zeggen te wonen, zoals hun favoriete koffietentjes en uitgaansgelegenheden. Als de sollicitant daadwerkelijk in die regio woont, zegt Schumacher, zou hij of zij snel en met accurate details moeten kunnen reageren.

Een andere verificatietactiek die sommige mensen gebruiken, zegt Schumacher, is wat hij de “telefooncameratruc” noemt. Als iemand vermoedt dat de persoon met wie hij of zij videochat, oneerlijk is, kan hij of zij hem of haar vragen de camera van de telefoon omhoog te houden om de laptop te laten zien. Het idee is om te verifiëren of de persoon deepfake-technologie op zijn of haar computer gebruikt, waardoor de ware identiteit of omgeving van de persoon verborgen blijft.

Maar we kunnen gerust stellen dat deze aanpak ook afschrikwekkend kan zijn: eerlijke sollicitanten aarzelen misschien om de binnenkant van hun huis of kantoor te laten zien, of maken zich zorgen dat een recruiter details over hun privéleven probeert te achterhalen.

“Iedereen is nu gespannen en wantrouwend tegenover elkaar”, zegt Schumacher.

Hoewel jezelf veranderen in een menselijke captcha een behoorlijk effectieve aanpak kan zijn voor operationele beveiliging, geven zelfs de meest paranoïde mensen toe dat deze controles een sfeer van wantrouwen creëren voordat twee partijen überhaupt de kans hebben gehad om echt contact te maken. Ze kunnen ook enorm veel tijd kosten. “Ik heb het gevoel dat er iets moet gebeuren”, zegt Yelland. “Ik verspil zoveel tijd op mijn werk door alleen maar te proberen te achterhalen of mensen echt zijn.”

Jessica Eise, universitair docent klimaatverandering en sociaal gedrag aan de Indiana University Bloomington, zegt dat haar onderzoeksteam in feite experts in digitale forensica is geworden vanwege het aantal fraudeurs dat reageert op advertenties voor betaalde virtuele enquêtes. (Oplichters zijn niet zo geïnteresseerd in de onbetaalde enquêtes, wat niet verwonderlijk is.) Voor een van haar onderzoeksprojecten, dat federaal wordt gefinancierd, moeten alle onlinedeelnemers 18 jaar of ouder zijn en in de VS wonen.

“Mijn team controleerde de tijdstempels van de deelnemers die e-mails beantwoordden, en als de timing verdacht was, konden we raden dat ze zich in een andere tijdzone bevonden”, zegt Eise. “Vervolgens zochten we naar andere aanwijzingen die we herkenden, zoals bepaalde e-mailadresformaten of onsamenhangende demografische gegevens.”

Eise zegt dat de hoeveelheid tijd die haar team besteedde aan het screenen van mensen “exorbitant” was en dat ze nu de omvang van het cohort voor elke studie hebben verkleind en zijn overgestapt op “sneeuwbalsteekproeven”, oftewel het rekruteren van mensen die ze persoonlijk kennen om deel te nemen aan hun studies. De onderzoekers delen ook meer fysieke flyers uit om deelnemers persoonlijk te werven. “We hechten er veel waarde aan om ervoor te zorgen dat onze data integer zijn, dat we bestuderen wie we zeggen dat we proberen te bestuderen”, zegt ze. “Ik denk niet dat er een eenvoudige oplossing voor is.”

Tenzij er een wijdverbreide technische oplossing is, kan een beetje gezond verstand een groot verschil maken bij het opsporen van kwaadwillenden. Yelland deelde de slides met me die ze had ontvangen als onderdeel van de neppe sollicitatie.

Op het eerste gezicht leek het legitiem, maar toen ze er nog eens naar keek, vielen een paar details op. De baan beloofde aanzienlijk meer te betalen dan het gemiddelde salaris voor een vergelijkbare functie op haar locatie en bood onbeperkte vakantiedagen, ruim betaald ouderschapsverlof en volledig gedekte zorgverzekeringen. In de huidige werksfeer was dat misschien wel de grootste aanwijzing dat het oplichterij was.

Dit verhaal verscheen oorspronkelijk op wired.com .