OpenAI Scarlett Johansson kan niet ontsnappen aan technologische uitbuiting

OpenAI die haar stem grijpt is slechts het nieuwste schandaal dat een regelgevend antwoord vereist

Minder dan een week nadat OpenAI een demo van zijn GPT-4o liet zien met een stem die zo opvallend veel leek op die van Scarlett Johansson dat Sam Altman zelfs zo ver ging om “ haar ” te tweeten – een verwijzing naar de Spike Jonze-film uit 2013 van de dezelfde naam – we kwamen erachter dat het helemaal geen toeval was. Volgens een verklaring van Johansson probeerde Altman al in september vorig jaar de actrice de stem van het product te laten zijn .

Hij was schijnbaar wanhopig om zijn favoriete film werkelijkheid te maken – of op zijn minst een versie ervan die de esthetische vorm bood die Altman nodig had om de fantasie te blijven stimuleren dat zijn grote taalmodellen spoedig bewustzijn zouden ontwikkelen.

her

— Sam Altman (@sama) May 13, 2024

Volgens Johansson heeft Altman haar op het idee gebracht dat het plaatsen van haar stem achter de chatbot “de kloof tussen technologiebedrijven en creatieven zou overbruggen en consumenten zou helpen zich op hun gemak te voelen bij de seismische verschuiving rond mensen en Al.” Waarschijnlijk nog belangrijker voor Altman: het horen van Johansson zou ‘troostend zijn voor mensen’ – of in ieder geval voor de technische broeders die Her proberen te herscheppen . Uiteindelijk sloeg Johansson het aanbod af. Maar Altman was nog niet klaar.

Twee dagen voordat OpenAI’s Spring Update zich op GPT-4o concentreerde, nam hij opnieuw contact op met de agent van Johansson en vroeg haar om er nog eens over na te denken. Maar hij wachtte niet eens op een antwoord. Het bedrijf ging door met de demo, wat aanleiding gaf tot vragen aan OpenAI over hoezeer het op Johansson leek, grappen op Saturday Night Live die ernaar verwezen, en zelfs de goede vrienden van de actrice stuurden haar een bericht met de vraag of ze erbij betrokken was. OpenAI heeft nu de ‘Sky’-stem overgenomen die Johansson imiteert, maar het hele debacle brengt een aantal belangrijke kwesties naar voren.

De donkere kant van het internet

Als we OpenAI even opzij zetten, is het moeilijk te negeren hoe vaak Johansson verstrikt raakt in deze cycli van technologische exploitatie en uiteindelijk het gezicht moet worden van campagnes ertegen. In 2021 klaagde ze Disney aan toen het besloot Black Widow op Disney+ te zetten op dezelfde dag dat het in de bioscoop zou verschijnen zonder haar te raadplegen. Een deel van de beloning van Johansson was gekoppeld aan de box office-prestaties, dus ze kon op geloofwaardige wijze beweren dat ze als gevolg van de beslissing minder betaald zou krijgen, maar het speelde ook een rol bij grotere zorgen in de branche.

WarnerMedia had zijn films voor 2021 ook naar streaming gestuurd, zonder eerst de moeite te nemen om met de acteurs en regisseurs te praten die bij de projecten betrokken waren. Die beslissingen vergrootten de groeiende ontevredenheid in Hollywood over het streamingmodel en de beslissingen die door grote studio’s werden genomen.

Johansson schikte uiteindelijk , maar haar beslissing om een ​​rechtszaak aan te spannen werd gezien als een belangrijke stap in een groeiende strijd tussen talent en studio’s – ongeacht haar A-lijststatus. Die strijd kwam vorig jaar tot een hoogtepunt toen acteurs en schrijvers maandenlang in staking gingen en een betere deal eisten . Maar Johansson was misschien wel klaar voor die juridische strijd vanwege de langere strijd die ze moest voeren tegen digitale uitbuiting.

Toen expliciete, door AI gegenereerde foto’s van Taylor Swift eerder dit jaar via Twitter/X verspreid werden , werden veel meer mensen zich bewust van het groeiende probleem van niet-consensuele deepfake of door AI gegenereerde seksuele afbeeldingen die door generatieve AI-tools veel gemakkelijker te maken zijn geworden . Maar het probleem begon niet met generatieve AI. In 2018 sprak Johansson over deepfakes nadat nepvideo’s die haar gezicht in expliciete seksscènes plaatsten, zich online begonnen te verspreiden en miljoenen views opleverden. Haar verklaring was vernietigend en noemde het internet ‘een enorm wormgat van duisternis dat zichzelf opeet’.

“Feit is dat proberen jezelf te beschermen tegen het internet en de verdorvenheid ervan voor het grootste deel in feite een verloren zaak is”, schreef ze destijds. “Als iemand over meer middelen beschikt, kan hij uiteraard verschillende krachten inzetten om een ​​grotere muur rond zijn digitale identiteit te bouwen.

Maar niets kan iemand ervan weerhouden mijn afbeelding of die van iemand anders op een ander lichaam te knippen en plakken en het er zo griezelig realistisch uit te laten zien als gewenst. Ondanks alle voordelen die een online verbinding met zich meebrengt, heeft het internet nog steeds een donkere onderbuik die vaak wordt geminimaliseerd door de grootste verdedigers.

Op dat moment was Johansson al goed op de hoogte van de manieren waarop internet kon worden gebruikt om vrouwen gemakkelijker tot slachtoffer te maken, of het nu beroemdheden als zij waren of gewoon gewone mensen. Jaren eerder had ze meegemaakt dat mannen zonder haar toestemming een levensgrote robot van haar gezicht maakten. Haar e-mailaccount werd ook gehackt en naaktfoto’s die daaruit werden genomen, werden later online gepubliceerd. (De hacker kreeg uiteindelijk tien jaar gevangenisstraf.)

Nu de generatieve AI-boom een ​​vlucht heeft genomen, heeft ze er opnieuw mee te maken, nadat ze Lisa AI al had aangeklaagd omdat ze haar gelijkenis gebruikte om het product te promoten. Nu wordt ze gedwongen haar aandacht op OpenAI te richten.

Tijd voor actie

Sinds generatieve AI-tools in november 2022 van start gingen, spelen bedrijven als OpenAI snel en losjes met de regels die het gebruik van auteursrechtelijk beschermde werken en de persoonlijke gegevens van mensen regelen.

We hebben talloze voorbeelden gezien van AI-beeldgeneratoren die beelden produceerden die opmerkelijk veel lijken op grote franchisefilms of de grafische stijlen van specifieke artiesten, en stemacteurs hebben gemeld dat hun stemmen zijn gekaapt door AI-stemgeneratoren. Vorige week werd een voorgestelde collectieve actie gelanceerd tegen een AI-bedrijf genaamd LOVO, dat ervan wordt beschuldigd precies dat te doen . Johansson behoort opnieuw tot degenen wier stemmen zijn gestolen.