Facebook gaat ‘Deepfakes’ en andere misleidende video’s te verbieden
Indignatie redactie
3 min. lezen
Facebook heeft in een maandag- blogbericht aangekondigd dat deepfakes – computer gegenereerde imitaties van mensen – niet langer worden toegestaan op het platform, samen met beeldmateriaal dat anders is bewerkt op manieren die voor de gemiddelde persoon niet duidelijk zijn.
Manipulaties kunnen worden gemaakt met behulp van eenvoudige technologie zoals Photoshop of met geavanceerde tools die kunstmatige intelligentie of “deep learning” -technieken gebruiken om video’s te maken die de werkelijkheid vervormen – meestal “deepfakes” genoemd. Hoewel deze video’s nog steeds zeldzaam zijn op internet, bieden ze een aanzienlijke uitdaging voor onze industrie en maatschappij naarmate hun gebruik toeneemt . -Facebook
“Er zijn mensen die zich bezighouden met mediamanipulatie om te misleiden”, schrijft VP van wereldwijd beleidsbeheer, Monika Bickert.
In de toekomst verwijdert het bedrijf ‘misleidende en gemanipuleerde media’ als het aan de volgende criteria voldoet :- Het is bewerkt of gesynthetiseerd – afgezien van aanpassingen voor duidelijkheid of kwaliteit – op manieren die voor een doorsnee persoon niet duidelijk zijn en waarschijnlijk iemand zou misleiden door te denken dat een onderwerp van de video woorden zei die hij eigenlijk niet zei. En:
- Het is het product van kunstmatige intelligentie of machinaal leren dat inhoud samenvoegt, vervangt of boven op een video plaatst, waardoor deze authentiek lijkt.
Het bedrijf zegt dat het beleid niet van toepassing is op parodie of satire, of een video die is “bewerkt om alleen de volgorde van woorden weg te laten of te wijzigen.”
Maar het beleid – voor het eerst gemeld door The Washington Post en eind maandag bevestigd door Facebook – verbiedt niet alle gefilmde video’s. De nieuwe richtlijnen van de techgigant lijken geen betrekking te hebben op een bedrieglijk bewerkte clip van House Speaker Nancy Pelosi die vorig jaar viraal ging op het sociale netwerk , wat aanleiding gaf tot kritiek van democratische leiders en digitale experts.
“Hoewel deze video’s nog steeds zeldzaam zijn op internet, vormen ze een belangrijke uitdaging voor onze industrie en de maatschappij naarmate hun gebruik toeneemt,” schreef Monika Bickert, vice-president van het bedrijf voor wereldwijd beleidsbeheer, in een blogpost . – Washington Post.
Volgens de BBC heeft Facebook afgelopen september aangekondigd dat het $ 10 miljoen zou toewijzen om de technologie voor het detecteren van deepfake te verbeteren.
Mark Zuckerberg, chief executive van Facebook, heeft zelf te zien in een deepfake-video. De clip bevatte een computer-gegenereerde versie van Zuckerberg die een geheime organisatie crediteerde voor het succes van het sociale netwerk.
William Tunstall-Pedoe, een computerwetenschapper die zijn AI-bedrijf aan Amazon verkocht, vertelde BBC News dat Facebook de eer verdiende om te proberen het “moeilijke gebied” aan te pakken.
” Het feit dat de video nep is en bedoeld is als misleidend, is het belangrijkste voor mij “, zei hij. “Of geavanceerde AI-technieken worden gebruikt of minder geavanceerde technieken is niet relevant.”
Andere bedrijven zoals Google en Microsoft proberen ook deepfakes te bestrijden. – BBC
Facebook zal volgens het rapport samenwerken met de academische wereld, de overheid en bedrijven om deepfakes te bestrijden.
