Zal Facebook deze Deepfake van een Power-Hungry Zuckerberg verwijderen?



Een video van Facebook-oprichter Mark Zuckerberg die zijn macht uitspreekt over 'miljoenen gestolen gegevens van mensen' terwijl de miljardair stoïcijns gebaart op camera tienduizenden views verzamelt op Instagram. Het probleem? De video wordt volledig gegenereerd door kunstmatige intelligentie – en de echte Zuckerberg had niets te maken met de video of de woorden die het bevatte.

Deepfake-video's die op sociale media circuleren, zijn niets nieuws – de beroemdste was een recente nep van House Speaker Nancy Pelosi die op Facebook furore maakte. Maar een video met de Facebook-gigant zelf laat gebruikers zich afvragen of het bedrijf op sociale media zich zal houden aan eerdere uitspraken over het achterlaten van de door valse A.I.-gegenereerde video's.

Tot nu toe is de video – gemarkeerd door #deepfake als je de hele lijst met hashtags leest – vier dagen live op het platform gebleven, zonder te worden verwijderd door het bedrijf dat de video baseert. Reposts van de video worden zelfs nog steeds weergegeven in hashtag-zoekopdrachten.

In eerdere uitspraken hebben zowel Instagram als Facebook het standpunt van nepvideo's verlaagd, maar niet verwijderd. Facebook, bijvoorbeeld, zal valse video's lager in de nieuwsfeed verlagen, terwijl Instagram dergelijke video's van de hashtag-pagina's en het verkenningsgedeelte laat. Instagram test een functie die links toevoegt naar hulpmiddelen voor feitcontrole, een functie die Facebook al heeft. Beide gebruiken controlefouten van derden om vast te stellen welke inhoud kwalificeert als nepnieuws. Tot dusverre heeft Facebook die houding niet gewijzigd om zijn eigen oprichter ten goede te komen en de video blijft intact.

"We zullen deze inhoud op dezelfde manier behandelen als alle misinformatie op Instagram", vertelde een vertegenwoordiger van Instagram aan Digital Trends. "Als fact-checkers van derden het als false markeren, filteren we het op Instagram's aanbevolen oppervlakten zoals Explore- en hashtag-pagina's."

De video is gemaakt met behulp van CannyAI-software en eerdere beelden van Zuckerberg, vastgelegd in 2017 en oorspronkelijk over verkiezingsinterferentie. Het project, samengesteld door Bill Posters en Daniel Howe, is gemaakt met reclamebedrijf Canny als een stunt om te pronken met de CannyAI-software en de potentiële toekomst van kunstmatige video.

De software gebruikt A.I. algoritmen om de mondbewegingen van een spreker te manipuleren door het bestuderen van beelden van een bestaande video. Het resultaat is een video die anders is dan het origineel, waarbij de uitdrukking van de luidspreker lijkt op die van de stem. Zoals de video aantoont, imiteert de software echter niet de stem van de spreker, waardoor kijkers die bekend zijn met Zuckerberg's speeches weten dat de video niet legitiem is.

Hoewel Facebook de deepfake tot nu toe intact heeft gelaten, dient de video ook als een herinnering dat video's, zoals foto's, gemakkelijk kunnen worden gemanipuleerd en gemaskeerd als het echte werk.

Bijgewerkt op 12 juni 2019: officiële verklaring van Instagram toegevoegd.