De toekomst

Deep fake

Deep fake dossier Mediawijsheid.nl

Deep fake is een verzamelnaam voor software waarmee je nepvideo’s kunt maken die bijna niet van echt te onderscheiden zijn. Met deze software kun je iemand dingen laten zeggen of doen die hij of zij in werkelijkheid nooit gezegd of gedaan heeft.

Deep fake kan het in de toekomst steeds moeilijker maken om te zien of een video echt of nep is. Wat is een deep fake precies en hoe herken je het? En wat zijn de mogelijke gevolgen voor onze samenleving?

Wat zijn deep fakes?

De naam deep fake is een combinatie van de woorden deep learning en fake (nep). Deep learning is een techniek die valt onder kunstmatige intelligentie. Het zorgt ervoor dat computers nieuwe dingen kunnen leren op basis van grote hoeveelheden data. Het maakt dan niet uit of die data bestaan uit getallen, tekst, geluid of beeld.

Deep fake-software zet dus kunstmatige intelligentie in om nepvideo’s te maken die echt lijken. Dit soort software was vroeger alleen te vinden in dure filmstudio’s in Hollywood, maar is nu steeds vaker gratis te downloaden en te gebruiken.

Hoe worden deep fake-filmpjes gemaakt?
Stel dat iemand een deep fake-video van Mark Rutte wil maken. In dat geval gaat de software video’s waarop Rutte te zien is beeld voor beeld analyseren. Zo leert de software wat de omvang en vorm is van Rutte’s gezicht, hoe de verhoudingen van zijn neus en mond zijn en hoe zijn gezicht beweegt als hij praat.

Zo ontstaat een datamodel van een pratende premier. Dit model kan vervolgens worden toegepast in een nepvideo waarin Rutte bijvoorbeeld zou kunnen zeggen dat de Friezen begonnen zijn om de provincie Groningen binnen te vallen. Dat terwijl hij dit nooit echt heeft gezegd.

Een goed voorbeeld van een overtuigende deep fake-video werd gemaakt door de Amerikaanse nieuwssite Buzzfeed en comedian Jordan Peele. Samen produceerde zij een deep fake-video waarin voormalig president Barack Obama de wereld toespreekt over de gevaren van nepnieuws en dingen die echt lijken, maar het niet zijn.

» Lees ook het dossier over kunstmatige intelligentie

Waarvoor kan deep fake worden ingezet?

Voorlopig zijn er geen bekende voorbeelden van deep fakes die voor grote verwarring zorgden. De toepassing beperkt zich voorlopig tot experimenten van journalisten, media en universiteiten. De ontwikkeling van deep fake-software kan echter snel gaan. De kwaliteit zal steeds beter worden en de kosten om het te maken steeds lager.

Het maken van een deep fake is ook nog niet heel makkelijk. De Volkskrant deed een poging en beschrijft in dit artikel hoe deep fake-software werkt en wat de beperkingen zijn.

De meest voor de hand liggende toepassing van deep fake ligt in nepnieuws. Nepnieuws draait om het verspreiden van misleidende informatie. Daar lenen deep fake-video’s zich natuurlijk goed voor. Misbruik van de technologie kan voor verwarring en onrust zorgen.

Ook zijn er meer onschuldige toepassingen. Zo kan de technologie ingezet worden in de productie van films om (een overleden) acteur een rol in een film te geven. Filmfans gingen al aan de slag met de technologie door acteur Nicolas Cage allemaal rollen te geven in films waar hij nooit in speelde. Dat deep fake ook gebruikt kan worden voor een goed doel, blijkt ook uit een filmpje waarin David Beckham aandacht vraagt voor de ziekte malaria. Dankzij de technologie deelt hij zijn boodschap in wel negen talen.

Deep fake wordt momenteel vooral ingezet voor het maken van nepvideo’s, maar met vergelijkbare software kan ook geluid bewerkt worden. In 2018 liet Adobe (het bedrijf achter Photoshop) een demo zien waarin ze laten uitleggen hoe ze stemgeluid makkelijk kunnen bewerken (knippen en plakken) en inzetten om ‘fake audio’ te produceren.

» Bekijk het dossier Nepnieuws

Wat zijn de risico’s van deep fake?

De technologie roept veel vragen op over de gevaren voor de journalistiek en de democratie. Hoe weet je nog wat echt of nep is?

Het grootste risico is dat we niet meer kunnen vertrouwen op feiten. En dat leidt tot ongeloofwaardigheid van media, politici en de democratie.

Deep fake kan bekende mensen, van acteurs tot wereldleiders, allerlei uitspraken in de mond leggen die ze nooit hebben gedaan. Beeldvorming, gebeurtenissen en gesprekken kunnen worden beïnvloed en tot grote verwarring over de waarheid leiden. Voorbeelden hiervan zie je terug in de aflevering van Tegenlicht over Deep Fake.

‘Zien is geloven’ is niet meer vanzelfsprekend. Nieuwsmedia, zoals het NOS journaal of NU.nl, maken in hun verslaggeving veel gebruik van video’s. Als live-beelden of reportages overtuigend kunnen worden bewerkt met deep fake, kan de betrouwbaarheid van de journalistiek daar onder lijden.

Deep fakes, en nepnieuws, zorgen ervoor dat je mensen kunt overtuigen van iets dat nooit heeft plaatsgevonden of iemand nooit heeft gezegd. In het ergste geval zorgt het ervoor dat alles nep zou kunnen zijn.

Media, politiek en democratie zijn in Nederland gebaseerd op hun geloofwaardigheid. Daarom is het belangrijk om te weten hoe je deep fake en nepnieuws kunt herkennen.

Wat kan er worden gedaan tegen misbruik van deep fake?

In Nederland is er nog geen officiële wetgeving over de verantwoordelijkheid of aansprakelijkheid bij het maken of delen van deep fakes.

Sinds eind 2018 is er wel een kabinetsplan om nepnieuws te bestrijden. De overheid gaat de verspreiding van nepnieuws in Nederland onderzoeken en wil de weerbaarheid van burgers vergroten met een bewustwordingscampagne.

De technologie die wordt gebruikt voor het maken van deep fake-video’s, kan ook helpen bij de bestrijding ervan. Door het herkennen van patronen kunnen algoritmes signalen zien die verklappen dat een video nep is. Voorbeelden van dat soort signalen zijn ogen die niet knipperen, het schaduwpatroon van het gezicht en de vervaging van beeldkwaliteit bij armgebaren.

In Nederland werkt Theo Gevers, computerwetenschapper aan de Universiteit van Amsterdam, aan een plug-in voor browsers. Deze moet gebruikers erop wijzen wanneer een video een deep fake is. Het werk van Theo Gevers komt ook aan bod in de aflevering van Tegenlicht over Deep Fake.

Ook platformen als Facebook en Google werken aan oplossingen voor het herkennen van deep fakes.

Dit kun je zelf doen om deep fake-video’s te herkennen

Een kritische blik is voor nu het beste hulpmiddel om deep fakes te herkennen.

1. Let op visuele aanwijzingen
Door jezelf vragen te stellen kun je aanwijzingen in het beeld herkennen die kunnen wijzen op een deep fake:

  • Maakt de mond onnatuurlijke bewegingen?
  • Beweegt de mond in lijn met de rest van de gezichtsuitdrukking?
  • Knippert de spreker niet met zijn ogen?
  • Zitten er ‘vervaagde’ pixels in het beeld?
  • Wat kun je nog meer zien van het lichaam van de spreker en klopt dat met de bewegingen die het hoofd maakt?

Maak het jezelf makkelijker door de video vertraagd af te spelen, dan vallen eventuele eigenaardigheden nog meer op.

» In het dossier Beeldgeletterdheid vind je meer tips om kritisch en bewust naar beelden te kijken

2. Let op de bron van de video
Wie is de afzender van de video? Is het een bekende nieuwsbron zoals de BBC of de NOS of is de afzender onbekend? Een onbekende afzender kan een eerste aanwijzing voor onbetrouwbaarheid zijn.

Is de afzender wel zichtbaar, maar ken je zelf de naam niet? Probeer dan meer te weten te komen over de afzender. Is er een website met informatie over de redactie en contactgegevens? Heeft de afzender een geverifieerd account op sociale media? Verzamel zoveel mogelijk bewijsstukken over de (on)betrouwbaarheid van de bron.

» Kijk voor meer tips over het vinden van betrouwbare informatie in het dossier Informatievaardigheden

3. Waar staat de video nog meer?
Is de video te vinden op meerdere plekken of alleen op de website waar je de video tegenkwam? Zoek via DuckDuckGo, Google en YouTube naar de video en bekijk hoe de video daar wordt gepresenteerd.

Of zoek op het onderwerp: als er een nieuwswaardig onderwerp in de video centraal staat (bijvoorbeeld een pikante uitspraak van een politicus) dan zullen andere media dit nieuws ook brengen. Probeer het onderwerp van de video te bevestigen via meerdere bronnen.

» Met de tips en tools in het dossier Nepnieuws kun je aan de slag met het herkennen van nepnieuws

Meer weten?

Wil je meer informatie over beeldgeletterdheid, dan helpen deze organisaties je op weg:

Begrijpend lezen en rekenen met het nieuws van de dag

Organiseert debatten en evenementen over actuele onderwerpen

Helpt docenten nieuwsmedia in hun lesprogramma te verwerken

Verbetert de veiligheid van sociale media als bron

Probeert zoveel mogelijk mensen immuun maken voor misleiding en polarisatie door desinformatie