## Deepfakes: Van nepvideo tot celstraf, een groeiende dreiging voor identiteit en vertrouwen Een NU.nl-redacteur werd slachtoffer van een deepfakevideo die honderdduizenden keren werd bekeken, terwijl elders in Amsterdam een man veroordeeld werd voor het openen van tientallen bankrekeningen met behulp van deepfake-identiteitsbewijzen.

Deze recente gebeurtenissen illustreren de toenemende realiteit van deepfake-technologie en de serieuze gevolgen die deze kan hebben, zowel voor individuen als voor de maatschappij. De incidenten werpen een schaduw over de integriteit van online video’s en de veiligheid van digitale identiteiten. De deepfakevideo van NU.nl-redacteur Donna Gijsman verspreidde zich razendsnel via TikTok. De video, waarin Gijsman ogenschijnlijk onzin sprak en angst zaaide, werd uiteindelijk 300.000 keer bekeken voordat TikTok ingreep en de video verwijderde. Hoewel de video snel werd verwijderd, had deze in de tussentijd al een aanzienlijk publiek bereikt en de reputatie van de redacteur en die van NU.nl mogelijk geschaad. Het incident onderstreept de uitdagingen waarmee socialmediaplatforms worden geconfronteerd bij het detecteren en verwijderen van deepfakes, ondanks de bestaande regels tegen dergelijke misbruiken. Parallel aan dit incident werd in de Amsterdamse rechtbank een man veroordeeld tot een celstraf van dertig maanden, waarvan zes maanden voorwaardelijk, voor deepfakefraude. De man gebruikte deepfakes om identiteitsbewijzen te vervalsen en opende vervolgens tientallen bankrekeningen. Deze fraudeurs profiteren van de steeds geavanceerdere technologie om identiteiten te imiteren en financiële transacties uit te voeren, wat leidt tot aanzienlijke financiële schade en een ondermijning van het vertrouwen in banken en financiële instellingen. De rechtbank oordeelde dat de misdaad een ernstige inbreuk is op de financiële veiligheid en dat de straf een afschrikkende werking moet hebben. De opkomst van deepfakes is een direct gevolg van de vooruitgang in kunstmatige intelligentie (AI). De technologie, die in de afgelopen jaren exponentieel is verbeterd, maakt het steeds gemakkelijker om levensechte video's en audio-opnamen te creëren die er authentiek uitzien, maar in werkelijkheid vervalst zijn. Dit maakt het mogelijk om personen te laten zeggen of doen wat ze nooit hebben gezegd of gedaan, met potentieel verwoestende gevolgen. De initiële toepassingen van deepfake-technologie waren vaak te vinden in de entertainmentindustrie, waar ze werden gebruikt voor humoristische doeleinden of om klassieke acteurs terug te laten keren op het scherm. Echter, de technologie is inmiddels ook in handen van kwaadwillenden gekomen, die deze inzetten voor malafide doeleinden, zoals desinformatiecampagnes, identiteitsfraude en reputatieschade. De juridische en ethische implicaties van deepfakes zijn complex en nog in ontwikkeling. De huidige wetgeving is vaak niet toereikend om de misbruik van deepfakes effectief te bestrijden. De moeilijkheid ligt in het bewijzen van de herkomst van een deepfake en het toewijzen van verantwoordelijkheid aan de maker. Bovendien is het lastig om de verspreiding van deepfakes te stoppen, aangezien deze zich razendsnel online kunnen verspreiden. De recente incidenten met de NU.nl-redacteur en de frauduleuze bankrekeningen onderstrepen de urgentie van het probleem. Het is essentieel dat techbedrijven, overheden en de maatschappij als geheel samenwerken om de risico's van deepfakes te minimaliseren. Dit omvat het ontwikkelen van technologieën om deepfakes te detecteren, het versterken van de wetgeving en het vergroten van het bewustzijn bij het publiek over de risico's van deepfakes. Ook mediaorganisaties moeten hun processen aanpassen om de authenticiteit van video’s te verifiëren en om snel te reageren op de verspreiding van deepfakes. Het is een race tegen de klok, aangezien de technologie om deepfakes te maken steeds toegankelijker en geavanceerder wordt. De impact van deepfakes reikt verder dan individuele slachtoffers; ze ondermijnen het vertrouwen in de media, de overheid en de digitale wereld in het algemeen. De veroordeling van de deepfake-fraudeur is een belangrijke stap, maar het is slechts een begin. De technologie zal zich blijven ontwikkelen en de methoden van fraudeurs zullen steeds verfijnder worden. Het is cruciaal dat de samenleving zich bewust is van de dreiging van deepfakes en dat er proactieve maatregelen worden genomen om de risico's te beheersen en de integriteit van de digitale ruimte te beschermen. De incidenten laten zien dat de grens tussen realiteit en fictie steeds verder vervaagt, en dat kritisch denken en mediawijsheid belangrijker zijn dan ooit. ## Kernfeiten - Een deepfakevideo van NU.nl-redacteur Donna Gijsman werd 300.000 keer bekeken op TikTok voordat deze werd verwijderd. - Een man is veroordeeld tot een celstraf voor het openen van tientallen bankrekeningen met behulp van deepfake-identiteitsbewijzen. - Deepfake-technologie is gebaseerd op de vooruitgang in kunstmatige intelligentie (AI). - De huidige wetgeving is vaak niet toereikend om de misbruik van deepfakes effectief te bestrijden. - De incidenten onderstrepen de urgentie van het probleem en de noodzaak van samenwerking tussen techbedrijven, overheden en de maatschappij. - Deepfakes ondermijnen het vertrouwen in de media, de overheid en de digitale wereld. - De veroordeling van de fraudeur is een belangrijke stap, maar er is meer nodig om de risico's te beheersen. - De technologie wordt steeds toegankelijker en geavanceerder, waardoor de dreiging groeit. - Mediawijsheid en kritisch denken zijn essentieel om de realiteit van deepfakes te begrijpen. - De incidenten illustreren de complexiteit van de juridische en ethische implicaties van deepfakes. ## Achtergrond De opkomst van deepfakes markeert een nieuw tijdperk van digitale manipulatie en desinformatie. De technologie, oorspronkelijk ontwikkeld voor entertainmentdoeleinden, is nu een krachtig instrument in handen van kwaadwillenden. De combinatie van de toenemende toegankelijkheid van AI-tools en de snelle verspreiding van informatie via social media creëert een potentieel explosieve situatie. De incidenten met de NU.nl-redacteur en de bankfraudeur zijn slechts de top van de ijsberg. De maatschappelijke impact van deepfakes kan verstrekkend zijn, van het ondermijnen van de democratie tot het aantasten van individuele reputaties en financiële veiligheid. De juridische en ethische uitdagingen die deze technologie met zich meebrengt, vereisen een proactieve en gecoördineerde aanpak om de risico's te beheersen en de integriteit van de digitale ruimte te beschermen. ## Media perspectief NU.nl benadrukt de persoonlijke impact van deepfakes, door de focus te leggen op het slachtoffer, de redacteur Donna Gijsman. Dit benadrukt de menselijke kant van de technologische dreiging en de potentiele schade voor individuen. De berichtgeving legt ook de nadruk op de uitdagingen waarmee social media platforms worstelen bij het handhaven van hun beleid tegen deepfakes. De focus op de veroordeling van de fraudeur laat zien dat er wel juridische consequenties kunnen zijn voor de misbruik van deepfake technologie, maar benadrukt tegelijkertijd de complexiteit van de bestrijding ervan.