IE Zomerforum. Deepfakes. De voorbereiding (deel 3)

Tijdens het IE Zomerforum 2024 op donderdag 27 juni zal twee uur worden gedebatteerd over één hoofdvraag:

Welke mate en welke vorm van juridische zeggenschap is wenselijk voor natuurlijke personen en hun nabestaanden ten aanzien van deepfakes van hun persoon?

Vandaag ter voorbereiding op het aankomende IE-Zomerforum: Wat kunnen we leren van het strafrecht?

In Ars Aequi schreef Marthe Goudsmit Samaritter, deelnemer aan het panel tijdens het Zomerforum, deze maand over Deepfake pornografie: neppe foto’s, echte afbeeldingen (Analyse en aanbevelingen over de strafbaarstelling van seksueel misbruik met beeldmateriaal in artikel 139h Sr). We plaatsen hier een fragment met grote relevantie voor de discussie tijdens het Zomerforum. Lees het volledige artikel als abonnee van Ars Aequi hier. [Bekijk ook: ECLI:NL:RBAMS:2023:6923. Lees als abonnee van Mediaforum de noot van Thom Dieben hier.]

Deepfake pornografie als echt beeldmateriaal
4.1 Inleiding
Deepfake beeldmateriaal is gemanipuleerd, en is geen momentopname van de afgebeelde zoals een foto of film dat wel is. Daardoor zou gesuggereerd kunnen worden dat het beeldmateriaal niet ‘echt’ de afgebeelde persoon is. Ik vermoed dat dit een van de belangrijkste redenen is waarom deepfake pornografie wereldwijd niet overal standaard als vorm van seksueel misbruik met beeldmateriaal wordt behandeld. Ik meen echter dat de rechtbank Amsterdam het bij het juiste eind had toen die oordeelde dat deepfakes niet van andere afbeeldingen onderscheiden hoeven te worden als ze dat niet zijn: wanneer een beeld eruitziet alsof het een echte foto is, dan mag dat voor het misdrijf in artikel 139h Sr ook als zodanig behandeld worden.

Wat bij seksueel misbruik met beeldmateriaal namelijk relevant is, is dat de afbeelding er echt uitziet alsof de afgebeelde persoon zich in de afgebeelde houding of het scenario heeft bevonden. Dat bespreek ik hieronder. Als dat zo is, is voor het plegen van seksueel misbruik met beeldmateriaal verder niet relevant hoe die afbeelding tot stand kwam, wat wordt besproken in §5.

4.2 Waarom deepfakes echt echte afbeeldingen zijn
Uit het criterium dat deepfakes voor een weldenkend mens op het eerste gezicht niet van echt te onderscheiden moeten zijn om als afbeelding van seksuele aard als bedoeld in artikel 139h Sr te vallen, blijkt dat er voor de rechter echter een verschil zit tussen een beeld dat duidelijk gemanipuleerd is, en een beeld dat niet duidelijk gemanipuleerd is. 1 Als bijvoorbeeld met foto’s een collage wordt gemaakt, of in photoshop een hoofd op het lichaam van een ander wordt geplakt, maar de kleuren, schaduwen, en knipranden laten duidelijk zien waar de manipulatie heeft plaatsgevonden, dan kan het uiteindelijke beeld er wel een beetje uitzien alsof een bepaald persoon is afgebeeld, en is toch tegelijkertijd duidelijk dat het een ‘nep’ beeld is. 2 De overduidelijke nep-afbeelding lijkt in die zin een beetje op een schilderij: als toeschouwer zie je als het ware ‘de hand van de maker’ in het eindresultaat (de inmenging van de maker in datgene dat zichtbaar is, is ook zichtbaar).

Dat betekent dat wanneer je als toeschouwer een dergelijk beeld te zien krijgt, je niet automatisch de indruk krijgt echt de afgebeelde persoon te zien zoals je dat wel hebt wanneer je iemand bijvoorbeeld op tv ziet. In een schilderij wordt de afgebeelde persoon als het ware beschermd door de zichtbaarheid van het maakproces. De toeschouwer kan namelijk direct zien dat er een maker tussen de werkelijkheid en het afgebeelde resultaat heeft gezeten. Voor de afgebeelde persoon (en de gevolgen die die van seksueel misbruik met beeldmateriaal ervaart) is niet het verschil tussen een daadwerkelijk ‘nep’ of ‘echt’ beeld relevant, maar juist of het beeld er ‘echt’ of ‘nep’ uitziet.

Bij foto’s en video’s is de zichtbaarheid van de maker veel minder aan de orde: niet degene die maakt, maar degene die afgebeeld is, wordt (primair) gezien. 3 De kijker wordt in dat soort gevallen namelijk veel sterker uitgenodigd om te vergeten dat er een ‘beeldmaker’ is. Bij foto’s, video’s, en gemanipuleerd beeldmateriaal dat op het eerste gezicht niet van echt te onderscheiden is, wordt veel sneller aangenomen dat de afgebeelde persoon te zien is zoals die daadwerkelijk was ten tijde van de opname. Met andere woorden: het zichtbare beeld wordt niet gezien als een interpretatie van bijvoorbeeld de kunstenaar, maar als een momentopname van de werkelijkheid. De relevantie daarvan in de context van deepfakes is dat een nepafbeelding als weergave van de werkelijkheid gezien wordt wanneer die overtuigend genoeg op een echte foto of video lijkt. Dat betekent ook dat de in een deepfake afgebeelde persoon behandeld wordt alsof die daar echt staat afgebeeld.

Het verschil tussen ‘echt’ en ’nep’ afgebeeld staan kan daarmee zodanig vervagen dat niet zinvol is om er in strafrechtelijke zin onderscheid in te willen maken (zie verder § 5): voor de afgebeelde persoon (en de gevolgen die die van seksueel misbruik met beeldmateriaal ervaart) is niet het verschil tussen een daadwerkelijk ‘nep’ of ‘echt’ beeld relevant, maar juist of het beeld er ‘echt’ of ‘nep’ uitziet (ongeacht de daadwerkelijke oorsprong). De reden daarvoor is dat het voor een afgebeelde persoon veel eenvoudiger is om zich te distantiëren van een beeld waarbij de toeschouwer aan het beeld kan zien dat het gemanipuleerd is. Daardoor kan de afgebeelde persoon overtuigend zeggen ‘dat ben ik niet’, terwijl diegene dat niet zo overtuigend kan stellen bij een niet van echt te onderscheiden deepfake.

4.3 Conclusie
Afbeeldingen zijn een uitnodiging aan de toeschouwer om te kijken. Wanneer de afbeelding ogenschijnlijk een momentopname van de werkelijkheid is die niet van echt te onderscheiden is, maakt het voor de indruk die de kijker krijgt niet uit of het nu over echt of nep beeldmateriaal gaat. Daarom is ook de behandeling van de afgebeelde persoon gelijk: die wordt echt gezien, ook als het beeldmateriaal gemanipuleerd is. Hieronder ga ik nader in op de redenen waarom het strafrecht daardoor geen onderscheid hoeft te maken tussen ‘echt’ en ‘nep’ beeldmateriaal bij de strafbaarstelling van seksueel misbruik met beeldmateriaal.