Ethische overwegingen bij beeldmanipulatie en -misbruik: de rol van Verify
“Misschien zouden we allemaal even moeten stoppen en ons niet alleen moeten richten op het verbeteren en succesvoller maken van onze AI, maar ook op het voordeel voor de mensheid.”
— Stephen Hawking, november 2017
Beeldmanipulatie brengt aanzienlijke ethische vraagstukken met zich mee, vooral wanneer de bewerkte afbeelding een andere inhoud heeft dan het origineel. Dergelijke aanpassingen kunnen leiden tot onjuiste of misleidende weergaven van personen, plaatsen of objecten, wat ernstige schade kan toebrengen aan de waarheid. Dit is met name zorgwekkend in een tijd waarin de publieke perceptie en opinie sterk worden beïnvloed door visuele media. Zulke manipulaties ondermijnen het vertrouwen van het publiek in de media en kunnen bijdragen aan de verspreiding van desinformatie, met mogelijk negatieve gevolgen voor de samenleving. De noodzaak van ethische standaarden en verificatietechnieken wordt verder benadrukt door het feit dat overtuigende beeldmanipulatie tegenwoordig eenvoudig mogelijk is dankzij de ontwikkeling van AI-technologieën. Daarnaast roept ook het stelen en misbruiken van content zorgen op, wat de integriteit van media aantast en het belang van hoge ethische normen onderstreept.
We zetten stappen in de goede richting door deze ethische vraagstukken aan te pakken met Verify. Verify maakt het mogelijk om misbruik en manipulatie effectief te identificeren en de integriteit van visueel materiaal te waarborgen door content te volgen en de uniciteit ervan te garanderen.
De Coalition for Content Provenance and Authenticity (C2PA), opgericht door Adobe, Arm, Intel, Microsoft en Truepic, ontwikkelt technische standaarden om de herkomst en geschiedenis van mediacontent te certificeren en zo online desinformatie tegen te gaan. Het combineert initiatieven zoals Adobe’s Content Authenticity Initiative en Microsoft’s Project Origin om digitale desinformatie te bestrijden. Hoewel wij bij Verify C2PA volledig ondersteunen, zien wij onze aanpak als een waardevolle aanvulling op hun inspanningen. C2PA stelt een standaard vast voor metadata die specifiek bedoeld is om de herkomst van een bestand te volgen (provenance). Metadata wordt echter vaak verwijderd tijdens het uploaden naar platforms zoals sociale media. Daarom is C2PA vooral nuttig in specifieke situaties, zoals wanneer een journalist wil verifiëren dat een bestand daadwerkelijk afkomstig is van bijvoorbeeld het Witte Huis en niet onderweg is aangepast door een hacker. Het is echter belangrijk om te benadrukken dat de reikwijdte van C2PA verschilt van die van ons. Waar C2PA een sterk kader biedt voor het verifiëren van bestandsherkomst, voegt de AI-fingerprinttechnologie van Verify een aanvullende laag toe door een “fingerprint” in de pixels van een afbeelding te embedden. Dit zorgt ervoor dat de integriteit en traceerbaarheid van de afbeelding behouden blijven, waar deze ook terechtkomt — zelfs wanneer iemand er een screenshot van maakt. Op deze manier versterken wij het algehele beveiligings- en authenticiteitskader van C2PA en maken we het digitale ecosysteem nog betrouwbaarder en veiliger. Hieronder bespreken we twee ethische kwesties die, wanneer ze met Verify worden aangepakt, een belangrijke stap richting oplossing vormen.
Journalistieke integriteit
Beeldmanipulatie in de journalistiek kan de geloofwaardigheid van nieuwsberichten ondermijnen door twijfel te zaaien over hun objectiviteit en het publiek te misleiden. Een voorbeeld van zo’n ethisch dilemma is wanneer een nieuwsorganisatie een foto manipuleert om een dramatischer of sensationeler beeld te creëren dan de werkelijkheid. Denk bijvoorbeeld aan het toevoegen van rook of vuur aan een foto van een conflictgebied om de ernst van de situatie te overdrijven, terwijl dit in werkelijkheid niet het geval is. Andere nieuwsorganisaties nemen dergelijke vervormde beelden soms klakkeloos over, wat leidt tot een kettingreactie waarbij steeds meer mensen worden misleid.
Dit was het geval bij een nieuwsbericht waarin een foto werd onderzocht die was gepubliceerd door het mediakanaal van de Iraanse Revolutionaire Garde, Sepah News. De afbeelding toonde een versie met vier raketten, waarbij twee belangrijke delen sterk leken op andere delen en uiteindelijk duplicaten bleken te zijn. Opmerkelijk is dat verschillende gerenommeerde nieuwsorganisaties, waaronder The Los Angeles Times, The Financial Times, The Chicago Tribune, BBC News, MSNBC en NYTimes.com, deze gemanipuleerde foto overnamen, wat de omvang van de verspreiding van desinformatie illustreert.
Een ander probleem ontstaat wanneer een nieuwsorganisatie foto’s uit een andere tijd of locatie gebruikt om een actuele gebeurtenis te illustreren. Bijvoorbeeld door een afbeelding uit een eerdere oorlog te presenteren als een recente situatie. Dit geeft een vertekend beeld van de werkelijkheid en kan de publieke perceptie van lopende conflicten beïnvloeden. Dergelijke praktijken kunnen lezers misleiden en de geloofwaardigheid van de nieuwsbron aantasten.
Consumentenmisleiding
Een ander zorgwekkend aspect van beeldmisbruik is het oneerlijke gebruik van foto’s door bedrijven om klanten aan te trekken met producten of diensten die zij uiteindelijk niet kunnen leveren. Dit gebeurt vaak wanneer een bedrijf onterecht foto’s van andere bedrijven gebruikt en vervolgens iets anders aanbiedt dan wat op de afbeelding te zien is. Door de toenemende internationalisering van e-commerce is het voor consumenten moeilijker geworden om de betrouwbaarheid van websites te beoordelen, vooral wanneer deze buiten Nederland zijn gevestigd en niet eenvoudig te verifiëren zijn, bijvoorbeeld via de Kamer van Koophandel.
Een online retailer kan bijvoorbeeld afbeeldingen tonen van producten die niet overeenkomen met de werkelijke goederen die worden verkocht. Hoewel klanten worden aangetrokken door de aantrekkelijke beelden, ontvangen zij uiteindelijk producten van lage kwaliteit, aangepaste producten of zelfs helemaal niets. Dit leidt tot ontevredenheid, frustratie en verlies van vertrouwen bij consumenten.
Dergelijk gedrag is niet alleen misleidend, maar ondermijnt ook het vertrouwen van consumenten en tast de integriteit van eerlijke bedrijfsvoering aan. Het benadrukt het belang van het naleven van ethische normen bij het gebruik van beelden, zodat consumenten eerlijke en accurate informatie ontvangen.