‘Er is goed nieuws en er is slecht nieuws. Eerst het slechte nieuws: de perfecte AI-tool voor het detecteren van fake foto’s en video’s bestaat niet. Het goede nieuws? De perfecte AI-tool voor het detecteren van fake foto’s en video’s bestaat niet. Want dat is de job van de journalist!’
Stefan Voss van het Duitse persagentschap dpa (Deutsche Presse-Agentur) is een expert in het ontmaskeren van AI-content en het implementeren van AI in redactioneel werk. Rocket science is dat niet, vindt hij. ‘Iedereen die logisch kan nadenken en die de tijd neemt om eens goed naar een foto of video te kijken, zal al snel doorhebben of het fake is. Want de kwaliteit van de fakes is eerlijk gezegd over het algemeen zeer laag. Natuurlijk zijn er ook fakes waar meer energie in gestoken is en die dus moeilijker te detecteren zijn. Dan moet je je afvragen wie het gemaakt heeft en met welke intentie.’
Hoe dan ook vertrouwt Voss meer op menselijke expertise dan op een AI-tool. ‘Zo’n tool zal bijvoorbeeld zeggen dat een beeld 98 procent fake is, maar zal je niet vertellen waarom. Een AI-tool is een black box. Het probleem is dat je niet onder de motorkap kan kijken. Geloof me: een journalist die logisch nadenkt en zijn research doet, is véél beter dan gelijk welke tool.’
Voss stipt wel aan dat hij het heeft over foto’s en video’s met nieuwswaarde die gemaakt zijn in het openbaar. ‘Een hond op het strand bij een ondergaande zon, dat is een onschuldig beeld dat je perfect kan creëren met AI. Maar ik ben er absoluut van overtuigd dat het onmogelijk is om een publieke gebeurtenis met nieuwswaarde te faken. Dat is een veel te complex gegeven.’
Te korte vleugels
Deutsche Presse-Agentur werd in 1949 opgericht, is een van ’s werelds toonaangevende onafhankelijke persbureaus en stelt zo’n 1000 journalisten te werk in Duitsland en andere landen. Stefan Voss, in het verleden nog buitenlands correspondent in Oekraïne en Rusland voor dpa, is er sinds 2017 Head of Verification. ‘In 2017 zagen we dat sociale media een belangrijke bron voor nieuws werden. Na de turbulentie op sociale media rond de verkiezingen aan beide kanten van de Atlantische Oceaan, hebben we de functie van een Head of Verification gecreëerd om onze controles vóór publicatie te verscherpen.’
Als Head of Verification bouwde Voss een groot factcheckingteam uit van zo’n 30 mensen. Zij helpen de reguliere journalisten bij dpa met het verifiëren van informatie, beelden en video’s, maar zij zijn wel een aparte entiteit. In principe kan iedereen aan dpa vragen om iets te checken, maar het moet wel een checkbaar feit zijn dat relevant is. ‘Verder houden we platforms in de gaten op zoek naar claims die in aanmerking komen voor een factcheck. Zo kan je als Facebookgebruiker content flaggen als je denkt dat het fake is. Die content komt bij ons terecht. Een belangrijke regel die we daarbij hanteren, is: we kijken naar wát gezegd of geschreven wordt, niet wie het zegt. Het is dus niet zo dat we bepaalde politici of actoren volgen. We zijn een onafhankelijk persagentschap’, aldus Voss. Zodra de factcheck geschreven is, wordt die overigens nog eens nagekeken door een andere persoon binnen het team. Mocht er toch nog een foutje in sluipen – een jaartal dat verkeerd is of een naam die verkeerd geschreven is – dan wordt dat meteen rechtgezet.
Stefan Voss spendeert nu het grootste deel van zijn tijd aan opleidingen bij de Duitse media, maar ook in de rest van Europa. ‘Tot een half jaar geleden was het aandeel van AI-generated content in onze factchecks nog aan de lage kant: zo’n 5 procent. Maar het gaat in stijgende lijn.’ Vaak is het uitgangspunt een echte gebeurtenis. ‘Op Facebook circuleerde onlangs bijvoorbeeld een foto van een F-35 die door de Iraanse luchtafweer was neergeschoten. Op het eerste gezicht een indrukwekkend beeld, maar bij nader inzicht: fake. Dat is duidelijk te zien aan de vleugels van het vliegtuig die veel te kort zijn.’
De paus en Kamala Harris
Dpa hanteert drie regels om na te gaan of een foto of video echt is.
1 Als er iets spectaculairs gebeurt in het openbaar, zal er altijd meer dan één foto of video van zijn.
Voss: ‘Een adagium in de journalistiek was: in de oorlog is de waarheid altijd het eerste slachtoffer. Dat is nu niet meer het geval, met dank aan sociale media. Alles wat bijvoorbeeld in Oekraïne in het openbaar gebeurt, wordt er door mensen ter plaatse gefilmd. Uiteraard moet je dat materiaal vinden en weten waar het verspreid wordt, maar het wordt op een of andere manier gedocumenteerd door verschillende getuigen. Soms heb je echter maar één bron. Toen er een aantal jaar geleden na honderdvijftig jaar een wolf was gespot in de bossen in het centrum van Duitsland, was er maar één foto van. Dat beeld, dat echt bleek, was gemaakt door een professionele dierenfotograaf.’
2 Als er iets spectaculairs gebeurt in het openbaar, dan moet dat ook te merken zijn aan de reacties van de omstaanders.
Voss: ‘Een paar jaar geleden circuleerden er foto’s van de paus wandelend op straat in een fancy, dikke, witte jas. Als de paus voorbijgaat in zo’n opzichtig kledingstuk, zou je denken dat iedereen in de omgeving toch even zijn hoofd draait. Maar de omstaanders op de foto leken hem niet op te merken.’ Voss haalt nog een ander voorbeeld aan waarbij het niet zozeer gaat om de reacties van omstaanders, maar om elementen op de achtergrond van het beeld. ‘Tijdens de verkiezingscampagne van Kamala Harris circuleerde het fake news dat ze in haar jonge jaren een prostituee was. Er doken beelden op van een ‘jonge Harris’ op straat. Afgezien van het feit dat de vrouw helemaal niet op Harris geleek, zie je op de achtergrond ook een auto waarvan je met zekerheid kan zeggen dat die toen, veertig jaar geleden, nog niet gebouwd werden. Let dus niet alleen op de omstaanders, maar ook op zaken op de achtergrond.’
3 Stel jezelf in de plaats van de persoon die filmt en check of zijn gedrag steek houdt.
‘Als je naar het beeldmateriaal kijkt van een ooggetuige van bijvoorbeeld een crash in de lucht tussen twee vliegtuigen, dan is dat zeer chaotisch. Je hoort stemmen en ‘o, nee’ op de achtergrond en je ziet de camera heen en weer gaan. Maar als er iets spectaculairs gebeurt en de persoon die de camera hanteert, beweegt of trilt niet, dan kan je je al vragen beginnen te stellen.’
Afgezien daarvan zijn er nog talloze manieren om na te gaan of iets gemanipuleerd is of niet, weet Voss. Check de vegetatie in de achtergrond, controleer de manier waarop de schaduwen vallen, kijk naar het weerbericht van dat moment … ‘Het is gewoon logisch nadenken en natuurlijk helpt het als je opgeleid bent om te weten waar je moet kijken.’
Experts in verwoeste huizen
Hoe ziet de toekomst eruit in de wetenschap dat AI steeds beter wordt? ‘Mensen zijn fatalistisch geworden’, zegt Voss. ‘Ze weten niet meer wat ze nog kunnen vertrouwen. Alles kan fake zijn, alles kan AI zijn. Dit fatalisme dringt zelfs door in de journalistiek. En dat zou niet mogen, want nee, AI is niet perfect. Je moet gewoon goed kijken.’ En net daarom is Voss optimistisch over de toekomst. ‘Natuurlijk zal AI beter worden. De fout van de zes vingers aan één hand zal straks misschien niet meer gemaakt worden, maar het issue van de complexiteit, waar ik het eerder over had, zal blijven. Als mediahuizen journalisten blijven trainen – ik heb er al honderden getraind – en op die manier hun skills verbeteren, slaap ik op beide oren.’
Een en ander zal wel leiden tot ongewone expertises, weet Voss. ‘Ik ben ervan overtuigd dat we vroeg of laat experts zullen nodig hebben voor de analyse van verwoeste huizen. Die experts zullen ons kunnen vertellen hoe een huis eruitziet na een raketinslag van een uur geleden, van een week geleden en van een maand geleden. Het is vergelijkbaar met wat de Engelse journalist Eliot Higgins tien jaar geleden deed. Hij specialiseerde zich in wapens en ging op Youtubevideo’s na welke wapens er opdoken in het conflict in Syrië, door wie ze gebruikt werden en waarom. Hij was een soort pionier op dat vlak.’
Een kans voor de journalistiek
‘De ontwikkeling van AI is overweldigend en we worstelen daarmee, ook journalisten. Dat maakt ons onzeker, want we weten dat er heel wat desinformatie circuleert’, aldus Voss. ‘Je zou daar heel pessimistisch van kunnen worden en denken dat we in een wereld van leugens en bedrog leven. Het worstcasescenario is dat we als journalisten, en in ruime zin als maatschappij, de kop in het zand steken en de strijd opgeven. Nee, we moeten onze weerbaarheid tonen. En daarom is het heel belangrijk om hierover te blijven schrijven. Want zoals ik al zei: de kwaliteit van de meerderheid van de fakes is bedroevend. Je hebt maar een beperkte set skills nodig om ze te ontmaskeren. Daar ligt een kans voor de journalistiek. Maak duidelijk aan mensen wanneer iets fake is en waarom het zo is. Help mensen om daar intelligenter in te worden.’ Dat is genoteerd!
Lees hier de factchecks van dpa.
Steve Van Herpe
