Een medewerker van Bunq dacht te zijn uitgenodigd voor een online meeting met topman Ali Nikman, maar maakte kennis met zijn AI-genegeerde kloon, waarbij zowel het beeld als zijn stem was nagemaakt. Dit meldt het NRC. De medewerker kreeg de vraag “een aanzienlijk” geldbedrag over te maken. Helaas voor de AI-versie van Nikman, trapte de medewerker hier niet in.
 

Een van de snelle ontwikkelingen rondom kunstmatige intelligentie (AI) is het nabootsen van stemmen, ook wel voice cloning genoemd. De politie meldde in september aan NRC Handelsblad dat er vooralsnog geen slachtoffers van stemklonen in Nederland zijn gemeld, omdat de Amerikaanse kloonsoftware die wordt gebruikt voor het ontwikkelen van deepfakes nog niet in Nederland beschikbaar was. Sinds augustus is dit wel het geval, en is de kans om zomaar gebeld of gefacetimed te worden door een AI-genegeerde kloon van je baas, je moeder of bijvoorbeeld je zoon of dochter steeds realistischer. 

Wie heb ik aan de lijn? 

De AI-versie van Bunq-topman Ali Nikman die probeerde een van zijn medewerkers op te lichten kwam van een koude kermis thuis. Maar dit is lang niet altijd het geval. Wanneer je een vertrouwde stem hoort, ben je sneller geneigd om diegene te vertrouwen. 

Een veelgebruikte truc is de zogenoemde ‘kind in nood’-fraude, die ook al regelmatig via WhatsApp berichten wordt ingezet. Ouders denken hun kind aan de telefoon te hebben, die bijvoorbeeld iets ergs heeft meegemaakt en dringend geld nodig heeft. Naast dat de stemmen nauwelijks van echt te onderscheiden zijn, zijn de voice cloners vaak op de hoogte van persoonlijke gegevens van het kind wiens stem wordt vervalst, zoals woonadressen of  specifieke hobby's. Dit maakt het, in combinatie met de paniek die wordt veroorzaakt, nog lastiger om snel te beseffen dat je met een oplichter te maken hebt.  

Hoe laat ik me niet foppen? 

Ter voorbereiding op deze dreiging adviseerden de Fraudehelpdesk en Bureau Jeugd en Media in een eerder artikel het gebruik van codewoorden om oplichting te voorkomen. AI-expert Henk van Ess waarschuwt in een interview met AD echter dat criminelen stress creëren om codewoorden te omzeilen. “De daders veroorzaken bewust acute stress. 
Het is moeilijk om kalm te blijven als je zoon belt en zegt: "Ik heb een ongeluk gehad en mijn vriendin is overleden.” 
"Vooral in zulke situaties is het hoofd koel houden, gezond wantrouwen en het controleren van telefoonnummers belangrijk.” 

Blijf alert 

Met de razendsnelle ontwikkelingen rondom stem vervalsing weten criminelen inmiddels ook van het gebruik van een codewoord als maatregel, en hebben daar al iets op gevonden. Van Ess: “ze maken stemmen lastig verstaanbaar door verkeerslawaai op de achtergrond te produceren. Oplichters laten het 'nep kind' zeggen dat die hen niet verstaan.” 

Om je te blijven wapenen tegen de steeds slimmer wordende technieken heeft de politie een tip: “als je een handeling moet verrichten door bijvoorbeeld gegevens achter te laten of geld over te maken - en zeker in combinatie met een emotie zoals een huilend familielid - hang dan bijvoorbeeld op en bel terug op het nummer dat je van de persoon kent. Of vraag naar iets unieks, dus niet de geboortedatum van degene, maar bijvoorbeeld wat iemand gisteren gegeten heeft.”