Heel even twijfelde de medewerker van een multinational in Hongkong. Maar eenmaal aanwezig in de digitale vergadering verdween zijn wantrouwen. In de videocall zag en hoorde hij zijn meerderen, die hem instructies gaven voor het overmaken van kapitaal van het bedrijf. De man hoorde de stem en zag het gezicht van het financiële hoofd van de organisatie op zijn scherm. Braaf verstuurde de medewerker in totaal 25,6 miljoen dollars, omgerekend bijna 24 miljoen euro, naar vijf verschillende rekeningen.

De call bleek nep. „Criminelen zijn altijd op zoek naar nieuwe mogelijkheden”, zegt Manon den Dunnen, strategisch specialist digitaal bij de politie. „Zij bewegen mee met de technologie. Hun werkwijze verandert net zo snel als alle andere ontwikkelingen op dat gebied. En het nieuwste foefje is voice cloning. Dat is het klonen van stemmen van een bekende met behulp van kunstmatige intelligentie, iets wat ook in dit voorbeeld is gebeurd.”

Om burgers te waarschuwen voor dit fenomeen, heeft de Rijksoverheid onderzoek laten doen naar de capaciteiten van burgers om echte en gekloonde stemfragmenten van elkaar te onderscheiden. Ook is de campagne ” Laat je niet interneppen ” gestart. „Zes op de tien Nederlanders horen geen verschil tussen de echte stem van radiomaker Ruud de Wild en een gemanipuleerde versie van zijn stem”, legt Den Dunnen uit. „Het laat zien dat iedereen in voice cloning kan trappen. Nepstemmen kunnen ongelofelijk waarheidsgetrouw klinken, en de technologie wordt alleen maar beter.”

Welke signalen zouden argwaan moeten wekken?

„Als jij door mij wordt gebeld, en mijn naam staat in je scherm, dan is je brein al op mij ingesteld. Wanneer je vervolgens iets hoort dat lijkt op mijn stem, dan doet je brein automatisch alle onvolkomenheden al af als een slechte verbinding of achtergrondgeluid. Dat denkpatroon moeten we doorbreken. We moeten een tussenstap inbouwen, net zoals we het onszelf ooit hebben moeten aanleren om onze fiets op slot te zetten. We moeten ons gedrag afstemmen op de veranderende wereld.”

„Stel voor om op te hangen en diegene terug te bellen via het nummer dat in je contactenlijst staat” - Manon den Dunnen, strategisch specialist digitaal bij de politie

„Zodra ons om een onomkeerbare actie wordt gevraagd, zoals het overmaken van geld of het delen van informatie, is het slim wantrouwend te zijn. Ook al is je kind of moeder aan de lijn, we moeten onszelf aanleren een stapje terug te doen. Net zoals we bij het verlaten van ons huis de deur op slot doen, is het slim om dan uit te leggen dat voice cloning bestaat. Om voor te stellen op te hangen en diegene terug te bellen via het nummer dat in je contactenlijst staat.”

Is dat niet ongemakkelijk?

„Ik besef dat dat zo kan voelen, maar het moet normaal gedrag worden. Interneppers overtuigen je door in te spelen op je emoties en tijdsdruk te veinzen. Zij weten ook dat je een bekende in nood niet zo maar wegdrukt. Blijft dat soort beleefdheid je parten spelen, vraag dan naar een gezamenlijke herinnering. Robots kunnen zo ook door de mand vallen. Zij waren daar immers niet bij.”

De politie heeft nog geen aangiftes van voice cloning gekregen. Maakt de overheid de burger niet onnodig bang?

„In mijn beleving niet. We gaan naar een wereld waarin het steeds lastiger wordt om te weten welke informatie betrouwbaar is, en welke niet. Het toepassen van voice cloning in Nederland is een kwestie van tijd. Paranoïde hoeven we niet te zijn, maar we moeten ons ervan bewust worden dat ook datgene en diegene die we vertrouwen, kan worden gemanipuleerd. Het belangrijkste is dat we met z’n allen in gesprek gaan over dit soort oplichterij: hoe zou jij hiermee omgaan?”