- Sommige tools voor stemklonen kunnen op basis van enkele seconden openbaar beschikbare audio een herkenbare kloon produceren. Langere geluidsfragmenten leveren een beter resultaat op, en realtime-tools kunnen een live telefoongesprek voeren.
- In de Arup-zaak, die eind januari 2024 bij de politie van Hongkong werd gemeld, maakte een medewerker HK$ 200 miljoen (ongeveer US$ 25 miljoen) over na een vooraf opgenomen deepfake-videovergadering.
- De belangrijkste beveiligingsmaatregel is onafhankelijke verificatie: betalingen en wijzigingen aan rekeningen doorlopen een geauthenticeerde workflow, en bij terugbellen wordt altijd een vooraf geregistreerd nummer gebruikt, nooit een nummer dat in het verzoek is opgegeven.
- Zakelijke e-mail is geen onafhankelijk kanaal. Een aanvaller die een deepfake-gesprek voert, beheert of vervalst vaak de mailbox van waaruit het verzoek is verzonden.
- Een gedeeld codewoord dient als extra controle, maar dit kan uitlekken en mensen vergeten het. Beschouw het als een aanvulling op dubbele goedkeuring, niet als vervanging daarvan.
- Identiteitscontroles op afstand moeten twee verschillende soorten aanvallen detecteren: presentatieaanvallen gericht op de camera en injectieaanvallen waarbij synthetische videobeelden rechtstreeks in de stream worden ingevoerd.
Het videogesprek bij Arup
Eind januari 2024 kreeg de politie van Hongkong een melding dat een medewerker in het Hongkongse kantoor van een multinational, later geïdentificeerd als het ingenieursbureau Arup, een bericht had ontvangen dat zogenaamd afkomstig was van de Britse financieel directeur van het bedrijf, waarin om een vertrouwelijke transactie werd gevraagd. De medewerker was sceptisch en werd vervolgens uitgenodigd voor een videogesprek met de financieel directeur en enkele collega's. De politie maakte de zaak in februari openbaar.
Volgens de latere toelichting van de regering van Hongkong aan de Wetgevende Raad was de videovergadering vooraf opgenomen, gemaakt van openbare videofragmenten en de stem van de nagebootste functionaris, en was er geen echte interactie tussen de medewerker en de fraudeurs. In vijftien transacties maakte de medewerker HK$ 200 miljoen, ongeveer US$ 25 miljoen, over naar vijf bankrekeningen. De fraude kwam aan het licht toen de medewerker later navraag deed bij het hoofdkantoor. Arup bevestigde het incident, maar heeft geen technische details bekendgemaakt over de wijze waarop het gesprek tot stand was gekomen; wees daarom voorzichtig met specifieke beweringen over de gebruikte hulpmiddelen.
Deze zaak is belangrijk omdat de medewerker precies deed wat in de meeste bewustwordingstrainingen wordt geadviseerd: de medewerker vertrouwde de e-mail niet en zocht bevestiging. Juist die bevestigingsstap was het onderdeel dat de aanvallers hadden voorbereid.
Voor deepfake-fraude is geen statelijke actor nodig. Hulpmiddelen voor het klonen van stemmen en het verwisselen van gezichten worden verkocht via goedkope abonnementen en gepubliceerd in opensourcerepositories. De FBI waarschuwde in december 2024 dat criminelen generatieve AI, waaronder gekloonde stemmen en video's, gebruiken om financiële fraude overtuigender te maken.
Hoe stemklonen werkt
Een model voor stemklonen leert de akoestische kenmerken van een spreker kennen aan de hand van een audiofragment: klankkleur, ritme, toonhoogtebereik en spreekstijl. Sommige commerciële tools produceren een herkenbare kloon op basis van slechts enkele seconden spraak; een minuut of meer levert een merkbaar beter resultaat op. Het fragment kan afkomstig zijn van een LinkedIn-video, een webinar, een podcast, een financiële presentatie of een voicemailbegroeting.
Aanvallers gebruiken de kloon op twee manieren. Vooraf opgenomen fragmenten worden ingezet in voicemails en spraakberichten. Realtime gebruik kent twee vormen: tekst-naar-spraak, waarbij de aanvaller typt en het model spreekt met de stem van het doelwit, of spraak-naar-spraakconversie, waarbij de aanvaller spreekt en het model zijn stem tijdens het spreken omzet in die van het doelwit. Bij spraak-naar-spraakconversie blijven de eigen timing en reacties van de aanvaller behouden, waardoor een live-gesprek veel moeilijker te herkennen is.
Soorten aanvallen in de bedrijfsomgeving
De medewerker van Arup had gelijk om om bevestiging te vragen. De aanval lukte omdat de aanvallers ook de bevestigingsstap hadden voorbereid.
Waarom standaardverificatie faalt
Informele verificatie van een mondeling verzoek berust doorgaans op drie zaken: u herkent de stem, u kunt de persoon op video zien en de beller weet zaken die alleen een insider zou weten. Een goed voorbereide aanvaller kan nu alle drie deze aspecten vervalsen. De audiocompressie bij telefoongesprekken verbergt veel van de verschillen tussen een echte stem en een goede imitatie. Het nummer van de beller is eenvoudig te vervalsen, en netwerkgebaseerde bellerverificatie, zoals STIR/SHAKEN, is niet op elke route geïmplementeerd. Interne kennis is vaak te vinden op LinkedIn, de bedrijfswebsite of in opgenomen presentaties.
Twee zwakke punten verdienen bijzondere aandacht. Ten eerste is zakelijke e-mail geen onafhankelijk kanaal. Deepfake-gesprekken volgen vaak op een gecompromitteerde of vervalste mailbox, waardoor een "bevestiging per e-mail" mogelijk rechtstreeks naar de aanvaller wordt verzonden. Ten tweede worden identiteitscontroles op afstand geconfronteerd met twee verschillende soorten aanvallen, die in NIST SP 800-63A-4 afzonderlijk worden behandeld:
- Presentatieaanvallen: de aanvaller toont de camera een afgedrukte foto, een masker, een scherm waarop een video wordt afgespeeld of een live gezichtsvervanging die op een ander apparaat wordt weergegeven. Detectie van presentatieaanvallen (PAD) zoekt hiernaar.
- Injectieaanvallen: de aanvaller omzeilt de camera door gebruik te maken van een virtuele camera, een emulator of een gemanipuleerde app om synthetische videobeelden rechtstreeks in de datastroom te injecteren. PAD alleen detecteert dit niet; de controle vereist tevens integriteitscontroles van het apparaat en de datastroom.
Waarschuwingssignalen tijdens een gesprek
Leid uw financiële en helpdeskmedewerkers op om te stoppen wanneer zij deze patronen opmerken:
- Ongebruikelijke urgentie: de aanvrager zegt dat er geen tijd is om de gegevens te verifiëren en dat het normale proces de deal zal doen mislopen.
- Geheimhouding: instructies om het verzoek niet met collega's of de juridische afdeling te bespreken.
- Een parallel kanaal: tijdens of direct na het gesprek ontvangt u een e-mail met bankgegevens, vaak afkomstig van een domein dat op het officiële domein lijkt.
- Weigering om teruggebeld te worden: de persoon zit "in een vergadering" of "heeft geen bereik" en staat niet toe dat u hem of haar terugbelt.
- Vreemde geluids- of beeldkwaliteit: onnatuurlijke pauzes, gebrek aan emotie, een stilstaande camera of onwil om het hoofd te draaien. Goede vervalsingen vertonen mogelijk geen van deze kenmerken, dus de afwezigheid van signalen bewijst niets.
Controles die daadwerkelijk werken
Onafhankelijke verificatie via geauthenticeerde workflows
De belangrijkste controlemaatregel is procedureel. Handel nooit uitsluitend op basis van een verzoek via de telefoon of video. Betalingen, wijzigingen in bankgegevens, het resetten van inloggegevens en het verlenen van toegang verlopen via een geauthenticeerd systeem (het betalingsplatform, het ERP-systeem of de servicedesktool) waar de aanvrager en de goedkeurder inloggen met hun eigen accounts en MFA. Als u de aanvrager moet spreken, hang dan op en bel hem of haar terug op een nummer uit het HR-dossier of het leveranciersbestand; gebruik nooit een nummer dat tijdens het telefoongesprek, in de e-mail of in de uitnodiging voor de vergadering is opgegeven.
Dubbele goedkeuring met scheiding van taken
Schrap mondelinge autorisatie als geldige aanleiding voor elke overboeking boven een vastgestelde drempel. Boven die drempel moet in het betalingssysteem goedkeuring door twee personen vereist zijn die de aanvraag niet hebben ingediend, en moet worden gewaarborgd dat geen enkele persoon zelfstandig een begunstigde kan aanmaken en een betaling aan deze begunstigde kan goedkeuren. Dit is eerder een proceswijziging dan een technologische aankoop, en het schakelt het mechanisme uit waarop deepfake-telefoontjes berusten: één persoon die wordt overgehaald om in zijn eentje te handelen.
Afzonderlijke controles voor nieuwe begunstigden en wijzigingen in bankgegevens
Behandel elke nieuwe begunstigde of wijziging van bankgegevens als een gebeurtenis met een hoog risico, met een eigen procedure. Bevestig de wijziging bij een bekende contactpersoon bij de leverancier aan de hand van reeds in het bestand opgenomen contactgegevens, laat een tweede persoon de wijziging in het systeem goedkeuren en overweeg een wachttijd of een kleine testbetaling voordat de eerste volledige betaling naar de nieuwe rekening plaatsvindt. Veel deepfake- en e-mailfraudezaken eindigen met een verzoek om op een "nieuwe" rekening te betalen, dus deze ene controle vangt een groot deel daarvan op.
Identiteitsherstel via de helpdesk
Een stem die authentiek klinkt, is geen identiteitsbewijs voor het resetten van een wachtwoord of het aanvragen van een nieuw MFA-apparaat. Eis een strengere procedure: terugbellen naar het nummer in het HR-dossier, bevestiging door de directe leidinggevende van de medewerker via het ticketsysteem, of identiteitsverificatie in persoon of via een verificatiedienst. Breng de gebruiker via zijn of haar bestaande kanalen op de hoogte wanneer er een wachtwoordreset of registratie van een nieuw apparaat plaatsvindt, zodat een legitieme medewerker snel alarm kan slaan.
Codewoorden als aanvullende controle
Een codewoord dat persoonlijk is afgesproken en nooit in e-mail of chat wordt vermeld, kan een nuttige extra controle vormen voor leidinggevenden en hun assistenten. Op zichzelf is het een zwakke beveiligingsmaatregel: codewoorden lekken uit, worden hergebruikt en raken onder druk in de vergetelheid. Gebruik het als aanvulling op de hierboven genoemde workflow- en terugbelcontroles, nooit in plaats daarvan.
Scenario-gebaseerde training van het personeel
Algemene bewustwording rond phishing bereidt het personeel niet voor op een bekende stem die om iets ongewoons vraagt. Organiseer gerichte oefeningen: speel een nagebootste stem af van een senior leidinggevende die een frauduleus verzoek doet en laat het personeel de verificatieprocedure oefenen. Richt u op de meest kwetsbare functies: financiën, de IT-helpdesk en assistenten van leidinggevenden. Maak duidelijk dat het volgen van de procedure nooit een disciplinair risico vormt, zelfs niet wanneer het verzoek achteraf legitiem blijkt te zijn.
Identiteitscontroles op afstand en detectietools
Als u klanten of medewerkers op afstand onboardt, vraag dan aan uw aanbieder van identiteitsverificatie hoe deze zowel presentatie- als injectieaanvallen detecteert, hoe deze de authenticiteit van documenten controleert buiten beeldanalyse om en welke apparaat- en sessiesignalen deze gebruikt. Vraag om onafhankelijke testresultaten met betrekking tot actuele aanvalsmethoden. Detectoren voor synthetische spraak en video zoeken naar kenmerken van synthese; sommige generaliseren naar generatoren waarop ze niet zijn getraind, maar de nauwkeurigheid neemt doorgaans af bij nieuwe modellen en bij gecomprimeerde telefoonaudio. Beschouw ze als een extra beveiligingslaag. Terugbellen naar een vooraf geregistreerd nummer werkt, hoe goed de kloon ook is.
| Aanval | Belangrijkste verdedigingsmaatregel | Beperking |
|---|---|---|
| Gekloonde stem vraagt om een dringende betaling | Betaling uitsluitend via de workflow, met dubbele goedkeuring en terugbellen naar een vooraf geregistreerd nummer | Het terugbelnummer moet afkomstig zijn uit uw eigen administratie, niet uit het verzoek |
| Een met deepfake gemanipuleerd videogesprek bevestigt een verzoek | Er wordt tijdens het gesprek geen goedkeuring verleend; bevestiging vindt plaats binnen het geauthenticeerde systeem | Vertraagt daadwerkelijk dringende betalingen, waardoor zichtbare steun van het senior management vereist is |
| Verzoek tot wijziging van de bankgegevens van een leverancier | Afzonderlijke wijzigingsprocedure: bekend contactpersoon, tweede goedkeurder, wachttijd of testbetaling | Mislukt indien de eigen mailbox of telefoonlijn van de leverancier is gehackt |
| Helpdeskgesprek om een wachtwoord of MFA te resetten | Terugbellen naar het HR-nummer, bevestiging door de leidinggevende of identiteitscontrole, plus kennisgeving aan de gebruiker | Veroorzaakt extra hindernissen bij legitieme vergrendelingen |
| Synthetisch gezicht bij onboarding op afstand | Detectie van presentatie- en injectieaanvallen, documentcontroles, apparaatsignalen | Detectiepercentages variëren per aanbieder en nemen af bij nieuwe tools |
Indien er al een verdachte overboeking heeft plaatsgevonden
Snelheid is hier het belangrijkst. Neem onmiddellijk contact op met uw bank via het nummer op de website of op uw kaart, leg uit dat de betaling frauduleus was en vraag of zij het geld kunnen terugvorderen en contact kunnen opnemen met de ontvangende bank. Er is geen garantie op terugvordering: het geld wordt vaak binnen enkele uren doorgestort.
- Terugbetaling: terugbetaling van een betaling die u zelf hebt geautoriseerd, is niet gegarandeerd. Voor bedrijven hangt terugvordering af van uw bank, de ontvangende bank en eventuele verzekeringsdekking.
- Aangifte: doe aangifte bij de politie en meld de fraude bij de Fraudehelpdesk. Uw bank kan om de aangifte vragen.
- Bewijsstukken bewaren: gesprekslogboeken, opnames, uitnodigingen voor vergaderingen en links, e-mails met volledige headers en de betalingsgegevens.
- Persoonsgegevens: indien persoonsgegevens zijn blootgesteld, bijvoorbeeld doordat een mailbox is gehackt, meldt u het datalek binnen 72 uur bij de Autoriteit Persoonsgegevens op grond van de AVG, tenzij het onwaarschijnlijk is dat dit een risico voor personen oplevert. Registreer elk datalek en uw beslissing hierover in uw interne datalekregister, ongeacht de uitkomst.
Bronnen
- Regering van Hongkong: LCQ9, fraude met deepfakes (juni 2024)
- FBI IC3: Criminelen gebruiken generatieve kunstmatige intelligentie om financiële fraude te vergemakkelijken (december 2024)
- NIST SP 800-63A-4: Richtlijnen voor digitale identiteit, identiteitscontrole en registratie
- Autoriteit Persoonsgegevens: het melden van een datalek
- Fraudehelpdesk
Ryland levert al meer dan twintig jaar programma's op het gebied van cyberbeveiliging, compliance en IT-beheer voor gereguleerde organisaties in het Verenigd Koninkrijk en Nederland. Bekijk volledig profiel