- Het Britse NCSC verwacht dat AI vooral bestaande aanvalstactieken versterkt in plaats van nieuwe te creëren, en dat AI de tijd tussen de openbaarmaking van een kwetsbaarheid en het misbruik ervan vrijwel zeker verder verkort; die tijd is nu al teruggebracht tot dagen
- Twee afzonderlijke categorieën duiken nu op in incidenten: AI die door de aanvaller wordt gebruikt om sneller te bewegen, en AI als onderdeel van het aanvalsoppervlak wanneer uw eigen tools of agenten zelf worden gecompromitteerd
- In de bedrijfsomgevingen die Rubrik Zero Labs in 2025 heeft onderzocht, was de verhouding tussen machine-identiteiten (waaronder inloggegevens van AI-agenten en API-sleutels) en menselijke identiteiten ongeveer 45:1 (de verhoudingen variëren naargelang de architectuur en de identiteitstypen die worden meegeteld), en de meeste incidentresponsplannen bevatten geen procedure voor het intrekken daarvan
- Shadow AI is nu een eigen incidentcategorie: een datablootstelling die begint binnen een goedgekeurde workflow en eindigt in een persoonlijk AI-account waarvan niemand bij IT wist dat het werd gebruikt
- Een tabletopoefening die alleen is gebouwd rond scenario's van een paar jaar geleden test niet of uw team de juiste beslissing kan nemen wanneer AI het toegangspunt is
De twee manieren waarop AI in een incident opduikt
De meeste gesprekken over "AI en incidentrespons" vermengen twee verschillende problemen tot één. Het helpt om ze te scheiden voordat u een plan bouwt of test.
De eerste categorie betreft AI die door de aanvaller wordt ingezet. Dit omvat geautomatiseerde verkenning, phishing en "business email compromise" die zo goed is opgesteld dat deze doorgaat voor interne correspondentie, deepfake-stemmen of -video's die worden gebruikt om een betaling goed te keuren of toegang te verlenen, en AI-ondersteund onderzoek naar kwetsbaarheden en de ontwikkeling van exploits. De beoordeling van het NCSC inzake AI en de cyberdreiging tot 2027 verwacht dat deze laatste categorie, AI-ondersteund onderzoek naar kwetsbaarheden en de ontwikkeling van exploits, op korte termijn de belangrijkste door AI aangestuurde verschuiving in het dreigingslandschap zal vormen. Dit is een toekomstgerichte beoordeling, geen meting van incidenten tot nu toe. Het Global Threat Report 2026 van CrowdStrike registreerde een stijging van 89% ten opzichte van vorig jaar in het aantal operaties door AI-gestuurde aanvallers, die AI gebruiken voor verkenning, het stelen van inloggegevens en het omzeilen van beveiliging. Hetzelfde rapport schat de gemiddelde breakout-tijd bij eCrime-inbraken, van de eerste toegang tot laterale beweging, op 29 minuten. Dit cijfer heeft betrekking op eCrime-inbraken in het algemeen, niet alleen op die waarbij de aanvaller gebruikmaakte van AI. Dit alles verandert niets aan de aard van het incident. Een door phishing veroorzaakte inbreuk blijft een door phishing veroorzaakte inbreuk. Het verandert wel hoe snel deze zich voortbeweegt en hoe overtuigend deze er gaandeweg uitziet.
De tweede is AI als onderdeel van het aanvalsoppervlak. Dit is nieuwer en minder goed begrepen binnen de meeste incidentresponsplannen. Het omvat prompt-injectie tegen een klantgerichte AI-assistent, datavergiftiging van een model of de trainingsdata ervan, een AI-agent met meer systeemtoegang dan verantwoord is, een gecompromitteerde AI-integratie of API-sleutel, een onveilige vectorstore of RAG-pipeline, en Shadow AI: medewerkers die AI-tools gebruiken die uw IT-team nooit heeft beoordeeld. Hier is het AI-systeem zelf het bedrijfsmiddel dat wordt gecompromitteerd of misbruikt, op dezelfde manier als een server of account bij een conventioneel incident.
De juiste reactie hangt af van welk onderdeel is gecompromitteerd. Bij het uitlekken van inloggegevens van een agent is intrekking vereist, evenals een controle van alle doeleinden waarvoor deze inloggegevens zijn gebruikt. Bij een prompt-injectie dient het invoerkanaal te worden afgeschermd en moet worden nagegaan welke acties het model heeft uitgevoerd op instructie van de aanvaller. Bij een vermoeden van vergiftiging (poisoning) van trainingsgegevens of van een RAG-kennisbank moeten de getroffen gegevens in quarantaine worden geplaatst en moeten de gegevens opnieuw worden opgebouwd of geïndexeerd vanuit een betrouwbare bron. Bij shadow AI moet worden vastgesteld welke gegevens de organisatie hebben verlaten en via welk account. De taxonomie van NIST voor adversarial machine learning-aanvallen (NIST AI 100-2 E2025) is een nuttig naslagwerk om deze soorten aanvallen in uw draaiboeken op een consistente manier te benoemen.
Onze gidsen over veiligheidsrisico's van agentische AI en deepfakes en identiteitsfraude behandelen hoe deze specifieke aanvalstypen in detail werken. Deze gids richt zich op wat ze betekenen voor de mensen die de respons uitvoeren: wat er verandert in detectie, inperking en onderzoek, en wat u moet oefenen.
Hoe AI detectie en triage verandert
Door AI geschreven phishing maakt taalkundige waarschuwingssignalen minder betrouwbaar. De spelfouten, onhandige formuleringen en generieke aanheffen waar medewerkerstraining jarenlang op heeft vertrouwd, verdwijnen uit aanvallersmails, en berichten kunnen op de ontvanger worden afgestemd. E-mailbeveiliging die al gebruikmaakt van afzenderauthenticatie en reputatie blijft werken, maar het menselijke en gedragsmatige signaal moet verschuiven van "ziet dit er slecht geschreven uit" naar gedragsindicatoren: ongebruikelijke verzendpatronen, niet-overeenkomende antwoordadressen, verzoeken die normale goedkeuringsstappen omzeilen, ongeacht hoe goed ze geschreven zijn.
De triage krijgt nieuwe vragen. Wanneer er een waarschuwing binnenkomt, begint u met wat u kunt waarnemen: welke systemen, accounts en gegevens zijn getroffen, en hoe ernstig de gevolgen zijn. Het is de moeite waard om vast te leggen of de aanvaller gebruik heeft gemaakt van AI, maar dit heeft zelden invloed op de eerste stappen en is in een vroeg stadium vaak onmogelijk te bevestigen. De vraag die het draaiboek wel verandert, is of een van uw eigen AI-tools of -agenten hierbij betrokken is. Als dat het geval is, moet het team beoordelen wat die agent kan bereiken: zijn machtigingen, zijn integraties, de instructies waaronder hij werkt en de acties die hij al heeft ondernomen. Een door AI versneld phishingincident blijft een phishingincident: beperk de toegang tot het account, reset de inloggegevens en controleer op laterale beweging. Een gecompromitteerde AI-agent of een incident met prompt-injectie vereist een andere eerste stap, omdat het "account" in kwestie een service-identiteit kan zijn met uitgebreide API-toegang en zonder duidelijke manier om deze uit een sessie te vergrendelen, zoals u dat bij een menselijke gebruiker zou doen.
Er is ook een volumeprobleem. In organisaties die ze gebruiken, kunnen AI-agenten en geautomatiseerde workflows een substantieel deel van het normale verkeer genereren: geplande API-aanroepen, geautomatiseerde datauittreksels, agent-naar-agent-verzoeken. Een SOC die is gekalibreerd op menselijke verkeerspatronen zal kwaadaardige automatisering die zich in die ruis verbergt ofwel missen, ofwel verdrinken in valse positieven telkens wanneer legitieme automatisering er ongebruikelijk uitziet. Detectieafstemming moet rekening houden met wat uw eigen AI-tooling op een normale dag doet, voordat het betrouwbaar kan signaleren wat de AI-tooling van een aanvaller doet op een slechte dag.
Identiteit is nu een incidentgereedheidsprobleem
Machine-identiteiten, API-sleutels, serviceaccounts, OAuth-tokens en nu ook inloggegevens voor AI-agenten overtroffen het aantal menselijke identiteiten met een verhouding van ongeveer 45 op 1 in de bedrijfsomgevingen die Rubrik Zero Labs in 2025 heeft onderzocht, en in sommige gevallen zelfs met een verhouding van 100 op 1. De verhoudingen variëren naargelang de architectuur en de identiteitstypen die worden meegeteld. De meeste organisaties hebben slechts een fractie daarvan geïnventariseerd. Onze gids voor de beveiliging van machine-identiteiten behandelt hoe deze wildgroei ontstaat en hoe u deze onder controle kunt krijgen. Vanuit het oogpunt van incidentrespons is het relevante feit eenvoudiger: als uw plan alleen voorziet in een snelle procedure voor het resetten van het wachtwoord van een menselijke medewerker, beschikt u niet over een snelle procedure voor het type inloggegevens dat het meest waarschijnlijk betrokken zal zijn bij een AI-gerelateerd incident.
Gestolen credentials blijven een van de belangrijkste manieren waarop aanvallers binnenkomen. In het Verizon Data Breach Investigations Report 2026 heeft het misbruik van kwetsbaarheden het misbruik van credentials ingehaald als meest voorkomende eerste stap, maar misbruik van credentials speelt nog altijd in een of andere fase een rol bij 39% van de datalekken. Daarnaast hebben adversary-in-the-middle-technieken die sessietokens stelen in plaats van wachtwoorden, multi-factor-authenticatie alleen tot een onvolledige verdediging gemaakt. Onze gids over MFA-omzeiling en credentialcompromittering behandelt dit in detail. AI verandert het volume en de geloofwaardigheid van de phishing en social engineering die tot die initiële credentialdiefstal leidt. Het verandert niets aan het feit dat uw draaiboek voor het intrekken en roteren van credentials, menselijk en machinaal, bepaalt hoe snel u het indamt.
Inperking, onderzoek en oefenen
Twee aanvullende artikelen behandelen de respons zelf.
AI-incidenten inperken en onderzoeken behandelt waarom het uitschakelen van een gecompromitteerde AI-agent moeilijker is dan het isoleren van een laptop, welk bewijs u vastlegt en bewaart bij een incident met een AI-agent en hoe Shadow AI een incident wordt, ook midden in een ander incident.
AI-incidenten oefenen loopt minuut voor minuut door een fictief incident met een AI-agent met te ruime rechten en beschrijft vier tabletopscenario's om aan uw volgende oefening toe te voegen.
Gereedheidschecklist
Negen punten die de moeite waard zijn om te controleren: een inventarisatie van AI-agenten en integraties, met vermelding van de toegangsmogelijkheden van elke agent; machtigingen op basis van het 'minimale-rechtenbeginsel' voor elke agent, waarbij menselijke goedkeuring vereist is voor acties met grote gevolgen; een gedocumenteerd, vooraf overeengekomen proces voor het snel intrekken van inloggegevens van AI-agenten en API's, waarbij wordt aangegeven wie bevoegd is om elke agent op te schorten (en niet alleen wie daar technisch toe in staat is), met plaatsvervangers; een stap in het draaiboek voor het opsporen en ongedaan maken van wat een gecompromitteerde agent reeds heeft gedaan, zoals aangemaakte records, verzonden berichten, gewijzigde instellingen of uitgegeven nieuwe inloggegevens; een geteste procedure voor het herstellen van een agent, waarin wordt beschreven hoe deze wordt gevalideerd en wie toestemming geeft voor hervatting zonder dat de inbreuk opnieuw plaatsvindt; logboek- en bewaarvereisten voor AI-tools die overeenkomen met wat u reeds van conventionele systemen verlangt; een expliciete instructie over het gebruik van shadow AI tijdens het activeren van een incident; een verificatieprocedure voor verzoeken van grote waarde die niet berust op het herkennen van een stem of gezicht; en ten minste één AI-specifiek scenario in uw tabletop-oefeningen van de afgelopen twaalf maanden.
Niets hiervan vervangt de basisprincipes die worden behandeld in onze gids voor het incidentresponsplan. Het breidt ze uit om de activatypen en aanvalspaden te dekken waarmee een plan van zelfs een jaar of twee geleden geen rekening hield.
Hoe Cyvra helpt
De Cyber Incident Readiness-dienst van Cyvra bouwt en oefent incidentresponscapaciteit die rekening houdt met het volledige scala aan triggers waarmee een bedrijf vandaag te maken heeft, cyber- en AI-gedreven, niet alleen de scenario's waarrond een plan oorspronkelijk is geschreven.
- AI-activa-inventaris: breng de AI-agenten, integraties en machine-credentials in uw omgeving in kaart, wat elk ervan kan bereiken, en wie het kan intrekken
- AI-specifieke incidentdraaiboeken: inperkings- en onderzoeksprocedures voor gecompromitteerde AI-agenten, prompt-injectie en Shadow AI-blootstellingsgebeurtenissen
- Deepfake-verificatieprocedures: praktische out-of-band-verificatiestappen voor goedkeuringen met hoge waarde die niet afhankelijk zijn van het herkennen van een stem of gezicht
- Tabletopoefeningen met AI-specifieke scenario's: geoefend naast uw bestaande ransomware- en datalekdraaiboeken, niet als een aparte oefening die niemand bijwoont
- Credential- en machine-identiteitsgereedheid: vooraf overeengekomen bevoegdheid en proces voor het intrekken van API-sleutels, serviceaccounts en AI-agent-credentials tijdens een incident
Neem contact op met ons Cyber Incident Readiness-team of onze AI-praktijk om te starten met een Incident Readiness Assessment.
Voor de aankondiging van deze dienst en het bredere dreigingslandschap waarvoor deze is gebouwd, zie onze post over de introductie van Cyber Incident Readiness.