- Agenten zorgen ervoor dat AI de stap zet van lezen naar handelen: zij creëren, verwijderen, verzenden en activeren via tools. Wat een agent kan doen, wordt bepaald door de rechten en tools die u hem toekent.
- Prompt-injectie is een van de grootste bedreigingen. Modellen kunnen betrouwbaar geen onderscheid maken tussen betrouwbare instructies en instructies die verborgen zitten in e-mails, documenten of webpagina's die zij verwerken.
- Het toekennen van te ruime rechten is een terugkerend risico. Beperk de toegang van elke agent tot de middelen die nodig zijn voor zijn taak en maak gebruik van tijdelijke inloggegevens.
- Handhaaf autorisatie buiten het model om. Deterministische controles in de API of de uitvoeringslaag bepalen wat is toegestaan, ongeacht wat het model vraagt.
- Shadow-agents laten niet altijd een OAuth-toestemmingsrecord achter. Voor het opsporen zijn meerdere bronnen nodig: identiteitsprovider, inventarissen van low-code-platforms, SaaS-beheerdersconsoles en netwerklogboeken.
- Houd rekening met een gecompromitteerde agent: een noodstop moet tools en inloggegevens intrekken, en niet alleen de chatinterface sluiten.
Wat agentische AI doet
Een chatbot geeft tekst weer. Een agent maakt gebruik van tools. Tools zijn integraties waarmee de AI acties kan uitvoeren: een API aanroepen, bestanden lezen en schrijven, een database doorzoeken, e-mail verzenden, code uitvoeren, op het web surfen, workflows activeren of agenda-afspraken aanmaken. Het model beslist welke tools moeten worden aangeroepen, en in welke volgorde, op basis van het doel dat het is toegewezen.
Veelvoorkomende voorbeelden binnen ondernemingen zijn onder meer Microsoft 365 Copilot-agenten die e-mailberichten opstellen, SharePoint-documenten lezen en CRM-records bijwerken; modellen die via MCP-servers (Model Context Protocol) zijn gekoppeld aan interne kennisbanken en ticketsystemen; klantenservicemedewerkers die bestellingen opzoeken en terugbetalingen verwerken; en IT-agenten die gebruikers aanmaken, licenties toewijzen en wachtwoorden resetten.
De meeste eerdere AI-implementaties waren alleen-lezen. Ze maakten samenvattingen van documenten, beantwoordden vragen en genereerden tekst. Agenten kunnen zowel lezen als schrijven: ze maken, verwijderen, wijzigen, verzenden en activeren. Die verandering is wat het risicomodel beïnvloedt.
Beoordeel elke agent voordat deze live gaat
Zes vragen geven een snel eerste beeld van hoeveel schade een agent zou kunnen aanrichten en hoeveel controle er nodig is. Beantwoord deze vragen voor elke agent en noteer de antwoorden in uw agenteninventaris.
| Vraag | Waarom dit van belang is | Antwoord met hoger risico |
|---|---|---|
| Wat kan de agent lezen? | Bepaalt welke gegevens een aanvaller via de agent zou kunnen extraheren | Mailboxen, volledige bestandsopslagplaatsen, klant- of HR-gegevens |
| Wat kan het wijzigen? | Geeft de schade aan die een gemanipuleerde agent zou kunnen aanrichten | Betalingen, gebruikersaccounts, productiedossiers, externe berichten |
| Wie keurt de acties goed? | Geeft aan of er een persoon of een beleidscontrole tussen het model en de actie staat | Geen goedkeuringsstap en geen onafhankelijke beleidscontrole |
| Verwerkt het externe inhoud? | Externe inhoud vormt de belangrijkste route voor indirecte prompt-injectie | Inkomende e-mail, openbare webpagina's, documenten van leveranciers, uploads van klanten |
| Wat gebeurt er als het mislukt of gemanipuleerd wordt? | Bepaalt de gevolgen voor klanten, financiën en naleving | Financieel verlies, datalekken, onomkeerbare wijzigingen |
| Kan dit snel worden gestopt? | Bepaalt hoe lang een inbreuk kan voortduren | Geen noodschakelaar, gedeelde inloggegevens, geen verantwoordelijke die bereikbaar is |
Het nieuwe aanvalsoppervlak
Het aanvalsoppervlak bestaat uit vier lagen. Ten eerste de modelinput: alles wat het model verwerkt, kan vijandige instructies bevatten, en het model beschikt niet over een betrouwbare manier om deze te onderscheiden van legitieme instructies. Ten tweede de toolintegraties: elke API-verbinding vormt een uitvoeringspad, en elke tool die aan een agent wordt toegevoegd, vergroot het bereik van een succesvolle aanval. Ten derde, de gegevens in het contextvenster: documenten, e-mails en databaseresultaten die de agent leest, kunnen ingebedde instructies bevatten waarop de agent vervolgens reageert. Ten vierde, de orkestratielaag: in systemen met meerdere agenten delegeert de ene agent taken aan een andere, waardoor een gemanipuleerde subagent acties kan ondernemen die de primaire agent nooit had mogen goedkeuren.
Snelheid verandert het beeld. Een agent kan in de tijd die een persoon nodig heeft om één toolaanroep uit te voeren, vele toolaanroepen uitvoeren, verspreid over alle bronnen waartoe zijn machtigingen reiken. Een gemanipuleerde agent kan daarom schade aanrichten voordat een persoon dit opmerkt, en de omvang van die schade hangt af van de machtigingen en tools die u hem hebt toegekend. Daarom zijn het afbakenen van machtigingen en uitvoeringslimieten belangrijker dan detectie alleen.
Te ruime machtigingen en schadebereik
Het principe van 'minimale rechten' geldt voor agents net zoals voor personen en serviceaccounts. Te ruime machtigingen vormen een terugkerend risico, omdat brede toegang sneller in te stellen is dan nauwkeurig afgebakende reikwijdtes, en de kosten pas zichtbaar worden wanneer er iets misgaat.
Kijk niet alleen naar de naam van een machtiging, maar ook naar de wijze waarop deze wordt verleend. In Microsoft Graph geeft de machtiging Files.ReadWrite.All, wanneer deze als gedelegeerde machtiging wordt verleend, de agent de mogelijkheid om acties uit te voeren op bestanden die voor de aangemelde gebruiker toegankelijk zijn. Wanneer deze machtiging als applicatiemachtiging wordt verleend, heeft de agent toegang tot bestanden in de gehele tenant, zonder dat er een gebruiker aan te pas komt. Voor een agent die slechts één SharePoint-site nodig heeft, beperken de 'Selected'-machtigingen van Microsoft (Sites.Selected en de nieuwere varianten per lijst en per item) de toegang van de applicatie tot de bronnen die u expliciet toekent.
Veelvoorkomende patronen om op te letten: tenantbrede bestands- of e-mailmachtigingen terwijl één site of map volstaat; agents die elk extern eindpunt kunnen aanroepen in plaats van een lijst met toegestane bestemmingen; en gedeelde serviceaccounts die machtigingen uit verschillende projecten hebben verzameld.
Om de reikwijdte van een agent in te schatten, maakt u een lijst van alle API's, systemen en gegevensopslagplaatsen die deze kan bereiken, en beschrijft u voor elk daarvan wat een gemanipuleerde agent ermee zou kunnen doen op machinesnelheid. Indien dat resultaat onaanvaardbaar is in verhouding tot de waarde van de taak, beperkt u de machtigingen totdat het aanvaardbaar is. Monitoring helpt u misbruik op te merken; het beperkt niet wat de agent kan bereiken.
Geef elke agent een eigen identiteit. Geef de voorkeur aan beheerde identiteiten of workload-identiteiten met kortlopende inloggegevens boven langdurige geheimen, zodat het intrekken van de rechten van één agent geen invloed heeft op andere agenten en audittrajecten overzichtelijk blijven. Wanneer een agent namens een specifieke gebruiker handelt, maak dan gebruik van gedelegeerde autorisatie, zodat deze binnen de rechten van die gebruiker opereert en niet met eigen, ruimere rechten. In onze gids over de beveiliging van machine-identiteiten wordt beschreven hoe u deze identiteiten kunt beheren.
Beheersmaatregelen en governance in detail
Twee aanvullende artikelen behandelen de maatregelen in detail.
AI-agenten beveiligen legt uit hoe directe, indirecte en geheugengebaseerde prompt-injectie werken, waarom autorisatiecontroles buiten het model horen, welke runtime-limieten een gemanipuleerde agent inperken, hoe u MCP-servers beoordeelt en hoe u agents test vóór de lancering.
Governance voor AI-agenten behandelt het opsporen van shadow-agents op low-code platforms, het bijhouden van een agenteninventaris, menselijke goedkeuring die past bij het risico van elke actie, het loggen van toolaanroepen en de stappen die u zet als een agent gecompromitteerd is.
Controles vóór de volgende implementatie van een agent
- Beoordeel de agent. Beantwoord de zes bovenstaande risicovragen en leg het resultaat vast in uw agenteninventaris.
- Bepaal de reikwijdte van de machtigingen. Documenteer elke API, gegevensopslag en elk systeem waartoe de agent toegang heeft. Gebruik de meest beperkte reikwijdte die beschikbaar is, zoals Selected-machtigingen in plaats van toegang voor de gehele tenant, en leg vast waarom elke machtiging nodig is.
- Geef de agent een eigen identiteit. Gebruik een beheerde identiteit of een identiteit voor de workload met tijdelijke inloggegevens, en gedelegeerde autorisatie wanneer de agent namens een gebruiker handelt. Geen persoonlijke inloggegevens of gedeelde accounts.
- Handhaaf autorisatie buiten het model. Plaats beleidscontroles en parametervalidatie in de uitvoeringslaag.
- Stel runtime-limieten en een noodstop in. Limieten voor verwerkingssnelheid en transacties, een toegangslijst voor uitgaand verkeer en een geteste methode om de agent te stoppen en zijn inloggegevens in te trekken.
- Voeg risicogebaseerde goedkeuring toe. Menselijke goedkeuring voor risicovolle en kritieke acties, waarbij de exacte parameters aan de goedkeurder worden getoond.
- Schakel het loggen van toolaanroepen in. Leg identiteit, doel, tool, resource, resultaat, correlatie-ID en autorisatiebeslissing vast, met minimalisatie en toegangscontrole.
- Test eerst, evalueer daarna. Test in verhouding tot het risico vóór de lancering, evalueer bij elke wijziging en voer uw detectie van shadow-agents regelmatig uit.
Ryland levert al meer dan twintig jaar programma's op het gebied van cyberbeveiliging, compliance en IT-beheer voor gereguleerde organisaties in het Verenigd Koninkrijk en Nederland. Bekijk volledig profiel