Deze pagina behandelt stap 7 tot en met 10 van ons framework voor AI-governance. De maatregelen voor gegevensbescherming en beveiliging waarop deze stappen voortbouwen, staan in gegevensbescherming, menselijk toezicht en beveiligingsmaatregelen voor AI.
Stap 7: Due diligence van leveranciers
Veel AI-tools zijn afhankelijk van externe leveranciers, voor het model, de hosting van de infrastructuur of de verwerking van gegevens. Andere worden intern ontwikkeld en beheerd. Breng in kaart welke leveranciers betrokken zijn, welke gegevensstromen er zijn en of elke partij optreedt als verwerkingsverantwoordelijke of verwerker, op basis van wat zij feitelijk doet. De onderstaande due-diligencevragen gelden voor elke nieuwe AI-tool vóór goedkeuring en moeten opnieuw worden bekeken wanneer een leverancier belangrijke wijzigingen aanbrengt in zijn voorwaarden of product.
| Vraag | Waarom dit belangrijk is |
|---|---|
| Trainen ze hun modellen standaard met klantgegevens? | Veel gratis tools doen dit. Zakelijke abonnementen bieden doorgaans een opt-out. Bevestig dat deze is uitgeschakeld en leg dit schriftelijk vast. |
| Waar worden gegevens verwerkt en opgeslagen? | Bepaalt welk overdrachtsmechanisme nodig is voor AVG-naleving. |
| Wie zijn de subverwerkers? | De AI-infrastructuur van uw leverancier kan op AWS, Azure of Google Cloud in een andere jurisdictie draaien. Controleer de lijst met subverwerkers in de verwerkersovereenkomst of de voorwaarden van de leverancier. |
| Wat gebeurt er met gegevens wanneer u opzegt? | Bevestig de verwijdertermijnen. Sommige leveranciers bewaren gegevens voor modelverbetering na beëindiging van het contract, tenzij u expliciet om verwijdering verzoekt. |
| Welke beveiligingscertificeringen heeft de leverancier? | ISO 27001 en SOC 2 Type II bieden nuttige zekerheid voor AI-tools die gevoelige gegevens verwerken, maar certificering moet worden beoordeeld naast de beveiligingsmaatregelen, contractuele verplichtingen, gegevensverwerkingspraktijken en onafhankelijke assurance van de leverancier. Vraag waar van toepassing om het actuele certificaat. |
| Wat is de bewaartermijn voor prompts en output? | Sommige platforms bewaren gesprekshistorie gedurende langere perioden. Dit is relevant voor uw bewaarbeleid voor gegevens en voor het beantwoorden van inzageverzoeken van betrokkenen. |
| Hoe classificeert de leverancier zijn systeem onder de EU AI Act? | Relevant als u activiteiten in de EU heeft. Vraag of de leverancier een conformiteitsbeoordeling heeft uitgevoerd en aan welk risiconiveau hij zijn systeem toewijst. |
Voeg de verwerkersovereenkomst van de leverancier (als deze als verwerker optreedt) en een samenvatting van de antwoorden op deze vragen toe aan het AI-toolregister. Wanneer een leverancier zijn voorwaarden bijwerkt, laat uw register zien welke tools opnieuw moeten worden beoordeeld.
Inkoopvereisten voor AI
Neem de due-diligencevragen hierboven op in het inkoopproces zelf, niet als een aparte controle achteraf nadat het contract al is getekend. Voor elke nieuwe AI-tool met een gemiddeld of hoog risico horen de volgende punten standaard in de contractuele voorwaarden of het addendum te staan:
- Gegevensverwerking en training: expliciete bevestiging dat uw gegevens niet worden gebruikt om het model te trainen, tenzij u daarvoor kiest
- Beveiliging en privacy: minimale beveiligingsstandaarden en, als de leverancier als verwerker optreedt, een verwerkersovereenkomst conform artikel 28 AVG. Treedt de leverancier op als zelfstandige verwerkingsverantwoordelijke, bijvoorbeeld bij gebruik van gegevens voor eigen doeleinden, beoordeel dan zijn voorwaarden en de grondslag voor dat gebruik in plaats van aan te nemen dat een verwerkersovereenkomst volstaat
- Bewaartermijn en verwijdering: vastgelegde bewaartermijnen voor prompts en output, en een verwijdertermijn na beëindiging
- Gegevenslocatie en subverwerkers: waar gegevens worden verwerkt en wie de subverwerkers zijn, met kennisgeving bij wijzigingen
- Incidentmelding: een contractuele termijn waarbinnen de leverancier een beveiligingsincident of datalek moet melden
- Audit en medewerking aan toezicht: het recht om bewijs van beveiligings- en governancemaatregelen op te vragen
- Wijzigingen in model of dienst: kennisgeving vooraf bij materiële wijzigingen die het risicoprofiel van de tool kunnen veranderen
- Uittreding en overdraagbaarheid: hoe u bij beëindiging van het contract uw gegevens terugkrijgt en laat verwijderen
Leg deze punten vast als standaardvoorwaarden voor AI-inkoop, zodat elk nieuw contract erop wordt getoetst voordat het wordt ondertekend, in plaats van dat u ze achteraf probeert te herstellen.
Stap 8: AI-incidentmanagement
Governance moet ook beschrijven wat er gebeurt wanneer iets misgaat. AI-incidenten zijn niet hetzelfde als algemene IT-incidenten en uw bestaande incidentresponsproces houdt hier mogelijk geen rekening mee. Definieer wat als AI-incident geldt en zorg ervoor dat de escalatieroute uw AI-governance-eigenaar en, waar relevant, uw FG/DPO bereikt.
Wat geldt als een AI-incident
- Vertrouwelijke gegevens of persoonsgegevens ingevoerd in een ongeautoriseerde of niet-goedgekeurde AI-tool
- AI-gegenereerde content die zonder passende controle naar een klant is verzonden of extern is gepubliceerd
- Discriminerende of schadelijke AI-output die een persoon raakt
- Een onjuiste geautomatiseerde beslissing met aanzienlijke gevolgen voor een persoon
- Prompt injection die leidt tot blootstelling van gegevens of onbedoeld AI-gedrag
- Een beveiligingsincident bij een AI-leverancier dat uw gegevens raakt
- Verboden AI-gebruik door een medewerker
- AI-gegenereerde content die juridische, regelgevende of reputatieschade veroorzaakt
- Onverwacht modelgedrag na een update van de leverancier
Niet elk AI-incident is een meldplichtig datalek. Of u de AP of betrokkenen moet informeren, hangt af van de drempels die de AVG voor datalekken hanteert, niet van het feit dat het incident als AI-incident is geregistreerd.
Responsproces
AI-incidenten waarbij sprake is van een datalek met persoonsgegevens sluiten rechtstreeks aan op uw bredere incidentresponscapaciteit. Als uw organisatie geen getest incidentresponsproces heeft, is een AI-incident een slecht moment om daarachter te komen.
Stap 9: Toepasselijkheid van de EU AI Act
De EU AI Act is als verordening rechtstreeks van toepassing in Nederland. Op grond van artikel 2 geldt de verordening onder meer voor aanbieders die AI-systemen of AI-modellen voor algemene doeleinden in de EU in de handel brengen of in gebruik stellen, ongeacht waar zij gevestigd zijn, voor gebruiksverantwoordelijken die in de EU zijn gevestigd, en voor aanbieders en gebruiksverantwoordelijken buiten de EU wanneer de output van het AI-systeem in de EU wordt gebruikt. Welke verplichtingen voor uw organisatie gelden, hangt af van uw rol en van het risiconiveau van elk systeem.
De EU AI Act wordt vaak samengevat in vier risiconiveaus: onaanvaardbaar risico (verboden), hoog risico, beperkt risico (transparantieverplichtingen) en minimaal risico. Die samenvatting is een vereenvoudiging: de transparantieverplichtingen van artikel 50 (bijvoorbeeld melden dat iemand met een AI-systeem communiceert of door AI gegenereerde content markeren) en de verplichtingen voor aanbieders van AI-modellen voor algemene doeleinden (artikel 53 en verder) gelden los van deze niveaus. De praktisch meest relevante bepalingen zijn:
Verboden AI
Voorbeelden van verboden AI-praktijken die sinds februari 2025 gelden (dit is geen uitputtende lijst van de verboden in artikel 5):
- AI-systemen die subliminale technieken gebruiken om gedrag op schadelijke wijze te manipuleren
- Social scoring dat leidt tot nadelige of ongunstige behandeling van personen (het verbod geldt voor publieke én private partijen)
- Real-time biometrische identificatie op afstand in openbare ruimten (met beperkte uitzonderingen voor rechtshandhaving)
- AI die kwetsbaarheden in verband met leeftijd, handicap of sociale situatie uitbuit om gedrag te verstoren
Hoog-risico-AI
Volgens de herziene implementatietijdlijn gelden de regels voor hoog-risico-AI-systemen die onder Bijlage III vallen vanaf 2 december 2027. Voor bepaalde hoog-risicosystemen die zijn ingebed in gereguleerde producten gelden de regels vanaf 2 augustus 2028. Er zijn twee routes naar de status hoog risico: artikel 6, lid 1, voor AI-systemen die als product, of als veiligheidscomponent van een product, onder de harmonisatiewetgeving van Bijlage I vallen en een conformiteitsbeoordeling door een derde moeten ondergaan, en artikel 6, lid 2, voor de toepassingen in Bijlage III. Hoog-risicocategorieën omvatten AI voor werving en arbeidsbeslissingen, onderwijsbeoordeling, kredietbeoordeling, verzekeringsrisicobeoordeling, beheer van kritieke infrastructuur en rechtshandhaving. Als uw organisatie AI op een van deze gebieden inzet en activiteiten in de EU heeft of personen in de EU raakt, begin dan nu met de voorbereidingen voor compliance. De compliancegids voor de EU AI Act behandelt de volledige risicostructuur en wat elk niveau vereist.
GPAI-modellen
De regels voor general-purpose AI-modellen gelden sinds augustus 2025. Deze raken vooral modelontwikkelaars en aanbieders, in plaats van organisaties die AI-tools commercieel gebruiken, maar organisaties die foundationmodellen voor hun eigen producten fine-tunen of aanpassen, moeten specifiek advies inwinnen.
Stap 10: ISO 42001 als managementsysteem
ISO/IEC 42001:2023 is de internationale norm voor AI-managementsystemen. Deze stelt eisen aan de manier waarop een organisatie het beheer van AI-gerelateerde activiteiten vaststelt, implementeert, onderhoudt en voortdurend verbetert. Als u al beschikt over ISO 27001, zijn veel elementen van het managementsysteem rechtstreeks overdraagbaar.
ISO 42001-certificering is vooral zinvol voor:
- Organisaties die op grote schaal AI-systemen ontwikkelen of inzetten
- Gereguleerde organisaties waar auditors of klanten formeel bewijs van AI-governance vragen
- Organisaties met verplichtingen voor hoog-risico-AI onder de EU AI Act, waarbij ISO 42001 kan bijdragen aan een conformiteitsbeoordeling
- Bedrijven waarbij AI-governance een onderscheidende verkoopfactor in de markt is
Voor de meeste mkb-organisaties die AI-tools commercieel gebruiken in plaats van ze zelf te bouwen, is formele ISO 42001-certificering niet evenredig. Het implementeren van de bijbehorende governance-beheersmaatregelen, waaronder een AI-beleid, een risicobeoordelingsproces, vereisten voor menselijk toezicht en een beoordelingscyclus, biedt u de inhoud zonder de certificeringslast. Onze ISO 42001-gids behandelt gedetailleerd wat de norm vereist.