Deze pagina behandelt stap 4 tot en met 6 van ons framework voor AI-governance. Ze bouwt voort op het AI-toolregister en de risicoclassificatie uit stap 1 tot en met 3 in AI-inventarisatie, risicoclassificatie en beleid voor acceptabel gebruik. Leveranciers, incidenten en regelgeving volgen in stap 7 tot en met 10.
Stap 4: AVG-verplichtingen
De AVG is van toepassing op elke AI-verwerking waarbij persoonsgegevens betrokken zijn. De verplichtingen die in de praktijk het vaakst ontstaan zijn:
Personen hebben het recht niet te worden onderworpen aan een beslissing die uitsluitend is gebaseerd op geautomatiseerde verwerking wanneer die beslissing voor hen rechtsgevolgen heeft of hen op vergelijkbare wijze aanzienlijk treft. Als een AI-systeem zonder betekenisvolle menselijke tussenkomst uitsluitend geautomatiseerde beslissingen neemt over sollicitanten, kredietwaardigheid, verzekerbaarheid of het recht op uitkeringen, kan artikel 22 van toepassing zijn. Menselijke beoordeling moet de uitkomst daadwerkelijk kunnen beïnvloeden: het simpelweg afvinken van een AI-aanbeveling voldoet niet aan de eis. Niet elke door AI ondersteunde handeling is een uitsluitend geautomatiseerde beslissing: leg per proces vast wie de werkelijke beslissingsbevoegdheid heeft en de AI-uitkomst kan wijzigen of terzijde kan schuiven. Artikel 22 kent specifieke uitzonderingen (uitdrukkelijke toestemming, contractuele noodzaak of wettelijke machtiging) die moeten worden onderscheiden van de rechtsgrondslag van artikel 6 voor de onderliggende verwerking van persoonsgegevens. Beide analyses zijn afzonderlijk vereist. Documenteer uw beoordeling of artikel 22 van toepassing is op elke AI-tool met een hoog risico en bewaar deze documentatie.
Artikel 35 AVG vereist een DPIA vóór verwerking die waarschijnlijk een hoog risico voor personen oplevert. Artikel 35, lid 3, maakt een DPIA in elk geval verplicht bij een systematische en uitgebreide beoordeling van personen op basis van geautomatiseerde verwerking, waaronder profilering, met rechtsgevolgen of vergelijkbare aanzienlijke gevolgen; bij grootschalige verwerking van bijzondere categorieën persoonsgegevens of strafrechtelijke gegevens; en bij stelselmatige en grootschalige monitoring van openbaar toegankelijke ruimten. De AP heeft daarnaast een lijst gepubliceerd van soorten verwerkingen waarvoor een DPIA altijd verplicht is. AI-verwerking met systematische profilering, bijzondere categorieën persoonsgegevens, geautomatiseerde besluitvorming met aanzienlijke gevolgen of grootschalige monitoring vereist daarom vrijwel altijd een DPIA. Voer vóór implementatie een DPIA uit voor elke AI-tool die u als hoog risico classificeert. Voor tools met een gemiddeld risico is een DPIA goede praktijk, ook wanneer deze niet strikt verplicht is. Zie onze gids over DPIA-vereisten voor AI voor een uitgewerkt framework.
Voor de verwerking van persoonsgegevens via een AI-tool is een rechtsgrondslag onder artikel 6 vereist; voor bijzondere categorieën persoonsgegevens is daarnaast een voorwaarde onder artikel 9 vereist. Uw privacyverklaringen moeten personen informeren wanneer AI hun gegevens op een ingrijpende manier verwerkt. Als u AI-tools gebruikt die werknemersgegevens verwerken, werk dan uw privacyverklaring voor medewerkers bij. Als u klantgegevens via AI verwerkt, werk dan uw klantgerichte privacyverklaring bij.
Dit zijn afzonderlijke begrippen die onder verschillende kaders worden beoordeeld. Een DPIA is vereist wanneer verwerking onder de AVG waarschijnlijk een hoog risico voor personen oplevert: een risicoanalyse op het gebied van gegevensbescherming. Dit is niet hetzelfde als een AI-systeem classificeren als "hoog risico" onder de EU AI Act, die andere criteria hanteert op basis van het toepassingsgebied. Een tool met een lage risicoclassificatie onder de EU AI Act kan onder de AVG toch een DPIA vereisen als deze grootschalige profilering, bijzondere categorieën persoonsgegevens of geautomatiseerde beslissingen met aanzienlijke gevolgen omvat.
Internationale gegevensdoorgiften
Het gaat om de feitelijke gegevensstroom: waar de leverancier de gegevens daadwerkelijk verwerkt en opslaat, welke subverwerkers betrokken zijn en of medewerkers in andere landen er op afstand toegang toe hebben. Als persoonsgegevens de EER verlaten, controleer dan in de verwerkersovereenkomst welk doorgiftemechanisme wordt gebruikt: een adequaatheidsbesluit (voor de Verenigde Staten het EU-VS Data Privacy Framework, als de ontvanger daarvoor gecertificeerd is), de standaardcontractbepalingen (SCC's) van de Europese Commissie of bindende bedrijfsvoorschriften. Bij SCC's hoort ook een beoordeling van het recht en de praktijk in het land van bestemming (transfer impact assessment). Krijgt u daarover geen duidelijk antwoord, vraag dan vóór gebruik van de tool voor persoonsgegevens om schriftelijke verduidelijking.
Maak ook onderscheid in wat de leverancier met de gegevens doet: verwerking volgens uw instructies als verwerker; gebruik voor eigen doeleinden, waarbij de leverancier zelf verwerkingsverantwoordelijke kan zijn; telemetrie en gebruiksgegevens van de dienst; en toegang door subverwerkers. Een toezegging dat uw gegevens niet voor training worden gebruikt, beantwoordt maar één van deze vragen: daarmee is niet geregeld waar de gegevens naartoe worden doorgegeven, hoe lang prompts en uitvoer worden bewaard of wie er toegang toe heeft.
Stap 5: Bouw menselijk toezicht in workflows in
Menselijk toezicht is alleen betekenisvol wanneer de persoon die AI-output beoordeelt over de informatie en tijd beschikt om een echte beoordeling te maken. Een workflow waarin een manager binnen een minuut op "goedkeuren" klikt bij een AI-gegenereerde HR-beoordeling is geen toezicht. Het is een aansprakelijkheidsrisico vermomd als proces.
Definieer voor elke workflow met gevolgen waarin AI wordt gebruikt:
- Wie de AI-output beoordeelt en wat deze beoordeling moet omvatten
- Welke informatie zij nodig hebben om die beoordeling te maken, inclusief context waartoe de AI geen toegang had
- Wat zij kunnen wijzigen voordat de beslissing wordt vastgelegd en hoe wijzigingen worden gedocumenteerd
- Hoe de beslissing en de betrokkenheid van AI worden geregistreerd voor het geval later bezwaar wordt gemaakt of een audit plaatsvindt
- Met wie de betrokkene contact kan opnemen om menselijke beoordeling te verzoeken van een beslissing die hem of haar heeft geraakt
De loggingvereiste is bijzonder belangrijk. Als een wervingsbeslissing of kredietaanvraag wordt aangevochten, moet u kunnen aantonen wat de AI heeft geproduceerd, wat de beoordelaar heeft gewijzigd en wie de uiteindelijke beslissing heeft genomen. Mondelinge processen laten u onbeschermd achter.
Bij de implementatie van Microsoft 365 Copilot, ligt de nadruk minder op individuele beslissingen en meer op toegangscontroles voor gegevens: welke gegevens Copilot kan tonen, wie wat kan zien en of SharePoint-sites met te ruime rechten zichtbaar zijn voor medewerkers die geen toegang tot die content zouden mogen hebben.
Stap 6: Beveiligingsmaatregelen voor AI
AI-tools introduceren beveiligingsrisico's waarvoor de meeste bestaande beheersmaatregelen niet zijn ontworpen. AI-governance zonder beheersing van het beveiligingsprofiel laat een aanzienlijk gat, vooral wanneer organisaties AI koppelen aan interne gegevens, API's en bedrijfsprocessen.
Toegangscontrole en least privilege
Zakelijke AI-tools, met name tools die zijn geïntegreerd met uw Microsoft 365-omgeving, CRM of bestandssystemen, tonen gegevens op basis van waartoe de gebruiker toegang heeft. Als uw SharePoint-rechten te ruim zijn, zal Copilot documenten tonen die de gebruiker niet zou mogen zien. Controleer de rechten in uw gekoppelde systemen voordat u AI-tools inschakelt die deze kunnen doorzoeken. Pas least privilege toe: gebruikers mogen alleen toegang hebben tot de gegevens die hun rol vereist, niet tot alles wat hun account technisch toestaat.
Prompt injection
Prompt injection is een aanval waarbij kwaadaardige instructies die zijn ingebed in content die de AI verwerkt, ervoor zorgen dat de AI onbedoelde acties uitvoert of informatie lekt. Bij klantgerichte AI-implementaties: chatbots, AI-ondersteunde e-mailverwerking, documentanalyse: kan een aanvaller invoer samenstellen die de systeeminstructies overschrijft. Beheersmaatregelen omvatten outputvalidatie, gesandboxte uitvoeringsomgevingen, het beperken van de mogelijkheid van de AI om autonome acties uit te voeren en het loggen van alle invoer en output voor beoordeling.
Datalekken en gevoelige inhoud in prompts
Medewerkers nemen routinematig meer informatie op in AI-prompts dan ze van plan waren. Inloggegevens, persoonsgegevens, klantnamen, financiële cijfers en vertrouwelijke strategiedocumenten verschijnen in prompts zonder dat de gebruiker nadenkt over waar die gegevens terechtkomen. Training vermindert de frequentie, maar technische beheersmaatregelen zijn belangrijker: classificeer gegevens in rust, beperk welke gegevenscategorieën toegankelijk zijn voor AI-applicaties en configureer DLP-beleid om prompts met gevoelige patronen te signaleren of te blokkeren.
Shadow AI en niet-goedgekeurde integraties
Shadow AI is geen eenmalig discoveryprobleem. Er worden voortdurend nieuwe tools gelanceerd, medewerkersaccounts veranderen en browserextensies stapelen zich op. Periodieke scans van uw SaaS-omgeving, analyse van uitgaand verkeer en een duidelijk meldkanaal waarmee medewerkers AI-tools kunnen melden die ze willen gebruiken, maken allemaal deel uit van doorlopend Shadow AI-beheer. Medewerkers die een tool niet snel goedgekeurd krijgen, zullen deze toch gebruiken en het niemand vertellen.
Supply-chain- en modelrisico
Foundationmodellen die commerciële AI-tools aandrijven, kunnen zonder aankondiging worden bijgewerkt, waardoor hun gedrag, output of kenmerken van gegevensverwerking veranderen. AI-plugins en integraties van derden breiden het vertrouwen uit naar aanvullende partijen die niet in uw oorspronkelijke due diligence zijn meegenomen. Controleer de lijst met subverwerkers in verwerkersovereenkomsten van leveranciers, volg release notes van leveranciers op materiële wijzigingen en test het gedrag van AI-output na belangrijke modelupdates in kritieke workflows.
Logging en incidentdetectie
Log het gebruik van AI-tools: wie wat gebruikte, wanneer en, waar mogelijk, met welke gegevens. Logs maken incidentonderzoek mogelijk, voldoen aan auditvereisten en detecteren afwijkende patronen, zoals ongebruikelijke hoeveelheden verwerkte gegevens of toegang vanaf onverwachte accounts. Zorg ervoor dat de bewaartermijn van logs aansluit bij uw incidentrespons- en wettelijke vereisten, doorgaans minimaal 12 maanden.