Wanneer AI-verwerking een DPIA vereist: wat de drempel is en wat erin moet

Wat AVG-artikel 35 daadwerkelijk vereist

AVG-artikel 35 vereist een gegevensbeschermingseffectbeoordeling (DPIA) voordat verwerking plaatsvindt die waarschijnlijk een hoog risico inhoudt voor de rechten en vrijheden van natuurlijke personen. Het woord "voordat" is belangrijk. Dit is een voorafgaande verplichting, niet iets dat u achteraf kunt voltooien zodra een tool al in gebruik is. Als u een AI-tool heeft geïmplementeerd die aan de drempel voldoet zonder een voltooide DPIA, bent u in overtreding totdat de beoordeling is afgerond.

De richtlijnen 09/2022 van de EDPB vertalen "waarschijnlijk hoog risico" in negen operationele criteria. Voldoen aan twee of meer vereist een DPIA. Voldoen aan minder betekent niet automatisch dat u vrij bent: toezichthouders kunnen er toch een vereisen, en documenteren waarom u heeft geconcludeerd dat een DPIA niet nodig was, is op zichzelf al goede praktijk.

De negen criteria

Dit zijn de criteria van de EDPB. Twee of meer betekent dat een DPIA vereist is voordat de verwerking begint.

Beoordeling of profilering op basis van persoonsgegevens

Geautomatiseerde besluitvorming met aanzienlijke of rechtsgevolgen voor personen

Stelselmatige monitoring van medewerkers, klanten of openbare ruimten

Verwerking van bijzondere categorieën: gezondheid, financieel, biometrisch, religieus, politiek of strafrechtelijk

Grootschalige gegevensverwerking

Koppeling of combinatie van gegevensbestanden uit afzonderlijke bronnen

Verwerking van gegevens van kwetsbare personen, waaronder medewerkers, patiënten of kinderen

Innovatief gebruik van een nieuwe technologische oplossing of aanpak

Verwerking die betrokkenen belet hun rechten uit te oefenen of toegang te krijgen tot een dienst

Criterium 8 is van toepassing op vrijwel elke AI-tool in een zakelijke context. Generatieve AI, grote taalmodellen en AI-gestuurde analyses worden door EU-toezichthouders allemaal als innovatieve technologieën geclassificeerd. In combinatie met criterium 1, dat van toepassing is op elk systeem dat personen beoordeelt of profileert, overschrijden de meeste AI-implementaties de drempel voordat u criteria 3 tot en met 7 bereikt.

Waar AI-tools staan tegenover deze criteria

De vier scenario's hieronder behandelen de AI-toepassingen waarop toezichthouders het meest letten. Elk scenario geeft aan welke criteria van toepassing zijn en waarom.

Scenario 1

HR- en wervings-AI

AI die cv's screent, kandidaten beoordeelt of prestatiegegevens van medewerkers analyseert, voldoet aan criterium 1 (beoordeling), 2 (beslissingen die invloed hebben op werk) en 7 (medewerkers zijn een kwetsbare categorie in de meeste FG-richtlijnen). Dit is het scenario dat het vaakst zonder DPIA wordt ingezet.

Scenario 2

Klantprofilering en scoring

Platforms in retail, financiële dienstverlening en verzekeringen die AI gebruiken voor het profileren van gedrag, beoordelen van kredietwaardigheid of personaliseren van aanbiedingen, activeren minimaal criteria 1 en 5. Financiële of gezondheidsdata in het profiel voegt criterium 4 toe. De meeste implementaties combineren ook datasets uit meerdere bronnen, wat criterium 6 toevoegt.

Scenario 3

Monitoring van medewerkerscommunicatie

Tools die werkpatronen, vergaderfrequentie, reactietijden of documentactiviteit analyseren om inzichten over individuele medewerkers te genereren, activeren criterium 3 (stelselmatige monitoring), 7 (medewerkers) en 8 (innovatieve technologie). Microsoft Copilot dat is geconfigureerd om medewerkeractiviteit samen te vatten valt hieronder.

Scenario 4

Geautomatiseerde toegangs- en toelatingsbeslissingen

AI-systemen die zonder menselijke tussenkomst bepalen wie toegang krijgt tot een dienst, uitkering of resource, activeren criterium 2. Als de AI ondoorzichtig is over hoe de beslissing tot stand is gekomen, is ook criterium 9 van toepassing. Fraudedetectiesystemen en toegangscontrolmodellen vallen hier vaak onder.

Vereist Microsoft Copilot een DPIA?

Voor de meeste organisaties: ja.

Copilot verwerkt e-mail, Teams-gesprekken, SharePoint-documenten en agendagegevens met de rechten van de ingelogde gebruiker. Het voldoet onmiddellijk aan criterium 8 (innovatieve technologie) en aan criterium 3 wanneer het wordt gebruikt in een context waarbij het werknemerscommunicatie op schaal analyseert of samenvat. Als uw HR-, juridische of managementteams Copilot gebruiken om prestatiegegevens te bekijken, patronen in e-mailthreads te identificeren of beoordelingen op te stellen op basis van medewerkersgegevens, gelden ook criteria 1 en 2.

Een DPIA verhindert de implementatie niet. Het vereist dat u de verwerking documenteert, risico's identificeert en mitigerende maatregelen treft. De machtigingencontrole, configuratie van gevoeligheidslabels en acceptabel-gebruiksbeleid die in ons artikel over Copilot-governance worden besproken, tellen allemaal als gedocumenteerde mitigaties en horen thuis in de DPIA.

Voor versus na implementatie

Een DPIA die na de implementatie wordt voltooid, is beter dan geen DPIA, maar heft de overtreding tijdens de tussenliggende periode niet op. Als er een datalek optreedt terwijl een tool in gebruik is zonder verplichte DPIA, beschouwen toezichthouders de afwezigheid van de beoordeling als een verzwarende omstandigheid bij handhavingsbeslissingen.

Wat een DPIA daadwerkelijk moet bevatten

AVG-artikel 35(7) specificeert vier componenten. Elke DPIA moet alle vier behandelen, ongeacht de indeling of lengte.

Een systematische beschrijving van de verwerking: welke gegevens de AI-tool verwerkt, waar deze vandaan komen, hoe lang ze worden bewaard en voor welke doeleinden ze worden gebruikt
Een beoordeling van de noodzaak en proportionaliteit: waarom deze verwerking noodzakelijk is om het genoemde doel te bereiken en of een minder privacybelastende aanpak hetzelfde resultaat zou bereiken
Een beoordeling van de risico's voor rechten en vrijheden: specifieke risico's voor personen, met een beoordeling van waarschijnlijkheid en ernst voor elk risico
Maatregelen om elk geïdentificeerd risico aan te pakken: technische en organisatorische waarborgen, met een duidelijke koppeling tussen elk risico en de bijbehorende maatregel

Waar de organisatie een Functionaris voor Gegevensbescherming (FG) heeft, moet deze worden geraadpleegd en diens advies worden gedocumenteerd. Waar het resterende risico na mitigaties hoog blijft, moet de toezichthouder worden geraadpleegd voordat de verwerking begint.

Wat te documenteren: een praktische checklist

Verwerkingsbeschrijving. Benoem de AI-tool, de leverancier, de gegevensstromen, de rechtsgrondslag voor verwerking, de betrokken gegevenscategorieën en de bewaartermijn. Wees specifiek: "Microsoft Copilot voor Microsoft 365, verwerking van e-mail- en Teams-gegevens op basis van gerechtvaardigd belang, bewaard conform het 30-daagse promptlogbeleid van Microsoft."

Negen-criteria-beoordeling. Werk elk criterium door en documenteer of het van toepassing is, met toelichting. Als minder dan twee criteria van toepassing zijn, leg dan vast waarom en bewaar dit. Als twee of meer van toepassing zijn, ga dan over tot een volledige DPIA.

Noodzakelijkheids- en proportionaliteitstoets. Formuleer wat de tool bereikt en waarom dat doel dit niveau van gegevenstoegang vereist. Documenteer eventuele alternatieven die zijn overwogen en waarom deze niet toereikend waren.

Risicoregister. Vermeld elk specifiek risico met een beoordeling van waarschijnlijkheid (laag, gemiddeld, hoog) en ernst (laag, gemiddeld, hoog). Veelvoorkomende AI-risico's zijn: gegevensblootstelling door te ruime toegangsrechten, discriminerende uitkomsten door bevooroordeelde trainingsdata en ongeautoriseerd hergebruik van persoonsgegevens in modeluitvoer.

Mitigaties gekoppeld aan elk risico. Voor elk risico in het register documenteert u de specifieke maatregel die het aanpakt. Technische maatregelen (gevoeligheidslabels, toegangscontroles, auditlogging) en organisatorische maatregelen (acceptabel-gebruiksbeleid, training, FG-beoordeling) tellen beide mee.

Raadpleging FG. Als uw organisatie een FG heeft, documenteert u diens inbreng en of hij of zij het eens is met de risicobeoordeling en voorgestelde mitigaties. Als er bezwaar was, leg dat ook vast: FG's hebben een onafhankelijke positie onder de AVG en hun bezwaren kunnen niet zomaar worden genegeerd.

Herzieningsdatum. Een DPIA is geen eenmalig document. Stel een herzieningstrigger in: elke significante wijziging in de functionaliteit van de AI-tool, de gegevens die het verwerkt of de voorwaarden van de leverancier moet tot een herziening leiden. Jaarlijkse herziening is een verstandige standaard voor tools die actief in gebruik blijven.

DPIA en de AI-verordening: twee afzonderlijke vereisten

Vanaf augustus 2026 vereisen hoog-risico AI-systemen onder bijlage III van de AI-verordening ook een conformiteitsbeoordeling op het gebied van nauwkeurigheid, robuustheid, transparantie en menselijk toezicht. Dit staat los van een DPIA en dient een ander rechtskader. Systemen die in aanmerking komen voor bijlage III-classificatie zullen vrijwel zeker ook een DPIA vereisen, maar de twee beoordelingen behandelen verschillende vragen en moeten afzonderlijk worden gedocumenteerd.

Beide parallel uitvoeren is efficiënter dan ze opeenvolgend te voltooien. Veel van de inputs zijn gedeeld: de verwerkingsbeschrijving, de gegevenscategorieën, de leveranciersrelatie en het risicoregister voeden beide documenten.

Een DPIA hoeft geen document van zestig pagina's te zijn. Het moet eerlijk zijn: specifiek over wat de AI doet, open over de risico's en duidelijk over wat u doet om ze aan te pakken.

Waar te beginnen

Begin met een inventarisatie van AI-tools die momenteel in gebruik zijn binnen de organisatie, inclusief tools die door individuele afdelingen zijn ingevoerd zonder centrale IT-betrokkenheid. Voer voor elke tool de negen-criteria-toets uit. Elke tool die twee of meer scoort, gaat op de DPIA-backlog.

Prioriteer op blootstelling: tools die medewerkersgegevens, grootschalige klantpersoonsgegevens of bijzondere categorieën verwerken, gaan als eerste. Voor tools die al zonder DPIA zijn geïmplementeerd: voltooi de beoordeling nu en documenteer dat dit achteraf is gedaan. Toezichthouders verwachten dat organisaties een leemte inhalen als ze die ontdekken, en een voltooide DPIA op dossier is aanzienlijk beter dan geen.

Cyvra ondersteunt organisaties door het volledige DPIA-proces voor AI-tools: van de initiële verwerkingsinventarisatie en negen-criteria-beoordeling tot het voltooide risicoregister, de mitigatiemapping en FG-afstemming. Neem contact met ons op om te bespreken wat uw huidige AI-portfolio vereist.