Wat artikel 35 daadwerkelijk voorschrijft
Artikel 35 van de AVG schrijft een gegevensbeschermingseffectbeoordeling voor voordat verwerkingen plaatsvinden die waarschijnlijk een hoog risico voor de rechten en vrijheden van natuurlijke personen met zich meebrengen. De beoordeling moet vooraf plaatsvinden. Indien een tool die aan de drempel voldoet zonder dergelijke beoordeling in gebruik is genomen, dient u deze nu alsnog uit te voeren en te vermelden dat dit te laat is gebeurd; de periode waarin de beoordeling ontbrak, geldt als een inbreuk op de naleving.
Drie bronnen geven aan waar de drempel ligt. Artikel 35, lid 3, noemt drie gevallen waarin altijd een DPIA vereist is: systematische en uitgebreide evaluatie van personen, met inbegrip van profilering, die leidt tot beslissingen met juridische of vergelijkbare ingrijpende gevolgen; grootschalige verwerking van bijzondere categorieën gegevens of gegevens betreffende strafbare feiten; en systematische monitoring van voor het publiek toegankelijke ruimten op grote schaal. De Autoriteit Persoonsgegevens (AP) publiceert een lijst met verwerkingsvormen waarvoor altijd een DPIA vereist is, waaronder toezicht op werknemers, profilering, kredietscores, cameratoezicht, locatiegegevens en biometrische gegevens. En de richtsnoeren van de Artikel 29-werkgroep (WP248 rev.01, goedgekeurd door het EDPB en gehanteerd door de AP) bevatten negen criteria die u helpen te beoordelen of er waarschijnlijk sprake is van een hoog risico.
De negen criteria als indicatoren
De WP248-criteria zijn indicatoren, geen scoresysteem. In de meeste gevallen is een DPIA vereist wanneer de verwerking aan twee van deze criteria voldoet. Eén criterium kan voldoende zijn wanneer het risico duidelijk hoog is. Indien u aan twee of meer criteria voldoet en toch concludeert dat de verwerking waarschijnlijk geen hoog risico inhoudt, dient u uw redenen te documenteren.
Bij criterium 8 is voorzichtigheid geboden bij het gebruik van AI. Generatieve AI en machine learning kunnen als innovatieve technologie worden beschouwd, met name wanneer het gebruik ervan nieuw is voor uw organisatie of wanneer de risico's nog niet goed worden begrepen. Dit betreft een beoordeling van het specifieke gebruik, niet een label dat aan elke AI-tool wordt toegekend. Een schrijfassistent die e-mails opstelt op basis van wat de gebruiker typt, is iets anders dan een model dat sollicitanten beoordeelt.
Criterium 4 omvat ook meer dan de bijzondere categorieën uit artikel 9. Gezondheids-, biometrische en religieuze gegevens behoren tot de bijzondere categorieën. Financiële gegevens vallen daar niet onder, maar WP248 beschouwt deze als zeer persoonlijk omdat misbruik ervan daadwerkelijke schade kan veroorzaken; daarom geldt dit nog steeds als een indicator.
Vier veelvoorkomende AI-scenario's
Deze scenario's laten zien hoe de criteria doorgaans van toepassing zijn. Het resultaat hangt altijd af van de manier waarop u de tool configureert en gebruikt.
Is voor Microsoft Copilot een DPIA vereist?
Niet automatisch. Het hangt af van waarvoor u het gebruikt.
Microsoft 365 Copilot werkt met e-mail, Teams-chats, documenten en agendagegevens waartoe de aangemelde gebruiker al toegang heeft. Het gebruik ervan om een document samen te vatten, een antwoord op te stellen of in uw eigen bestanden te zoeken, lijkt meer op gewone productiviteitssoftware. Het beeld verandert wanneer managers of HR het gebruiken om te analyseren wat individuele medewerkers hebben geschreven of gedaan, wanneer het beslissingen over personen ondersteunt, of wanneer het gemakkelijke toegang biedt tot gegevens van bijzondere categorieën waarvoor de toegangsrechten nooit adequaat zijn beperkt. Deze toepassingen kunnen voldoen aan de criteria 1, 3, 4 en 7.
Veel organisaties voeren sowieso een DPIA uit bij de implementatie van Copilot, omdat het grote hoeveelheden werknemersgegevens verwerkt en de risico's nieuw zijn. Dat is een redelijke keuze. Indien u tot de conclusie komt dat een DPIA niet vereist is, documenteer dan de beoordeling en de gebruiksbeperkingen die deze conclusie onderbouwen. In beide gevallen zijn de controle van toegangsrechten, de gevoeligheidslabels, de Purview-controles en het beleid inzake aanvaardbaar gebruik uit ons artikel over Copilot-governance de risicobeperkende maatregelen die u zou moeten vastleggen.
Een DPIA die na de ingebruikname wordt uitgevoerd, is beter dan helemaal geen DPIA, maar deze dekt niet de periode waarin de tool zonder DPIA in gebruik was. Indien de AP een incident onderzoekt waarbij die tool betrokken is, vormt het ontbreken van een vereiste DPIA op zichzelf al een inbreuk op artikel 35, en verzwakt dit uw positie ten aanzien van de verantwoordingsplicht.
Wat een DPIA moet bevatten
Artikel 35, lid 7, stelt vier minimale onderdelen vast, ongeacht de vorm.
- Een systematische beschrijving van de verwerking: welke gegevens de AI-tool verwerkt, waar deze vandaan komen, wie er toegang toe heeft, hoe lang deze worden bewaard en waarom
- Een beoordeling van de noodzaak en evenredigheid: waarom de verwerking nodig is voor het beoogde doel, en of dit doel ook met een minder ingrijpende aanpak zou kunnen worden bereikt
- Een beoordeling van de risico's voor betrokkenen: nadelen voor de personen van wie de gegevens worden verwerkt, zoals discriminatie, verlies van controle over hun gegevens, onjuiste uitkomsten over hen of onverwachte openbaarmaking, waarbij elk risico wordt beoordeeld op waarschijnlijkheid en ernst
- De maatregelen om deze risico's aan te pakken: technische en organisatorische waarborgen, afgestemd op elk risico
Artikel 35, lid 2, schrijft voor dat u het advies van uw functionaris gegevensbescherming (FG) moet inwinnen, indien u er een heeft, en dat u dit advies moet vastleggen. Indien uit de DPIA blijkt dat er een hoog risico bestaat dat u niet tot een aanvaardbaar niveau kunt terugbrengen, schrijft artikel 36 voor dat u voorafgaand aan de verwerking overleg moet plegen met de toezichthoudende autoriteit.
Wat u moet documenteren
DPIA, FRIA en de AI-verordening
De AI-verordening voegt eigen beoordelingen toe. Aanbieders van systemen met een hoog risico voeren de conformiteitsbeoordeling uit. Gebruiksverantwoordelijken hebben andere verplichtingen. Krachtens artikel 27 moeten overheidsinstanties, particuliere entiteiten die openbare diensten verlenen en gebruiksverantwoordelijken van systemen die kredietwaardigheid beoordelen of de premie voor levens- en ziektekostenverzekeringen vaststellen, een grondrechteneffectbeoordeling (FRIA) uitvoeren. Wanneer een DPIA reeds een deel van hetzelfde terrein bestrijkt, vormt de FRIA een aanvulling daarop in plaats van deze te vervangen.
Na de Digital Omnibus zijn de belangrijkste verplichtingen voor AI-systemen met een hoog risico uit bijlage III van toepassing vanaf 2 december 2027, en die voor AI in producten die onder bijlage I vallen vanaf 2 augustus 2028. Gebruiksverantwoordelijken kunnen een groot deel van het bewijsmateriaal uit de DPIA hergebruiken: de beschrijving van de verwerking, de gegevenscategorieën, de leveranciersinformatie en het risicoregister.
Een gefaseerd beoordelingsproces
- Breng de verwerking in kaart. Maak een lijst van de AI-tools die in gebruik zijn, inclusief de tools die afdelingen zelfstandig hebben aangeschaft, en geef aan met welke persoonsgegevens elk van deze tools te maken heeft.
- Bepaal het toepasselijke rechtsgebied. De AVG en de Nederlandse AVG-uitvoeringswet (UAVG), plus eventuele sectorale regels die van toepassing zijn.
- Zoek naar indicatoren voor hoge risico's. Beoordeel elk gebruik aan de hand van de negen criteria.
- Controleer of er sprake is van verplichte aanleidingen. Artikel 35, lid 3, en de AP-lijst. Indien een van beide van toepassing is, is een DPIA vereist.
- Neem een besluit over de overige gevallen. Wanneer een DPIA niet verplicht is, beslis dan of u er toch een wilt uitvoeren en leg dit besluit vast.
- Beoordeel en beperk de risico's. Voltooi de DPIA, te beginnen met HR, klantprofilering en bijzondere categorieën gegevens.
- Overleg waar nodig. Vraag advies aan de FG en raadpleeg de toezichthoudende autoriteit (AP) indien er een hoog restrisico blijft bestaan.
- Goedkeuren en monitoren. Keur de beoordeling goed en herzie deze wanneer de tool, de gegevens of het gebruik verandert.
De omvang van een DPIA dient in verhouding te staan tot het risico. Als ruwe richtlijn op basis van onze ervaring kan een gerichte beoordeling van één tool enkele weken in beslag nemen wanneer er al een gegevensoverzicht bestaat, en langer wanneer dat ontbreekt. Een kort document waarin de vier vragen uit artikel 35, lid 7, eerlijk worden beantwoord, is meer waard dan een lang sjabloon dat louter omwille van de vorm wordt ingevuld.
Een DPIA maakt deel uit van uw bredere AVG-nalevingskader. Cyvra voert DPIA's uit voor AI-tools, van de screening tot het risicoregister, het in kaart brengen van risicobeperkende maatregelen en de samenwerking met de FG.