- Gezondheidsgegevens zijn bijzondere persoonsgegevens onder de AVG: elke verwerking heeft een grondslag uit artikel 6 én een uitzondering uit artikel 9 nodig, vastgelegd per verwerking
- Klinische AI is niet automatisch hoog risico onder de EU AI Act: de classificatie hangt af van het beoogde doel en de route van artikel 6, niet van gebruik in een klinische omgeving
- Aanbieders en gebruiksverantwoordelijken hebben verschillende plichten, en een zorgorganisatie die een systeem zelf ontwikkelt of ingrijpend wijzigt, kan aanbieder worden
- Een DPIA is verplicht als de verwerking waarschijnlijk een hoog risico oplevert; blijft er een hoog restrisico, dan moet u vooraf de Autoriteit Persoonsgegevens raadplegen
- Afhankelijk van het beoogde doel kan AI-software een medisch hulpmiddel zijn onder de MDR of IVDR, naast uw verplichtingen op het gebied van gegevensbescherming
Het werkelijke risico: gezondheidsgegevens en AI vragen om een eigen beoordeling
Gezondheidsgegevens zijn bijzondere persoonsgegevens onder artikel 9 van de AVG. Voor de verwerking is een grondslag uit artikel 6 nodig en daarnaast een uitzondering uit artikel 9, lid 2. Voor zorgaanbieders is dat meestal artikel 9, lid 2, onder h (gezondheidszorg), in Nederland uitgewerkt in artikel 30, lid 3, van de UAVG. Uitdrukkelijke toestemming, vitale belangen en volksgezondheid zijn andere mogelijke uitzonderingen. Gerechtvaardigd belang kan een grondslag onder artikel 6 zijn, maar is geen uitzondering onder artikel 9.
Bepaal dit per verwerking, niet per tool. Veel AI-tools verwerken gegevens op manieren die in de gebruikersinterface niet zichtbaar zijn. Een tool voor klinische samenvattingen ontvangt consultverslagen. Een plannings-AI kan diagnosecodes gebruiken om afspraken te prioriteren. Een administratieve chatbot kan gesprekken over symptomen of medicatie bewaren. Dat is in alle gevallen verwerking van gezondheidsgegevens die vóór de invoering in kaart moet zijn gebracht.
De rol van de leverancier. Een leverancier van SaaS-AI is normaal gesproken uw verwerker zolang hij gegevens verwerkt volgens uw gedocumenteerde instructies. Voor sommige verwerkingen kan hij een zelfstandige verwerkingsverantwoordelijke zijn, bijvoorbeeld als hij gegevens gebruikt om zijn eigen modellen te verbeteren of voor eigen commerciële doeleinden. Leg vóór het contract vast welke rol elke partij heeft, welke subverwerkers betrokken zijn, voor welke doeleinden gegevens mogen worden gebruikt en hoe bewaring en verwijdering zijn geregeld.
Klinische AI en de EU AI Act: wanneer is het hoog risico?
AI die in een klinisch proces wordt gebruikt, is niet automatisch hoog risico. Artikel 6 van de EU AI Act (Verordening (EU) 2024/1689) kent twee routes:
- Artikel 6, lid 1, en bijlage I: het systeem is een medisch hulpmiddel, of een veiligheidscomponent daarvan, onder de MDR (Verordening (EU) 2017/745) of de IVDR (Verordening (EU) 2017/746), en moet een conformiteitsbeoordeling door een aangemelde instantie ondergaan. Veel software voor diagnose- of behandelondersteuning volgt deze route, maar dat hangt af van de risicoklasse van het hulpmiddel.
- Artikel 6, lid 2, en bijlage III: het systeem valt onder een genoemde toepassing, zoals de beoordeling of iemand recht heeft op essentiële publieke diensten, waaronder zorg, of de triage van patiënten in noodsituaties. Een systeem uit bijlage III kan buiten hoog risico vallen als het de besluitvorming niet wezenlijk beïnvloedt (artikel 6, lid 3), behalve bij profilering.
Tools voor planning, facturatie of administratieve verslaglegging volgen meestal geen van beide routes. Bepalend is het beoogde doel dat de aanbieder opgeeft, niet de omgeving waarin de tool wordt gebruikt of hoe deze wordt verkocht.
De Digital Omnibus voor AI (Verordening (EU) 2026/1744) heeft de termijnen voor hoog risico verschoven: voor systemen onder bijlage III gelden de verplichtingen vanaf 2 december 2027, voor systemen onder bijlage I, zoals AI in medische hulpmiddelen, vanaf 2 augustus 2028. Welke termijn voor u geldt, hangt dus af van de classificatieroute. Zie onze gids over de EU AI Act en het overzicht van verboden en hoog-risico-AI.
De marketingomschrijving is niet de juridische toets. Leg voor elke tool een onderbouwde beoordeling van de regelgevende classificatie vast: beoogd doel, status als medisch hulpmiddel, route onder artikel 6 en de rol van uw organisatie. De AVG-verplichtingen gelden ongeacht de classificatie onder de AI Act.
Aanbieder, gebruiksverantwoordelijke en zorgprofessional
Bij een hoog-risicosysteem zijn de verplichtingen verdeeld. De EU AI Act onderscheidt de aanbieder, die het systeem ontwikkelt en op de markt brengt, van de gebruiksverantwoordelijke (ook wel inzetter), die het onder eigen gezag gebruikt, zoals een ziekenhuis of kliniek.
| Rol | Belangrijkste verantwoordelijkheden |
|---|---|
| Aanbieder | Risicobeheer, kwaliteit van trainingsdata, technische documentatie, conformiteitsbeoordeling, registratie in de EU-databank, gebruiksinstructies en monitoring na het in de handel brengen (artikelen 16 en 49) |
| Gebruiksverantwoordelijke (ziekenhuis, kliniek) | Het systeem gebruiken volgens de instructies, menselijk toezicht beleggen bij bekwame mensen, zorgen voor relevante invoergegevens, de werking monitoren, de logs onder eigen beheer minstens zes maanden bewaren en risico's en ernstige incidenten melden (artikel 26). Publiekrechtelijke organen en private partijen die openbare diensten verlenen, moeten bij systemen uit bijlage III mogelijk een effectbeoordeling voor grondrechten uitvoeren (artikel 27) |
| Zorgprofessional | Een eigen klinisch oordeel vormen, de beperkingen van het systeem kennen, de uitkomst kunnen betwisten of negeren en onjuiste uitkomsten via de afgesproken route melden |
Een zorgorganisatie wordt aanbieder als zij een hoog-risicosysteem zelf ontwikkelt, haar naam of merk op een systeem zet, het ingrijpend wijzigt of het beoogde doel zo verandert dat het systeem hoog risico wordt (artikel 25).
Klinische AI in Nederland: MDR, IVDR en de AI Act
Software die onder de definitie van medisch hulpmiddel valt, moet voldoen aan de MDR of de IVDR. In Nederland houdt de Inspectie Gezondheidszorg en Jeugd (IGJ) toezicht op medische hulpmiddelen. Of een tool een medisch hulpmiddel is, hangt af van het beoogde doel dat de fabrikant opgeeft: software voor diagnose, monitoring of behandelbeslissingen kan dat zijn, zuiver administratieve software in de regel niet.
Voor AI die een medisch hulpmiddel is, komen de eisen van de AI Act bovenop de MDR of IVDR en worden ze zoveel mogelijk in één conformiteitsbeoordeling meegenomen. Tools voor verslaglegging en spraakgestuurde dossiervoering vragen een beoordeling per geval. Vraag de leverancier naar de regelgevende status en, waar van toepassing, de CE-markering. De beoordeling van klinische veiligheid en prestaties staat naast de gegevensbescherming; het een vervangt het ander niet.
Vijf vragen die u moet stellen voordat u een AI-tool inzet
Stel deze vragen bij elke AI-tool die u beoordeelt, ook bij AI-functies die worden toegevoegd aan bestaande systemen zoals het EPD, planning en patiëntcommunicatie.
Wat u controleert vóór het contract
De vijf vragen bepalen of een tool verder kan. De tabel hieronder geeft de volledige beoordeling.
| Gebied | Wat u controleert |
|---|---|
| Beoogd gebruik | Het door de leverancier opgegeven doel, beoogde gebruikers, klinische of administratieve context en uitgesloten toepassingen |
| Grondslag | Grondslag uit artikel 6 en uitzondering uit artikel 9 per verwerking, vastgelegd |
| Regelgevende classificatie | Status als medisch hulpmiddel (MDR of IVDR); route onder de EU AI Act; de plichten die bij uw rol horen |
| Klinische prestaties | Validatiepopulatie, nauwkeurigheid, bias, fout-positieven en fout-negatieven, bekende beperkingen en aansluiting op uw patiëntenpopulatie |
| Menselijk toezicht | Wie de uitkomsten beoordeelt, met welke informatie, en hoe een aanbeveling wordt betwist of terzijde gelegd |
| Beveiliging | Toegangsbeheer, versleuteling, logging van activiteiten, beveiligingstests en kwetsbaarhedenbeheer |
| Gegevensbeheer | Training met patiëntgegevens, inferentie, logging van prompts en uitkomsten, secundair gebruik door de leverancier, bewaring en verwijdering |
| Leveranciersbeheer | Subverwerkers, vooraankondiging van modelupdates, melding van incidenten, auditbewijs en exitplan |
| Continuïteit | Terugvalprocedure als de tool niet beschikbaar is en afhankelijkheid van connectiviteit |
| Monitoring | Signalen van prestatieverloop (drift), melding van incidenten rond patiëntveiligheid en criteria voor herbeoordeling |
"Wij trainen niet op uw gegevens" dekt niet elk risico. Die uitspraak gaat over training. Ze zegt niets over inferentie (het versturen van gegevens om een uitkomst te krijgen), het loggen van prompts en antwoorden bij de leverancier, toegang door supportmedewerkers of secundair gebruik voor analyses en productverbetering. Vraag op elk punt een schriftelijk antwoord.
Leg vóór de ingebruikname vast hoe een zorgverlener een onjuiste uitkomst meldt, wie die beoordeelt en wanneer de tool wordt stilgezet. Doe hetzelfde voor prestatieverloop en voor gedragsveranderingen na updates van de leverancier, die een nieuwe validatie kunnen vereisen.
Wanneer een DPIA verplicht is
Een gegevensbeschermingseffectbeoordeling (DPIA) is op grond van artikel 35 van de AVG verplicht vóór een verwerking die waarschijnlijk een hoog risico oplevert voor de rechten en vrijheden van betrokkenen. Artikel 35, lid 3, noemt grootschalige verwerking van bijzondere persoonsgegevens, en de Autoriteit Persoonsgegevens heeft een lijst gepubliceerd van verwerkingen waarvoor een DPIA altijd verplicht is. Een AI-tool die breed in een klinische dienst wordt ingezet, komt vrijwel altijd boven die drempel.
Een DPIA voor een AI-tool in de zorg beschrijft het doel en de noodzaak van de verwerking, gegevensstromen en bewaartermijnen, risico's voor patiënten (waaronder vertekende uitkomsten), beveiligingsmaatregelen, de rol van de leverancier en hoe uitsluitend geautomatiseerde besluiten worden voorkomen of afgedekt. Een goede DPIA kost tijd, dus begin ermee tijdens de inkoop en niet na ondertekening.
Blijft er na de DPIA een hoog restrisico dat u niet kunt beperken, dan moet u op grond van artikel 36 van de AVG vóór de verwerking de Autoriteit Persoonsgegevens raadplegen. De AP heeft daarvoor maximaal acht weken, met een mogelijke verlenging van zes weken bij complexe verwerkingen.
Hoe een veilige invoering er in de praktijk uitziet
Dataminimalisatie. Ga na welke gegevens de tool werkelijk nodig heeft. Veel AI-tools zijn zo ingesteld dat ze meer gegevens ontvangen dan nodig. Een samenvattingstool die het volledige dossier vraagt om één consult samen te vatten, moet u kritisch bevragen: werkt het ook met alleen de inhoud van het consult, zonder andere identificerende gegevens?
Inzetmodel. Lokale inzet is niet automatisch de beste keuze. Vergelijk eigen infrastructuur, private cloud en AI-diensten van derden op gegevensstromen, wettelijke eisen, beveiligingsmaatregelen, klinische validatie en de operationele capaciteit van uw team. Verwerking op eigen infrastructuur beperkt een deel van de risico's van toegang door derden en doorgifte buiten de EER. Daar staat tegenover dat uw organisatie zelf verantwoordelijk wordt voor patching, infrastructuurbeveiliging, toegangsbeheer, monitoring, modelvalidatie, beschikbaarheid en bewaring.
Betekenisvol menselijk toezicht. Voor hoog-risicosystemen eist de EU AI Act toezicht waarmee mensen de beperkingen van het systeem begrijpen, de uitkomst kunnen interpreteren, negeren en het systeem kunnen stoppen (artikel 14). Ook buiten dat regime moet de beoordeling echt zijn: een samenvatting die wordt gecontroleerd voordat ze in het dossier komt, is iets anders dan een systeem dat dossiers zonder controle bijwerkt.
Organisaties die de regelgevende classificatie, de grondslag en het toezicht vastleggen, kunnen zorgvuldigheid en naleving het best aantonen. Voor medewerkers die niet-goedgekeurde tools gebruiken, zie shadow AI en de AVG en onze AVG-gids.
Primaire bronnen: EU AI Act (Verordening (EU) 2024/1689), Verordening (EU) 2026/1744 en de AP-informatie over de DPIA.