- Hoog-risico AI-systemen hebben risicobeheer, datagovernance, technische documentatie, automatische logging, informatie voor inzetters, menselijk toezicht en nauwkeurigheid, robuustheid en cyberbeveiliging nodig
- De conformiteitsbeoordeling, de EU-conformiteitsverklaring, de CE-markering en in de meeste gevallen registratie in de EU-database zijn verplichtingen van de aanbieder
- Inzetters volgen de gebruiksinstructies, wijzen bekwaam menselijk toezicht aan, monitoren de werking, informeren werknemers en bewaren logs onder hun beheer ten minste zes maanden
- Ga er niet van uit dat uw leverancier de naleving regelt: vraag nu om de EU-conformiteitsverklaring, de gebruiksinstructies en een plan richting december 2027
Deze pagina behandelt wat u voor hoog-risico AI op orde moet brengen: de vereisten, de verdeling van plichten tussen aanbieder en inzetter, en een plan van vier weken. Voor de handhavingstijdlijn, wat bijlage III omvat en de boetestructuur leest u onze EU AI Act-handhavingstijdlijn.
Wat hoog-risico AI-systemen voor december 2027 op orde moeten hebben
Hoog-risico AI-systemen moeten meer doen dan nauwkeurige uitkomsten leveren. De artikelen 9 tot en met 15 bevatten de technische vereisten; daarnaast legt de verordening verplichtingen op aan de aanbieder, zoals het uitvoeren van een conformiteitsbeoordeling en het registreren van het systeem.
Aanbieders bouwen die vereisten in het systeem in. Inzetters opereren binnen die kaders en komen hun eigen verplichtingen rond inzet en monitoring na.
- Risicobeheersysteem. Een continu, gedocumenteerd proces voor het identificeren en beperken van risico's gedurende de gehele levenscyclus van het AI-systeem. Dit is geen eenmalige beoordeling; het systeem moet worden onderhouden en bijgewerkt naarmate het evolueert.
- Gegevensbeheer. Documentatie van de trainings-, validatie- en testdata die zijn gebruikt om het systeem te bouwen. De gegevens moeten relevant en voldoende representatief zijn, en voor zover mogelijk foutloos en volledig; de aanbieder moet de gegevens bovendien onderzoeken op mogelijke vooroordelen (biases).
- Technische documentatie. Een gedetailleerd technisch dossier met het ontwerp, de ontwikkeling en de mogelijkheden van het systeem. Nationale toezichthoudende autoriteiten kunnen dit dossier op elk moment opvragen.
- Automatische gebeurtenisregistratie (logging). Het systeem moet gedurende zijn gehele levenscyclus gebeurtenissen automatisch kunnen vastleggen, met een mate van traceerbaarheid die past bij het beoogde doel, zodat risico's kunnen worden geïdentificeerd en de werking van het systeem kan worden gemonitord.
- Transparantie en informatie aan inzetters. Aanbieders voorzien inzetters van documentatie waarmee zij het systeem begrijpen, correct gebruiken en aan hun eigen verplichtingen voldoen.
- Menselijk toezicht. Hoog-risico AI-systemen moeten zo zijn ontworpen dat menselijke beoordeling en overschrijving mogelijk zijn. Een mens moet kunnen ingrijpen, corrigeren of het systeem stopzetten. Voor de meeste hoog-risico categorieën is een volledig geautomatiseerde beslissing zonder menselijk toezicht niet compliant.
- Nauwkeurigheid, robuustheid en cyberbeveiliging. Systemen moeten voldoen aan gedefinieerde nauwkeurigheidsniveaus, bestand zijn tegen pogingen om uitkomsten te manipuleren en de gegevens die ze verwerken beschermen.
- Conformiteitsbeoordeling, EU-verklaring en CE-markering. Dit zijn verplichtingen voor de aanbieder, los van de technische vereisten: de aanbieder moet de conformiteitsbeoordeling uitvoeren, de EU-conformiteitsverklaring opstellen, de CE-markering aanbrengen en, in de meeste gevallen, het systeem registreren in de EU-database voordat het op de markt wordt gebracht of in gebruik wordt genomen.
Het grootste deel van de EU-database voor AI-systemen met een hoog risico is openbaar, met enkele uitzonderingen: systemen voor kritieke infrastructuur worden op nationaal niveau geregistreerd, en systemen voor biometrie, rechtshandhaving en migratie bevinden zich in een niet-openbaar gedeelte. Inzetters die overheidsinstanties zijn, moeten hun gebruik eveneens registreren. Vraag uw leveranciers nu om bevestiging dat alle gebruikte tools geregistreerd zijn en geldige conformiteitsverklaringen hebben.
Uw plichten als inzetter versus wat uw AI-leverancier moet regelen
De wet trekt een duidelijke grens tussen aanbieders en inzetters. Weten waar die grens ligt, voorkomt dubbel werk en lacunes in uw compliancepositie.
Aanbieders zijn verantwoordelijk voor: het integreren van risicobeheer en datagovernance in het systeem zelf, het opstellen en bijhouden van technische documentatie, het waarborgen dat het systeem automatisch gebeurtenislogboeken (event logs) genereert, het bewaren van documentatie gedurende 10 jaar, het afgeven van de EU-conformiteitsverklaring, het registreren van het systeem in de EU-database en het verstrekken van duidelijke gebruiksinstructies aan de inzetters.
Inzetters zijn verantwoordelijk voor: het gebruik van het systeem conform de gebruiksinstructies van de aanbieder; het toewijzen van menselijk toezicht aan personen die over de nodige competenties en bevoegdheden beschikken om dit toezicht uit te oefenen; het waarborgen dat de invoergegevens waarover zij zeggenschap hebben relevant zijn; het monitoren van de werking en het melden van risico's of ernstige incidenten aan de aanbieder en de autoriteiten; het informeren van werknemers voordat AI met een hoog risico op de werkvloer wordt ingezet; het uitvoeren van een effectbeoordeling op het gebied van grondrechten, indien artikel 27 dit vereist (geldt voor overheidsinstanties, aanbieders van openbare diensten en organisaties die AI gebruiken voor kredietbeoordeling of het vaststellen van prijzen voor levens- en zorgverzekeringen); en het gedurende ten minste zes maanden bewaren van de automatisch gegenereerde logboeken waarover zij zeggenschap hebben.
Veel AI-tools op de markt zijn niet gebouwd met EU AI Act-compliance in gedachten. Als uw leverancier nog niet beschikt over een EU-conformiteitsverklaring of de vereiste gebruiksinstructies, vraag dan om een herstelplan waarin staat wie verantwoordelijk is en tegen welke datum het in orde zal zijn. Als de leverancier geen geloofwaardig traject naar naleving kan aantonen, overweeg dan om het gebruik van de tool voor gereguleerde doeleinden te staken totdat dit wel het geval is.
Uw AI-leverancier regelt de compliance niet automatisch voor u. Niet elke leverancier, of deze nu binnen of buiten de EU is gevestigd, zal zijn documentatie tijdig gereed hebben. Vraag nu om bewijs. De mededeling van een leverancier dat ze "aan compliance werken" is geen verdedigbare positie zodra de handhaving begint.
Een sprint van vier weken om gereed te zijn
Één maand is te kort om een volwassen AI-governance-programma van de grond op te bouwen. Genoeg is het om een verdedigbare compliancepositie te bereiken voor de meest relevante tools. De sprint hieronder gaat uit van de situatie die voor de meeste organisaties geldt: grootschalig herontwerp van AI-systemen is niet meer haalbaar, dus de focus ligt op de acties die het regelgevingsrisico het snelst verlagen.
Week 1: Bouw uw AI-inventaris op
Stel elke bedrijfseenheid één vraag: welke software neemt of beveelt beslissingen aan over mensen? Neem HR-platforms op, wervingstools, CRM-systemen met lead- of kredietscoring, werkroostersystemen, fraudedetectietools en routeringssystemen voor klantenservice. Noteer voor elk hulpmiddel de leverancier, de gebruikscontext, de waarschijnlijke categorie volgens bijlage III, de categorieën persoonsgegevens die worden verwerkt, of het systeem in de EU wordt gebruikt (of dat de output ervan in de EU wordt gebruikt), en de interne verantwoordelijke.
Week 2: Classificeer en prioriteer
Ga voor elk AI-systeem in uw inventaris na of het voldoet aan de hoog-risico definitie van bijlage III. Niet elke geautomatiseerde tool kwalificeert. Een chatbot die klantvragen doorstuurt valt er niet onder; een systeem dat sollicitanten rangschikt of klanten beoordeelt op kredietwaardigheid wel. Leg de redenering achter elke classificatie vast. Als een leverancier zich beroept op de uitzondering in artikel 6, lid 3, vraag dan om de bijbehorende gedocumenteerde beoordeling. Geef hoog-risico systemen prioriteit voor directe actie en schakel uw juridisch of compliance-team in om classificaties te bevestigen waar twijfel bestaat.
Week 3: Neem contact op met leveranciers en beoordeel documentatie
Vraag bij elke leverancier van een AI-systeem met een hoog risico naar de EU-conformiteitsverklaring (of het tijdschema voor de afgifte daarvan), de in artikel 13 vereiste gebruiksaanwijzing, een bevestiging van registratie in de EU-database (indien van toepassing) en het plan van de leverancier voor de periode tot december 2027. Leg alle leverancierscommunicatie schriftelijk vast. Kan een leverancier deze documenten niet overleggen, escaleer dan intern en beslis of voortgezet gebruik van dat instrument acceptabel is gezien uw risicobereidheid.
Week 4: Documenteer menselijk toezicht, logbestanden en incidentmeldingen
Leg voor elk hoog-risico AI-systeem in gebruik het toezichtproces schriftelijk vast: wie AI-uitkomsten beoordeelt, hoe zij het systeem kunnen overschrijven, en hoe die overschrijvingen worden geregistreerd. Informeer betrokken medewerkers schriftelijk waar een systeem hun prestaties monitort of beoordeelt. Bepaal hoe door het systeem gegenereerde logbestanden ten minste zes maanden bewaard zullen blijven en hoe ernstige incidenten aan de aanbieder en de bevoegde autoriteit worden gemeld. Wijs voor elk systeem een verantwoordelijke aan voor de doorlopende compliance.
Waar u nu op focust
De deadline van december 2027 is vastgesteld en de verplichtingen zijn niet optioneel. De Digital Omnibus-vertraging versoepelde de eisen niet. U hoeft de AI-tools die waarde genereren niet op te geven; u moet ze inzetten met documentatie, toezicht en verantwoording die de meeste organisaties nog niet hebben geformaliseerd.
Stilzitten heeft twee concrete gevolgen. Toezichthouders kunnen u beboeten zodra de handhaving begint. Schaadt een AI-ondersteunde beslissing een persoon en kunt u niet aantonen dat passende waarborgen aanwezig waren, dan loopt u naast regelgevende boetes ook civiele aansprakelijkheid.
December 2027 geeft de meeste organisaties de tijd om een volwassen complianceprogramma op te bouwen. Begin bij de basis: een inventarisatie van AI-systemen, geclassificeerd volgens bijlage III; conformiteitsdocumentatie van leveranciers gecontroleerd; procedures voor menselijk toezicht vastgelegd; en logbestanden bewaard. Een volwassen AI-governance-kader kost meer tijd, maar bouwt precies op dat fundament.
- Voltooi een AI-inventaris over alle bedrijfsfuncties
- Classificeer elk AI-gebruik tegen bijlage III en bevestig de scope met juridisch of compliance-advies
- Vraag schriftelijk EU-conformiteitsdocumentatie op bij elke leverancier van een hoog-risico AI-systeem
- Documenteer procedures voor menselijk toezicht voor elk hoog-risico AI-instrument in gebruik
- Informeer medewerkers schriftelijk waar AI-systemen hun prestaties beoordelen of monitoren
- Bewaar logbestanden van AI-systemen met een hoog risico gedurende ten minste zes maanden en leg vast hoe ernstige incidenten moeten worden gemeld
- Wijs voor elk hoog-risico AI-systeem een verantwoordelijke aan en plan een beoordelingsdatum voor doorlopende compliance