De AI Act voor compliance en security

Wat is de AI Act?

De AI Act is Verordening (EU) 2024/1689. Volgens de Europese Commissie is de verordening op 1 augustus 2024 in werking getreden. De verordening regelt niet de technologie op zich, maar het gebruik ervan. In gewone woorden: per AI-systeem bepaalt de verordening welke eisen gelden, en hoe hoger het risico voor mensen, hoe strenger de plichten.

De verordening is in 2026 gewijzigd door de Digital Omnibus, en de stand in dit artikel is van 5 november 2026. Voor de wettekst en de toelichting van de Commissie kijk je op de pagina over het regelgevingskader voor AI.

Welke risicoklassen kent de AI Act?

De AI Act kent vier risiconiveaus, zoals de Europese Commissie ze beschrijft.

De indeling bepaalt welke plichten voor jou gelden. Een systeem in de categorie onaanvaardbaar risico mag niet worden ingezet, een hoog-risicosysteem valt onder strenge verplichtingen, en bij transparantierisico gaat het om informatieplichten.

Eén AI-systeem kan binnen een organisatie in meer dan één rol voorkomen. Een organisatie kan voor het ene systeem aanbieder zijn en voor het andere gebruiksverantwoordelijke. Een gebruikelijke eerste stap is daarom een inventaris: welke AI-systemen gebruik je, welke bouw je zelf, welke koop je in, en in welke risicoklasse valt elk? Dat is geen wettelijke eis op zich.

Welke AI-toepassingen zijn verboden?

Artikel 5 verbiedt onder meer de volgende praktijken:

• AI die manipulatieve of misleidende technieken gebruikt die aanzienlijke schade veroorzaken.
• AI die kwetsbaarheden uitbuit door leeftijd, handicap of de sociale of economische situatie van mensen.
• Social scoring: personen beoordelen of classificeren op sociaal gedrag of persoonlijke kenmerken, met een niet-gerelateerde of onevenredige behandeling als gevolg.
• Het voorspellen van het risico op een strafbaar feit uitsluitend op basis van profilering of persoonlijkheidskenmerken.
• Het ongericht verzamelen van gezichtsbeelden van internet of uit camerabeelden voor een gezichtsherkenningsdatabase.
• Het afleiden van emoties van personen op de werkplek en in het onderwijs, behalve om medische of veiligheidsredenen.
• Biometrische categorisering die gevoelige kenmerken afleidt, zoals ras, politieke opvattingen of seksuele geaardheid.
• Realtime biometrische identificatie op afstand door wetshandhaving in openbare ruimten, behalve voor de doelen die de tekst noemt.

De verboden gelden sinds 2 februari 2025. Per 2 december 2026 komen er twee nieuwe verboden bij: het zonder toestemming genereren of manipuleren van intieme of seksueel expliciete beelden van identificeerbare personen, en het genereren of manipuleren van materiaal over seksueel misbruik van kinderen. Voor de exacte formulering lees je artikel 5 bij de AI Act Service Desk.

Wanneer is een AI-systeem hoog risico?

Artikel 6 kent twee routes naar hoog risico. Bij de eerste route is het AI-systeem een veiligheidscomponent van een product, of is het zelf zo'n product, onder Europese harmonisatiewetgeving, en moet dat product een conformiteitsbeoordeling door een derde ondergaan. Bij de tweede route staat het systeem in Annex III. Die bijlage noemt acht gebieden:

• biometrie;
• kritieke infrastructuur;
• onderwijs en beroepsopleiding;
• werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid, onder meer werving en prestatiemonitoring;
• toegang tot en gebruik van onmisbare particuliere en publieke diensten en uitkeringen, onder meer kredietwaardigheid en kredietscoring (met uitzondering van fraudedetectie) en risicobeoordeling en prijsstelling voor levens- en zorgverzekeringen;
• rechtshandhaving;
• migratie, asiel en grensbeheer;
• rechtspleging en democratische processen.

Een Annex III-systeem is niet hoog risico als het geen significant risico op schade voor gezondheid, veiligheid of grondrechten vormt, bijvoorbeeld bij een beperkte procedurele taak of een voorbereidende taak voor een beoordeling. Die uitzondering geldt niet bij profilering van personen: een Annex III-systeem dat personen profileert, is altijd hoog risico.

Kredietscoring en de risicobeoordeling bij levens- en zorgverzekeringen vallen dus onder Annex III. De financiële dienstverlening en de verzekeringen en pensioenen zijn daarom een zichtbaar voorbeeld. Dat betekent niet dat elke AI-toepassing daar hoog risico is, want de uitzonderingen van artikel 6 kunnen gelden. Voor een concreet systeem zijn de tekst van artikel 6 en Annex III het uitgangspunt.

Wie moet voldoen: aanbieders en gebruiksverantwoordelijken?

Een aanbieder (provider) is een natuurlijke of rechtspersoon, overheidsinstantie of ander orgaan dat een AI-systeem of AI-model ontwikkelt of laat ontwikkelen en onder eigen naam of merk in de handel brengt of in gebruik stelt, tegen betaling of gratis. Een gebruiksverantwoordelijke (deployer) gebruikt een AI-systeem onder eigen verantwoordelijkheid, behalve bij persoonlijk niet-beroepsmatig gebruik. Een importeur brengt een systeem op de markt dat de naam of het merk draagt van een persoon in een derde land. Een distributeur maakt een systeem beschikbaar op de Unie-markt zonder aanbieder of importeur te zijn.

Een aanbieder van een hoog-risicosysteem moet onder meer zorgen dat het systeem voldoet aan de eisen voor hoog risico. Hij moet een kwaliteitsmanagementsysteem hebben, documentatie en logs bewaren, en een conformiteitsbeoordeling laten doorlopen voordat het systeem op de markt komt. Daarnaast stelt hij een EU-conformiteitsverklaring op, brengt hij de CE-markering aan, registreert hij zich en neemt hij zo nodig corrigerende maatregelen. Het risicobeheersysteem van artikel 9 is een continu, iteratief proces over de hele levenscyclus van het systeem en geen eenmalige check.

Volgens artikel 26 moet de gebruiksverantwoordelijke van een hoog-risicosysteem het systeem gebruiken volgens de gebruiksaanwijzing. Menselijk toezicht wijs je toe aan mensen met de nodige vaardigheden, training en bevoegdheid. Je zorgt dat invoergegevens, voor zover je die controleert, relevant en voldoende representatief zijn. Dat raakt aan datakwaliteit en data governance. Je monitort de werking, en bij een risico informeer je de aanbieder of distributeur en de markttoezichtautoriteit zonder onnodige vertraging en schort je het gebruik op. Logs onder je controle bewaar je minimaal zes maanden, tenzij ander recht iets anders bepaalt. Op de werkvloer informeer je werknemersvertegenwoordigers en betrokken werknemers voordat het systeem in gebruik gaat.

Gebruiksverantwoordelijken gebruiken de informatie van de aanbieder voor hun verplichting om een DPIA uit te voeren onder de AVG. Voor bepaalde Annex III-systemen geldt daarnaast een beoordeling van de gevolgen voor de grondrechten, voordat het systeem wordt ingezet (artikel 27). Die plicht geldt voor publiekrechtelijke instanties, private partijen die publieke diensten verlenen, en gebruiksverantwoordelijken van systemen onder Annex III punt 5 onder b en c, de kredietscoring en de risicobeoordeling bij levens- en zorgverzekeringen. Een bestaande DPIA mag je aanhalen of gedeeltelijk opnemen.

Transparantieplichten (artikel 50) gelden ook. Aanbieders ontwerpen systemen die rechtstreeks met mensen communiceren zo dat die mensen weten dat ze met AI te maken hebben, tenzij dat voor een redelijk geïnformeerd persoon duidelijk is. Aanbieders van systemen die synthetische audio, beeld, video of tekst maken, markeren de uitvoer machineleesbaar als kunstmatig. Gebruiksverantwoordelijken van emotieherkenning of biometrische categorisering informeren de personen die eraan worden blootgesteld. Bij deepfakes, en bij AI-tekst over zaken van openbaar belang, meld je dat de inhoud kunstmatig is, tenzij menselijke controle en redactionele verantwoordelijkheid bij de tekst horen.

Een organisatie die een AI-systeem onder eigen verantwoordelijkheid gebruikt, is gebruiksverantwoordelijke. Wie een systeem onder eigen naam of merk bouwt of op de markt brengt, kan aanbieder worden.

Wanneer gelden welke regels?

De Digital Omnibus on AI is een vereenvoudigingsvoorstel binnen het Digital Package on Simplification. De Europese Commissie nam het voorstel aan op 19 november 2025, op 7 mei 2026 was er een politiek akkoord, en de wijziging is op 27 juli 2026 in werking getreden. De definitieve tekst is Verordening (EU) 2026/1744. Door de wijziging zijn de regels voor hoog-risicogebruik onder Annex III verschoven naar 2 december 2027, en die voor Annex I naar 2 augustus 2028. Wijzigingen en aanvullingen staan onder meer in de artikelen 4, 5, 6, 27 en 99.

Sommige data liggen al achter je, zoals 2 februari 2025 en 2 augustus 2026. Plan op de data in de tabel en controleer de EU-pagina's, want de tijdlijn kan opnieuw veranderen. De tijdlijn van de AI Act Service Desk is een goed startpunt.

Wat is AI-geletterdheid (artikel 4)?

Artikel 4 vraagt aanbieders en gebruiksverantwoordelijken om maatregelen te nemen die AI-geletterdheid ondersteunen. Die maatregelen houden rekening met technische kennis, ervaring, opleiding, de gebruikscontext en de personen of groepen voor wie het systeem wordt gebruikt. De verplichting vraagt niet dat je voor elk individu een bepaald niveau garandeert. De Europese Commissie en de lidstaten ondersteunen dit, met name voor kmo's.

Artikel 4 geldt sinds 2 februari 2025, in de gewijzigde vorm die de Digital Omnibus heeft gebracht. In de praktijk kan dat bestaan uit een training, duidelijke richtlijnen over welke AI-tools je waarvoor gebruikt, en een overzicht van wie met AI werkt. Het hoeft niet te betekenen dat iedereen een cursus volgt. De maatregelen passen bij de kennis, de context en de doelgroep.

Wie houdt toezicht in Nederland?

Vanaf 2 augustus 2026 zijn het AI Office en de autoriteiten van de lidstaten verantwoordelijk voor de uitvoering, het toezicht en de handhaving van de AI Act. Het AI Office heeft handhavingsbevoegdheden over AI-modellen voor algemene doeleinden. De autoriteiten van de lidstaten houden markttoezicht op hoog-risicosystemen nadat die op de markt zijn.

Voor Nederland ging het voorstel voor de uitvoeringswet AI-verordening in internetconsultatie, die liep tot en met 1 juni 2026. Het is een voorstel en geen vastgestelde wet. Het voorstel laat bestaande toezichthouders binnen hun eigen domein toezicht houden op AI. Voor gebieden zonder duidelijke toezichthouder wordt de Autoriteit Persoonsgegevens (AP) voorgesteld, met een speciale AI-bestuurder. De AP en de Rijksinspectie Digitale Infrastructuur (RDI) krijgen een coördinerende rol. Bij AI die besluiten over mensen neemt, zoals bij werving en selectie, sluit het toezicht aan bij bestaande toezichtrollen. Voor de stand van zaken kijk je op de pagina van de Rijksoverheid en op de AI-verordening-pagina van de RDI.

Artikel 99 stelt maximale boetes. Voor verboden praktijken ligt de maximale boete bij EUR 35 000 000 of 7% van de totale wereldwijde jaaromzet van het voorgaande boekjaar. Bij schending van andere verplichtingen, zoals die van aanbieders, gebruiksverantwoordelijken en transparantie, is dat EUR 15 000 000 of 3%. Bij onjuiste, onvolledige of misleidende informatie aan autoriteiten is het EUR 7 500 000 of 1%. Voor ondernemingen geldt het hoogste van bedrag en percentage, voor kmo's, inclusief start-ups, het laagste (bron).

Wat betekent de AI Act voor compliance, privacy en risicomanagement?

Voor compliance begin je bij het vakgebied compliance en privacy. Een compliance officer houdt overzicht van de verplichtingen per risicoklasse, vertaalt die naar beleid en procedures, ziet toe op naleving, begeleidt de AI-geletterdheid en houdt wet- en regelgeving bij. Bij sommige organisaties ligt dit bij een aparte AI-governance-functie. Welke werkgevers een compliance officer zoeken, zie je op de werkgeverspagina voor compliance officers.

De AI Act en de AVG overlappen, maar de AVG blijft apart gelden. Een data protection officer of privacy officer werkt daarom samen met compliance en met de business bij het beoordelen van AI-toepassingen met persoonsgegevens. Lees voor de AVG-kant AVG voor privacy-professionals. Voor privacykennis is de CIPP/E-certificering een voorbeeld, en privacy by design past hier, omdat privacy en de AI-beoordeling samen worden ingericht.

Het risicobeheersysteem voor hoog-risicosystemen (artikel 9) lijkt qua denkwijze op bestaand risicomanagement: risico's vaststellen, beoordelen, maatregelen kiezen en blijven herzien. Wie model risk of operationeel risico beheert, herkent een deel van die werkwijze. Als risk manager kijk je naar dezelfde vragen. Lees ook het vakgebied risicomanagement en de skillpagina voor risk assessment.

Voor gebruiksverantwoordelijken van hoog-risicosystemen vraagt artikel 26 om het bewaren van logs, het monitoren van de werking en het melden van risico's. Dat raakt de mensen die logging en monitoring inrichten en incidenten afhandelen. De precieze invulling verschilt per systeem en per organisatie.

De AI Act werkt naast andere kaders zoals NIS2 en de Cyberbeveiligingswet, DORA, de Cyber Resilience Act en de AVG. Dat zijn aparte regelgevingen met een eigen toepassingsgebied, dus controleer per kader wat voor jou geldt.

Een overzicht van de kaders die in dit artikel terugkomen, vind je in de kennisbank.