Wat is een hoog-risico-AI-systeem — en ben jij er een?

Een hoog-risico-AI-systeem is volgens de EU AI Act niet simpelweg een krachtig, autonoom of bedrijfskritisch AI-systeem. De kwalificatie hangt af van waarvoor het systeem wordt gebruikt en in welke context het wordt ingezet. Artikel 6 van de AI Act kent daarvoor twee hoofdroutes: AI die onderdeel is van bepaalde gereguleerde producten, en AI die wordt gebruikt voor specifiek aangewezen toepassingen met potentieel grote gevolgen voor mensen.

Voor een mkb-bedrijf betekent dit dat een chatbot, interne zoekmachine of tekstgenerator meestal niet automatisch hoog-risico is. Een AI-systeem dat sollicitanten selecteert, kredietwaardigheid beoordeelt of leerprestaties gebruikt om studenten in te delen, kan daarentegen wel binnen de hoog-risicoregels vallen. De precieze kwalificatie moet altijd worden getoetst aan artikel 6, Annex I en Annex III van de verordening.

Twee routes naar hoog-risico onder artikel 6

Artikel 6 gebruikt twee verschillende routes om te bepalen of een AI-systeem als hoog-risico wordt behandeld.

De eerste route betreft AI die een veiligheidscomponent is van een product, of zelf zo'n product vormt, waarvoor bestaande Europese productveiligheidswetgeving geldt. De relevante wetgeving staat opgesomd in Annex I van de AI Act. Denk bijvoorbeeld aan regelgeving voor medische hulpmiddelen, machines en speelgoed.

Een AI-functie in een machine die een veiligheidskritische beslissing neemt, moet daarom anders worden beoordeeld dan dezelfde techniek wanneer die alleen wordt gebruikt voor administratieve ondersteuning. Niet alleen het model telt, maar vooral de functie die het binnen het product vervult.

De tweede route is voor veel mkb-bedrijven relevanter: AI-systemen die vallen onder een van de gebruiksgevallen in Annex III. Daar heeft de wetgever concrete toepassingen aangewezen waarbij AI-beslissingen invloed kunnen hebben op veiligheid, grondrechten of toegang tot belangrijke maatschappelijke voorzieningen.

De acht categorieën van Annex III

Annex III bevat acht categorieën. Binnen iedere categorie gaat het om specifieke toepassingen; niet ieder AI-systeem dat ergens in dezelfde sector wordt gebruikt, is daarmee automatisch hoog-risico.

1. Biometrie

Hieronder vallen onder meer systemen voor remote biometrische identificatie, biometrische categorisatie op basis van gevoelige kenmerken en emotieherkenning.

Pure identiteitsverificatie valt buiten deze specifieke hoog-risicocategorie. Het verschil is praktisch belangrijk. Een systeem dat controleert of iemand overeenkomt met de identiteit die die persoon zelf opgeeft, heeft een andere functie dan software die mensen op afstand probeert te identificeren of eigenschappen uit biometrische gegevens probeert af te leiden. Voor mkb-bedrijven kan dit relevant zijn bij toegangscontrole, beveiligingssoftware en toepassingen voor personeelsanalyse.

2. Kritieke infrastructuur

AI kan hoog-risico zijn wanneer het als veiligheidscomponent wordt gebruikt bij digitale infrastructuur, wegverkeer of voorzieningen voor water, gas, warmte en elektriciteit. Een generieke voorspellende tool voor onderhoud is dus niet uitsluitend vanwege de sector hoog-risico. De precieze rol van het systeem is bepalend: vooral wanneer een AI-functie direct raakt aan de veilige werking van infrastructuur wordt artikel 6 relevant.

3. Onderwijs en beroepsopleiding

AI voor toelating tot onderwijs, beoordeling van leerresultaten, bepaling van het niveau waarop iemand onderwijs krijgt en bepaalde vormen van examenfraude-detectie vallen binnen Annex III. Dat kan bijvoorbeeld spelen bij opleidingsbedrijven, examenorganisaties of leveranciers van educatieve software. Een AI-assistent die lesmateriaal samenvat is iets anders dan een systeem waarvan de score bepaalt of iemand wordt toegelaten, slaagt of naar een bepaald onderwijsniveau wordt verwezen.

4. Werkgelegenheid

Voor veel werkgevers is dit een van de belangrijkste categorieën. Annex III omvat AI voor werving en selectie, het gericht aanbieden van vacatures en het screenen of filteren van cv's. Ook systemen voor beslissingen over promotie, ontslag, taaktoewijzing en het monitoren of beoordelen van prestaties kunnen hieronder vallen.

Een mkb-bedrijf dat AI alleen gebruikt om een vacaturetekst te herschrijven zit dus in een andere situatie dan een werkgever die kandidaten automatisch laat rangschikken voordat een recruiter ze ziet. Juist bij HR-systemen is het daarom verstandig om niet alleen naar de naam van het product te kijken, maar exact vast te leggen welke invloed de AI heeft op de uiteindelijke personeelsbeslissing.

5. Toegang tot essentiële diensten

Deze categorie omvat verschillende beslissingen die grote gevolgen voor personen kunnen hebben: bepaalde systemen rond publieke bijstand en zorg, kredietwaardigheidsbeoordeling en creditscoring (met uitzondering van systemen die uitsluitend fraude detecteren), AI voor risicoacceptatie en prijsstelling bij levens- en zorgverzekeringen, en systemen voor triage van noodoproepen.

Voor financiële dienstverleners en verzekeraars is vooral van belang dat een AI-model dat een mens alleen informatie aanreikt anders kan worden beoordeeld dan een systeem waarvan de score materieel bepaalt welke dienstverlening iemand krijgt of tegen welke voorwaarden.

6. Rechtshandhaving

Annex III noemt diverse toepassingen door of ten behoeve van rechtshandhaving, waaronder systemen voor de inschatting van het risico dat iemand slachtoffer wordt, polygraafachtige toepassingen, beoordeling van de betrouwbaarheid van bewijs en bepaalde voorspellingen van recidiverisico. Voor het gemiddelde mkb-bedrijf is deze categorie minder vaak direct van toepassing. Leveranciers die AI ontwikkelen voor politie, opsporing of andere rechtshandhavingstoepassingen moeten hier uiteraard wel nadrukkelijk rekening mee houden.

7. Migratie, asiel en grensbeheer

Ook bij migratie en grensbeheer zijn specifieke toepassingen aangewezen als hoog-risico: polygraafachtige systemen, risicobeoordelingen en AI die wordt gebruikt bij de beoordeling van asiel-, visum- en verblijfsaanvragen. Ook hier maakt de toepassing het verschil. Een generiek vertaalsysteem dat in dezelfde organisatie wordt gebruikt, valt niet automatisch onder deze categorie omdat de organisatie zich met migratie bezighoudt.

8. Rechtspleging en democratische processen

AI die rechters ondersteunt bij feitenonderzoek en de toepassing van het recht kan onder Annex III vallen. Daarnaast worden systemen genoemd die de uitslag van verkiezingen of het stemgedrag van personen kunnen beïnvloeden — met uitzondering van louter administratieve hulpmiddelen voor politieke campagnes. Voor leveranciers van juridische AI is vooral het onderscheid tussen ondersteunende kennissoftware en systemen die daadwerkelijk een relevante rol spelen in rechterlijke besluitvorming essentieel.

Wanneer is een Annex III-systeem toch niet hoog-risico?

Dat een toepassing letterlijk in Annex III staat, betekent niet in alle gevallen dat het systeem automatisch als hoog-risico moet worden behandeld.

Artikel 6 lid 3 bevat een uitzondering. Een Annex III-systeem kan buiten de hoog-risicokwalificatie vallen wanneer het geen significant risico voor gezondheid, veiligheid of grondrechten vormt, bijvoorbeeld omdat het systeem de uitkomst van de besluitvorming niet materieel beïnvloedt. Dat vereist wel een inhoudelijke beoordeling van wat het systeem daadwerkelijk doet.

Een tool die uitsluitend voorbereidende informatie ordent zonder de beslissing wezenlijk te sturen, kan daardoor juridisch anders worden behandeld dan een systeem dat kandidaten automatisch uitsluit of burgers op basis van een score indeelt.

Belangrijk is dat een aanbieder niet simpelweg kan besluiten: "ons systeem is niet belangrijk genoeg, dus artikel 6 geldt niet." Wie gebruikmaakt van deze uitzondering moet de beoordeling documenteren vóórdat het systeem op de markt wordt gebracht. Voor leveranciers is het daarom praktisch verstandig om de beoogde toepassing, beslislogica, menselijke tussenkomst en invloed op de uiteindelijke beslissing expliciet vast te leggen.

Het tijdpad is veranderd door de Digital Omnibus

De oorspronkelijke AI Act voorzag erin dat de verplichtingen rond Annex III-systemen op 2 augustus 2026 zouden gaan gelden.

Dat tijdpad is inmiddels gewijzigd via de Digital Omnibus on AI, Verordening (EU) 2026/1744. Deze verordening werd gepubliceerd op 24 juli 2026 en trad op 27 juli 2026 in werking. Voor losstaande AI-systemen uit Annex III geldt nu een overgang tot 2 december 2027. Voor AI die is ingebed in producten onder Annex I loopt het tijdpad tot 2 augustus 2028.

Dat uitstel betekent niet dat de hele AI Act is verschoven. Andere onderdelen zijn al van toepassing of hebben een eigen deadline. De verplichtingen voor general-purpose AI gelden sinds augustus 2025 en de verboden praktijken van artikel 5 sinds februari 2025. De transparantieverplichtingen van artikel 50 zijn eveneens niet met deze hoog-risicodeadlines mee uitgesteld. Nieuw is bovendien een verbod in artikel 5 op niet-consensuele intieme AI-beeldcontent, waarvoor 2 december 2026 als eigen deadline geldt.

Voor de bredere planning verwijzen we naar ons pilaarartikel De EU AI Act voor het mkb: wat moet je nú geregeld hebben? en naar ons afzonderlijke artikel over artikel 50 en AI-transparantie.

Praktische checklist voor het mkb

Bij een eerste inventarisatie kun je voor ieder AI-systeem minimaal deze vragen beantwoorden:

• Is de AI onderdeel van een product dat onder de productwetgeving uit Annex I valt?
• Komt de concrete toepassing overeen met een gebruiksgeval uit Annex III?
• Heeft de AI invloed op beslissingen over mensen, bijvoorbeeld bij selectie, beoordeling, krediet, onderwijs of toegang tot diensten?
• Is die invloed materieel, of voert het systeem slechts een beperkte voorbereidende of administratieve taak uit?
• Wie is in jouw situatie aanbieder en wie is gebruiksverantwoordelijke van het systeem?
• Is de beoordeling van artikel 6 en een eventueel beroep op artikel 6 lid 3 schriftelijk vastgelegd?
• Welke toepassingsdatum geldt voor dit specifieke systeem?
• Zijn andere AI Act-verplichtingen die al eerder gelden afzonderlijk beoordeeld?

Die inventarisatie is vooral nuttig omdat "we gebruiken AI" juridisch weinig zegt. Je moet per systeem kijken naar functie, context en invloed op de uiteindelijke beslissing.

Hoog-risico draait om toepassing, niet om het label AI

Voor de meeste mkb-bedrijven is de belangrijkste les dat niet ieder geavanceerd AI-systeem hoog-risico is, terwijl relatief eenvoudige software dat in een specifieke toepassing juist wel kan zijn. Artikel 6 koppelt de kwalificatie aan gereguleerde producten en aan concrete gebruiksgevallen uit Annex III.

Begin daarom niet bij het model of de leverancier, maar bij het bedrijfsproces: wat doet het systeem, over wie neemt of ondersteunt het beslissingen, en hoeveel invloed heeft de uitkomst? Leg die analyse vast en controleer vervolgens welke verplichtingen en overgangstermijnen voor jouw situatie gelden.

Neuralex geeft geen juridisch advies. Gebruik deze uitleg om de techniek en praktische gevolgen van de AI Act beter te begrijpen, raadpleeg voor de formele kwalificatie de actuele tekst van de verordening en laat de beoordeling van jouw specifieke AI-systeem door een jurist toetsen.