Wat is een DPIA en wanneer heb je er een nodig voor AI?
Voor AI heb je een DPIA nodig zodra de verwerking van persoonsgegevens waarschijnlijk een hoog risico voor mensen oplevert. AI op zichzelf is niet de juridische trigger; de combinatie van persoonsgegevens, doel, schaal, technologie en mogelijke gevolgen is dat wel.
Een DPIA — Data Protection Impact Assessment, in het Nederlands gegevensbeschermingseffectbeoordeling — is een voorafgaande beoordeling van de privacyrisico's van een gegevensverwerking. Onder de AVG is zo'n beoordeling verplicht wanneer een voorgenomen verwerking waarschijnlijk een hoog risico oplevert voor de rechten en vrijheden van mensen. Bij AI is dat relatief snel relevant, omdat systemen vaak grote hoeveelheden data combineren, mensen profileren, gevoelige informatie verwerken of nieuwe technologie inzetten.
Je hebt dus niet automatisch voor ieder AI-project een DPIA nodig. Een interne tekstgenerator die uitsluitend met niet-persoonlijke bedrijfsinformatie werkt, kan buiten de DPIA-plicht vallen. Maar zodra persoonsgegevens onderdeel worden van prompts, trainingsdata, logbestanden, embeddings, beslismodellen of automatisch gegenereerde beoordelingen, moet je serieus toetsen of artikel 35 AVG een DPIA vereist.
Een DPIA is meer dan een privacychecklist
Een DPIA is geen formulier dat je achteraf invult om een project af te tekenen. Het doel is om vóór ingebruikname systematisch vast te stellen wat je met persoonsgegevens gaat doen, waarom dat nodig is, welke risico's daaruit voortkomen en welke maatregelen die risico's beperken.
Artikel 35 AVG schrijft voor dat een DPIA ten minste een systematische beschrijving van de verwerking en de doeleinden bevat, plus een beoordeling van de noodzaak en proportionaliteit. Daarnaast moet je de risico's voor betrokkenen beoordelen en vastleggen welke technische en organisatorische maatregelen je neemt om die risico's te beheersen.
Dat maakt een DPIA relevant voor zowel de technische architectuur als het bedrijfsproces. De vraag is niet alleen of data versleuteld is, maar ook of een AI-systeem bepaalde persoonsgegevens nodig heeft, hoe lang prompts en outputs worden bewaard en welke gevolgen een fout modelantwoord voor iemand kan hebben.
Waarom AI sneller tot een hoog risico kan leiden
De AVG noemt nieuwe technologie expliciet als factor bij de beoordeling of een verwerking waarschijnlijk een hoog risico veroorzaakt. AI is daarom niet automatisch 'hoog risico', maar veel AI-toepassingen combineren meerdere risicofactoren.
Denk aan een recruitmentmodel dat kandidaten rangschikt, software die werknemers analyseert, een fraudemodel dat klanten een risicoscore geeft of een zorgtoepassing die patiëntgegevens samenvat. In zulke systemen kan een fout leiden tot een beslissing of beoordeling met concrete gevolgen voor een persoon.
Ook generatieve AI kan persoonsgegevens verwerken zonder dat dit meteen zichtbaar is. Een medewerker kan klantgegevens in een prompt plakken, een RAG-systeem kan passages uit personeelsdossiers ophalen en een embeddingdatabase kan representaties bevatten van tekst die naar personen herleidbaar blijft. "We slaan alleen vectoren op" betekent daarom niet automatisch dat de AVG niet meer van toepassing is.
Wanneer is een DPIA verplicht?
Artikel 35 AVG noemt drie situaties waarin een DPIA in het bijzonder vereist is: systematische en uitgebreide beoordeling van persoonlijke aspecten op basis van geautomatiseerde verwerking wanneer daarop beslissingen met juridische of vergelijkbaar belangrijke gevolgen worden gebaseerd; grootschalige verwerking van bijzondere persoonsgegevens of strafrechtelijke gegevens; en grootschalige systematische monitoring van openbaar toegankelijke gebieden.
Daarnaast hanteert de Autoriteit Persoonsgegevens een lijst met verwerkingen waarvoor een DPIA verplicht is. De onderliggende Europese richtsnoeren kijken onder meer naar negen criteria: beoordeling of scoring van personen, geautomatiseerde besluitvorming, stelselmatige monitoring, gevoelige gegevens, grootschaligheid, het koppelen van datasets, gegevens van kwetsbare personen, innovatief gebruik van nieuwe technologie en verwerkingen die iemand kunnen verhinderen een recht, dienst of overeenkomst te gebruiken.
Het is dus geen simpele vraag als: "Gebruiken we AI?" De betere vraag is: "Wat doet dit AI-systeem met persoonsgegevens en wat kan daarvan het effect op mensen zijn?" In de Europese richtsnoeren geldt als praktische indicatie dat een verwerking die aan meerdere risicocriteria voldoet eerder een DPIA nodig heeft. Eén criterium kan in een concreet geval echter al voldoende zijn.
Voorbeelden van AI-projecten waarbij je aan een DPIA moet denken
Bij sommige toepassingen ligt de noodzaak duidelijk voor de hand. Een AI-systeem dat sollicitanten automatisch beoordeelt, combineert bijvoorbeeld profilering, beoordeling van personen en mogelijk geautomatiseerde besluitvorming. Een toepassing die medische dossiers analyseert verwerkt bijzondere persoonsgegevens. Een systeem dat medewerkers structureel volgt op productiviteit, gedrag of communicatie kan stelselmatige monitoring opleveren.
Ook minder opvallende toepassingen verdienen aandacht. Stel dat een klantenservicebot toegang krijgt tot CRM-data en complete klantdossiers gebruikt om antwoorden te formuleren. Of een organisatie bouwt een RAG-systeem bovenop duizenden e-mails, HR-documenten en contracten. De AI-interface verandert dan niet de aard van de onderliggende persoonsgegevens: de organisatie verwerkt ze nog steeds en kan nieuwe risico's creëren doordat informatie makkelijker vindbaar of combineerbaar wordt.
Een eenvoudige AI-samenvatter die lokaal draait op openbare, niet-persoonlijke documenten zal daarentegen meestal geen DPIA-plicht uit de AVG oproepen. Ook bij beperkte verwerking van gewone persoonsgegevens is een DPIA niet automatisch verplicht als het verwachte risico laag blijft.
Wat moet je technisch in een AI-DPIA onderzoeken?
Een bruikbare DPIA moet aansluiten op de echte gegevensstroom. Beschrijf waar data binnenkomt, welke onderdelen van het AI-systeem die data verwerken en waar informatie vervolgens terechtkomt. Denk aan de applicatie, API-provider, vectordatabase, logging, analytics, back-ups en eventuele menselijke reviewers.
Voor AI zijn onder andere deze vragen relevant: welke persoonsgegevens komen in prompts, documenten, embeddings en outputs terecht; worden bijzondere of strafrechtelijke persoonsgegevens verwerkt; gaat data naar een externe AI-provider, en zo ja waar wordt die verwerkt en hoe lang bewaard; worden prompts of outputs gebruikt voor modeltraining of evaluatie; kan het systeem profielen, scores, voorspellingen of beslissingen over personen produceren; welke medewerkers of systemen kunnen de brondata en gegenereerde antwoorden zien; kunnen onjuiste outputs, bias of verkeerde retrieval iemand benadelen; en kun je de hoeveelheid data beperken, pseudonimiseren of lokaal verwerken?
Daarna volgen maatregelen. Dat kan variëren van dataminimalisatie en toegangscontrole tot versleuteling, kortere bewaartermijnen, menselijke controle, logging, bronvermelding in een RAG-systeem en het uitschakelen van trainingsgebruik bij een externe provider. De AP benadrukt bij algoritmische systemen eveneens dat de risico's voor betrokkenen in de DPIA moeten worden meegenomen en waar nodig moeten worden beperkt.
Een DPIA doe je vóór de productieomgeving
Een belangrijk praktisch punt is timing. De DPIA hoort vóór de risicovolle verwerking plaats te vinden. Privacy moet dus niet pas aan bod komen wanneer de technische architectuur al vaststaat.
De beoordeling is bovendien geen eenmalig document. Artikel 35 bepaalt dat een organisatie waar nodig opnieuw moet beoordelen of de verwerking nog overeenkomt met de DPIA, in ieder geval wanneer het risico verandert. Bij AI gebeurt dat gemakkelijk: een nieuw model, extra databron, andere provider, langere logging of uitbreiding van advies naar automatische besluitvorming kan het risicoprofiel veranderen.
Heb je een functionaris gegevensbescherming, dan moet diens advies bij de DPIA worden gevraagd. Blijft na de voorgenomen maatregelen een hoog risico bestaan dat je niet voldoende kunt beperken, dan vereist artikel 36 AVG voorafgaande raadpleging van de toezichthouder voordat de verwerking start.
Hoe verhoudt een DPIA zich tot een FRIA onder de AI Act?
Naast een DPIA kan voor bepaalde hoog-risico-AI-systemen ook een fundamental rights impact assessment (FRIA) verplicht zijn. Die verplichting staat in artikel 27 van de EU AI Act. Zij geldt niet voor iedere gebruiksverantwoordelijke van een hoog-risico-AI-systeem, maar onder meer voor publiekrechtelijke organisaties en private partijen die openbare diensten verlenen wanneer zij bepaalde hoog-risico-systemen uit artikel 6, lid 2 inzetten. Ook gebruiksverantwoordelijken van systemen voor kredietwaardigheidsbeoordeling en kredietscoring en voor risico-inschatting en prijsstelling bij levens- en ziektekostenverzekeringen vallen eronder.
Een DPIA en FRIA zijn niet hetzelfde. Een DPIA komt uit de AVG en richt zich op hoge privacyrisico's bij de verwerking van persoonsgegevens; een FRIA kijkt breder naar mogelijke gevolgen voor grondrechten door het gebruik van het AI-systeem. Daardoor kan alleen een DPIA, alleen een FRIA of beide verplicht zijn. Artikel 27, lid 4 bepaalt expliciet dat wanneer onderdelen al via een DPIA zijn beoordeeld, de FRIA die beoordeling mag aanvullen in plaats van hetzelfde werk onnodig te dupliceren.
Een DPIA maakt een onrechtmatige AI-toepassing niet rechtmatig
Een afgeronde DPIA geeft geen toestemming om persoonsgegevens te verwerken. Je hebt nog steeds een geldige AVG-grondslag nodig, moet voldoen aan doelbinding en dataminimalisatie en moet rekening houden met regels voor bijvoorbeeld bijzondere persoonsgegevens en geautomatiseerde besluitvorming.
De DPIA dwingt je juist om die keuzes expliciet te maken. Soms is extra beveiliging voldoende. Soms moet je minder gegevens gebruiken, menselijke controle toevoegen of de architectuur aanpassen. En soms is de conclusie dat een bepaalde verwerking in de gekozen vorm niet verantwoord kan worden uitgevoerd.
Conclusie
Voor AI heb je een DPIA nodig zodra de verwerking van persoonsgegevens waarschijnlijk een hoog risico voor mensen oplevert. AI op zichzelf is niet de juridische trigger; de combinatie van persoonsgegevens, doel, schaal, technologie en mogelijke gevolgen is dat wel.
Behandel een DPIA daarom als onderdeel van het ontwerp van een AI-systeem, niet als compliance-document achteraf. Vooral bij profilering, geautomatiseerde beslissingen, gevoelige gegevens, monitoring, grote datasets en gekoppelde databronnen moet de DPIA-vraag vroeg op tafel liggen. Neuralex geeft geen juridisch advies; laat bij twijfel over de DPIA-plicht, de gekozen AVG-grondslag of een eventuele FRIA-verplichting de concrete toepassing juridisch toetsen.