AI in het onderwijs: waar ligt de grens?
AI kan onderwijs ondersteunen bij leren, plannen, feedback en administratie. De grens ligt bij beslissingen over leerlingen, vervanging van eigen denkwerk en toepassingen waarbij privacy, eerlijkheid of menselijke controle onvoldoende zijn gewaarborgd.
AI is in het onderwijs goed bruikbaar als hulpmiddel voor leren, plannen en administratie. De grens ligt waar AI de beoordeling of toelating van leerlingen overneemt, waar het eigen denkwerk van een leerling wordt vervangen of waar persoonsgegevens onvoldoende worden beschermd. Hoe groter de gevolgen voor een leerling, hoe minder verstandig het is om een AI-systeem zelfstandig te laten beslissen.
Dat betekent niet dat scholen AI buiten de deur moeten houden. Een docent kan AI gebruiken om lessen voor te bereiden of een eerste feedbackconcept te maken, terwijl een leerling dezelfde technologie gebruikt om uitleg te krijgen of te oefenen. Het verschil zit vooral in het doel, de gevolgen en de mate van menselijke controle. Ook de AI-geletterdheid van docenten en leerlingen bepaalt of zo'n toepassing verantwoord wordt gebruikt.
AI als assistent voor docent en leerling
Voor docenten kan generatieve AI veel voorbereidende taken ondersteunen. Denk aan het maken van varianten op oefenvragen, het structureren van een les, het herschrijven van instructies voor verschillende niveaus of het opstellen van een eerste concept voor feedback. Ook administratieve taken, zoals het samenvatten van notities of structureren van informatie, kunnen geschikt zijn.
Daarbij moet een docent de uitvoer blijven controleren. Een taalmodel kan overtuigend klinkende fouten produceren, nuances missen of informatie toevoegen die niet uit de bron afkomstig is. AI kan daarom een concept leveren, maar de docent blijft verantwoordelijk voor wat uiteindelijk wordt gebruikt of aan een leerling wordt teruggekoppeld.
Voor leerlingen ligt een vergelijkbare grens. AI kan begrippen anders uitleggen, oefenvragen genereren, taal verbeteren, een planning helpen maken of feedback geven op een concept. Het wordt problematischer wanneer het systeem een opdracht volledig produceert terwijl die opdracht juist bedoeld is om te beoordelen wat de leerling zelf begrijpt of kan.
Eigen denkwerk blijft onderdeel van leren
Een algemeen verbod op AI is moeilijk werkbaar wanneer dezelfde hulpmiddelen buiten school breed beschikbaar zijn. Het is praktischer om per opdracht duidelijk te maken welk gebruik wel en niet is toegestaan. Bij een brainstormopdracht kan AI bijvoorbeeld bruikbaar zijn, terwijl zelfstandig redeneren juist centraal kan staan bij een toets of individueel werkstuk.
De kernvraag is niet alleen of AI is gebruikt, maar welk deel van het leerdoel de leerling zelf moest uitvoeren. Als het leerdoel argumenteren is, heeft een leerling weinig aan een systeem dat de volledige redenering produceert. Als het leerdoel juist kritisch beoordelen is, kan het analyseren en verbeteren van een AI-antwoord wel een zinvolle oefening zijn.
Transparantie helpt daarbij. Een opleiding kan leerlingen vragen om aan te geven waarvoor zij AI hebben gebruikt, bijvoorbeeld voor taalcorrectie, uitleg, structurering of het genereren van ideeën. Dat maakt het gebruik bespreekbaar zonder iedere toepassing automatisch als fraude te behandelen.
AI-detectie is geen betrouwbaar bewijs van fraude
Software die probeert vast te stellen of een tekst door AI is geschreven, kan aanwijzingen geven, maar zo'n uitkomst is geen sluitend bewijs. Detectiesystemen werken met patronen en waarschijnlijkheden en kunnen zich vergissen. Bovendien veranderen generatieve modellen en schrijfstijlen voortdurend.
Daarom moet een AI-detector niet het enige bewijs zijn waarop een beschuldiging of sanctie wordt gebaseerd. Bij twijfel zijn andere signalen belangrijker: sluit het werk aan op eerdere prestaties, kan de leerling keuzes en argumenten toelichten, zijn bronnen controleerbaar en kan de leerling uitleggen hoe het werk tot stand kwam?
Onderwijsinstellingen doen er goed aan hun beoordelingsvormen hierop aan te passen. Mondelinge toelichting, tussenversies, bronverantwoording en zicht op het werkproces kunnen vaak meer zeggen over beheersing dan een poging om achteraf met software te bepalen wie een tekst heeft geschreven.
Privacy van leerlingen vraagt extra terughoudendheid
Bij AI in het onderwijs gaat het al snel om persoonsgegevens. Een docent kan bijvoorbeeld leerlingwerk, beoordelingen, ondersteuningsbehoeften of andere informatie invoeren in een externe dienst. Dat kan betekenen dat gegevens buiten de systemen van de school terechtkomen. Vooral bij minderjarige leerlingen vraagt dat om zorgvuldige keuzes.
Het uitgangspunt hoort dataminimalisatie te zijn: stuur geen persoonsgegevens naar een AI-dienst wanneer die gegevens niet nodig zijn voor de taak. Een tekst laten herschrijven vereist meestal niet dat naam, leerlingnummer, contactgegevens of andere identificerende gegevens worden meegestuurd.
Een school moet daarnaast weten welke partij gegevens verwerkt, waarvoor dat gebeurt, waar gegevens terechtkomen en welke afspraken daarvoor gelden. Wanneer een leverancier persoonsgegevens namens de school verwerkt, kunnen passende contractuele afspraken, waaronder een verwerkersovereenkomst, nodig zijn. Meer achtergrond staat in AI en de AVG.
Bij toepassingen met grotere privacyrisico's is het verstandig vroegtijdig te denken in termen van een gegevensbeschermingseffectbeoordeling. Niet iedere toepassing vereist automatisch zo'n beoordeling, maar het denkproces helpt wel om doel, gegevensstromen, risico's en maatregelen vooraf inzichtelijk te maken. Zie ook DPIA voor AI.
Beoordeling en toelating zijn een andere categorie
Er is een belangrijk verschil tussen AI die een docent helpt een tekst samen te vatten en AI die bepaalt welke leerling wordt toegelaten, welk niveau passend zou zijn of welke beoordeling iemand krijgt. In dat laatste geval beïnvloedt het systeem rechtstreeks de onderwijsloopbaan van een persoon.
Bepaalde AI-toepassingen rond toegang tot onderwijs, toelating, beoordeling van leerresultaten, niveau-indeling en toezicht bij toetsen kunnen volgens de Europese AI-regels onder een strengere risicocategorie vallen. Of dat voor een concrete toepassing geldt, hangt af van de precieze functie en manier waarop het systeem wordt ingezet. Een school of leverancier moet de actuele regels daarom voor de specifieke toepassing laten controleren. Meer uitleg over de categorie staat in wat is een hoog-risico-AI-systeem?.
Ook buiten formeel gereguleerde hoog-risicotoepassingen is menselijke controle verstandig zodra een AI-uitkomst aanzienlijke gevolgen heeft. Een model kan informatie ondersteunen, maar een leerling moet een beslissing kunnen begrijpen, betwisten en door een mens laten beoordelen.
AI-geletterdheid en transparantie horen bij het beleid
Technische beveiliging alleen is niet genoeg. Docenten moeten begrijpen dat een model fouten kan maken, bronnen kan verzinnen en gevoelige gegevens kan verwerken op een manier die niet direct zichtbaar is. Leerlingen moeten leren dat een vloeiend antwoord niet automatisch een correct antwoord is.
AI-geletterdheid betekent daarom ook weten wanneer je AI niet moet gebruiken, hoe je resultaten controleert, hoe je bronnen verifieert en welke informatie je niet in een externe dienst invoert.
Daarnaast moeten leerlingen en ouders kunnen begrijpen welke AI-systemen een school gebruikt en waarvoor. Vooral wanneer een systeem invloed heeft op begeleiding, beoordeling of andere belangrijke beslissingen, hoort duidelijk te zijn welke rol AI speelt en waar menselijke verantwoordelijkheid ligt.
Een praktisch AI-beleid voor school of opleiding
Een bruikbaar beleid hoeft niet uit tientallen pagina's te bestaan. Begin met een beperkt aantal regels die voor docenten en leerlingen begrijpelijk en uitvoerbaar zijn:
- Gebruik AI als hulpmiddel, niet als automatische beslisser. Laat belangrijke beslissingen over beoordeling, toelating en begeleiding door een bevoegd persoon nemen.
- Maak per opdracht duidelijk wat is toegestaan. Benoem bijvoorbeeld of AI gebruikt mag worden voor uitleg, brainstormen, taalcorrectie of het schrijven van tekst.
- Voer alleen noodzakelijke gegevens in. Vermijd persoonsgegevens en gevoelige leerlinginformatie in externe AI-tools wanneer deze niet nodig zijn.
- Gebruik AI-detectie nooit als enig bewijs. Onderzoek vermoedens via het werkproces, bronnen, tussenversies en een gesprek met de leerling.
- Controleer leveranciers vooraf. Kijk naar gegevensverwerking, beveiliging, contractuele afspraken en de rol van de leverancier.
- Leg uit waar AI wordt gebruikt. Zorg dat leerlingen, docenten en waar relevant ouders weten welke systemen worden ingezet en met welk doel.
- Evalueer toepassingen opnieuw. Modellen, leveranciers en regels veranderen. Wat vandaag acceptabel is, hoeft dat later niet automatisch te blijven.
De grens voor AI in het onderwijs ligt daarmee niet bij de technologie zelf, maar bij de taak die je eraan overdraagt. AI kan leren en lesgeven ondersteunen. Zodra het systeem het denkwerk vervangt dat je wilt beoordelen, zelfstandig ingrijpende beslissingen neemt of onnodig leerlinggegevens verwerkt, is extra menselijke controle nodig.