Een eigen model trainen? Begin met RAG.
Veel organisaties dromen van "ons eigen LLM". In de praktijk is dat bijna altijd de duurste route naar het verkeerde doel. Waarom RAG plus lichte fine-tuning meestal wint — en wanneer trainen wél zinvol is.
"We willen ons eigen taalmodel, getraind op onze data." Het is een van de meest gestelde vragen in AI-trajecten — en bijna altijd is het antwoord: dat wil je niet, je wilt dat het model jouw kennis gebruikt. Dat zijn twee heel verschillende dingen, met een prijsverschil van ordes van grootte.
Het korte antwoord: begin met RAG — een bestaand model dat jouw documenten ophaalt en citeert. Voeg pas fine-tuning toe als toon of vorm structureel tekortschiet, en train alleen zelf als je een uitzonderlijk goede reden hebt. Hieronder waarom.
Wat "trainen" werkelijk vraagt
Een taalmodel vanaf nul trainen vraagt datasets van biljoenen tokens, maandenlange rekentijd op clusters vol GPU's en een gespecialiseerd team. Dat is het domein van een handvol bedrijven. Voor vrijwel iedere organisatie is de relevante vraag dus niet "trainen of niet", maar: hoe krijg ik mijn kennis in het antwoord van een bestaand model?
Drie routes, drie prijskaartjes
RAG — Retrieval-Augmented Generation — laat een bestaand model bij elke vraag de relevante passages uit jouw documenten ophalen en verplicht het daaruit te antwoorden, met bron. Je kennis is per direct actueel: nieuw document indexeren en klaar. Geen trainingsronde, geen GPU-cluster, en het werkt met lokale modellen op eigen hardware net zo goed als met een API.
Fine-tuning leert een bestaand model een gedrag: jouw toon, jouw documentformat, jouw manier van redeneren in een specifiek vakgebied. Dat is waardevol — maar het is de verkeerde plek voor feitenkennis. Een gefinetuned model zonder retrieval blijft verzinnen, alleen overtuigender in jouw huisstijl. En elke kenniswijziging betekent opnieuw tunen.
Zelf trainen koopt maximale controle tegen maximale kosten, en je kennis veroudert vanaf de dag dat de training klaar is.
Kennis hoort in de retrieval-laag, gedrag in het model. Wie dat omdraait, betaalt trainingskosten voor iets wat een index gratis doet.
De praktische beslisregel
Vraag je bij elke wens af: gaat dit over wat het systeem moet weten, of over hoe het zich moet gedragen? Kennis ("wat staat er in onze contracten, protocollen, jurisprudentie") is retrieval — dus RAG. Gedrag ("antwoord in onze rapportagestijl, gebruik onze terminologie") is eventueel lichte fine-tuning bovenop die RAG-fundering. In de praktijk blijkt de gedragslaag vaak al oplosbaar met een goede systeemprompt en voorbeelden — nog een reden om klein te beginnen.
Waarom dit goed nieuws is
De droom "ons eigen LLM" klinkt als een investering van tonnen. De werkelijkheid — RAG op jouw data, met bronvermelding en meetbare kwaliteit — draait in weken, op hardware die je zelf beheert, tegen een fractie van dat bedrag. Ons eigen rechtspraak-portaal doorzoekt zo 3,6 miljoen uitspraken met een bron onder elk antwoord: geen model dat alles "weet", maar een pijplijn die alles kan opzoeken én bewijzen.
Wanneer trainen of zwaar tunen wél zinvol is
Er zijn echte uitzonderingen: taken waar geen bestaand model in de buurt komt (zeer specialistische taal of structuren), extreme volume-eisen waar een klein gespecialiseerd model kosten drukt, of harde eisen waarbij zelfs de gewichten van het model in eigen beheer moeten zijn. Herkenbaar aan één patroon: je hebt eerst RAG en prompting geprobeerd, gemeten, en kunt aanwijzen waar het tekortschiet. Wie die meting niet heeft, is niet toe aan trainen.
Conclusie
Begin met RAG: het is de snelste route naar een systeem dat jouw kennis gebruikt en kan bewijzen wat het zegt. Voeg fine-tuning toe als gedrag aantoonbaar tekortschiet. En bewaar "eigen model trainen" voor het moment dat de metingen erom vragen — dat moment komt later dan je denkt, en vaak nooit.