Lokale modellen in 2026: Llama, Qwen en Gemma eerlijk vergeleken
Voor on-prem AI heb je een open model nodig dat op eigen hardware past. Een eerlijke stand van zaken medio 2026: licentie, formaten en context van Llama 4, Qwen 3.5/3.6 en Gemma 4 — en waarom "welke is het beste" de verkeerde vraag is.
Kort antwoord: er is geen winnaar, alleen een beste keuze voor jouw situatie. Qwen en Gemma zijn licht in gebruik dankzij een echte Apache 2.0-licentie zonder gebruiksbeperkingen; Llama heeft de grootste ecosysteem-adoptie maar een licentie met voorwaarden die pas relevant worden bij extreme schaal. Welk model concreet wint, hangt af van je hardware, de talen die je nodig hebt en hoeveel context een taak vereist — en dat verandert door de snelheid van dit veld elke paar maanden.
Deze vergelijking is bijgewerkt op 25 juli 2026. Dat vermelden we bewust: geen enkel "beste model van 2026"-overzicht blijft langer dan een kwartaal actueel in dit tempo. Check bij een concrete keuze altijd de meest recente releases voordat je vastlegt.
De licentie bepaalt méér dan de benchmark
Voor een on-prem-keuze is de licentie vaak belangrijker dan een half procentpunt op een benchmark. Qwen (Alibaba) en Gemma (Google DeepMind) verschijnen onder Apache 2.0 — een echte open-sourcelicentie zonder gebruikslimiet, zonder verplichte naamsvermelding in je product en met volledige commerciële vrijheid. Llama (Meta) gebruikt een eigen "Community License": vrij te gebruiken, wijzigen en verspreiden, met een acceptable-use-policy, een verplichte "Built with Llama"-vermelding, en een grens van 700 miljoen actieve gebruikers per maand waarboven je apart toestemming nodig hebt. Voor vrijwel elk mkb-bedrijf is die grens theoretisch — maar het is geen OSI-erkende open-sourcelicentie, en dat maakt een juridische toets bij gevoelige toepassingen de moeite waard.
Welk model past op welke hardware
Voor on-prem telt formaat net zo zwaar als kwaliteit: een model dat niet op je hardware past, is nutteloos hoe goed de benchmark ook is.
Gemma 4 mikt expliciet op dat spectrum: vier maten (E2B, E4B, 26B en 31B), van een telefoon of laptop tot één GPU. De kleinere varianten zijn gebouwd om te draaien waar geen serverpark voor is; de 26B-MoE-variant haalt met slechts 3,8 miljard actieve parameters een score die concurreert met modellen twintig keer zo groot.
Qwen biedt de breedste spreiding: de 3.5-familie loopt van 0,8 tot 397 miljard parameters, met een dense 27B en een MoE-variant (35B-A3B) die specifiek geschikt zijn voor één-GPU-inzet. Wie kleiner nodig heeft dan Gemma's kleinste variant, vindt dat eerder bij Qwen dan bij Llama.
Llama 4 mikt met zijn nieuwste generatie (Scout en Maverick) juist op de bovenkant: Scout is de kleinste van de twee en past nog net op één high-end GPU, met een context van 10 miljoen tokens — indrukwekkend, maar geen light-weight optie voor bescheiden hardware. Wie een klein, zuinig model zoekt, vindt dat in de Llama-lijn eerder terug in oudere, nog altijd breed gebruikte generaties dan in de nieuwste release.
Context, taal en specialisatie
Naast grootte verschillen de drie families in wat ze extra meekrijgen. Qwen 3.5 ondersteunt van huis uit 201 talen en een contextvenster van 262.000 tokens — relevant als je met meertalige of zeer lange documenten werkt. Qwen 3.6 verlegt de focus deels naar codegeneratie. Gemma 4 is uitgerust met beeldverwerking in alle varianten en functie-aanroepen voor agentwerk, wat het een logische kandidaat maakt voor lokale agent-toepassingen. Llama 4 was de eerste van de drie met een natively multimodale, mixture-of-experts-architectuur en blijft de familie met de breedste ecosysteem-adoptie — meer kant-en-klare tooling, meer bestaande integraties.
"Welk model is het beste" is de verkeerde vraag. De juiste vraag is: welk model past op mijn hardware, onder een licentie die ik zonder juridisch vraagteken kan gebruiken, met de taal en context die mijn taak nodig heeft?
Waarom dit overzicht een houdbaarheidsdatum heeft
Terwijl dit artikel werd geschreven, kondigde Alibaba een preview aan van een nog groter Qwen-model — de gewichten daarvan zijn nog niet vrijgegeven. Dat is geen uitzondering maar de norm in dit veld: er verschijnt vrijwel maandelijks een nieuwe versie, en de onderlinge volgorde op benchmarks verschuift net zo vaak. Elk overzicht dat een "definitieve winnaar" claimt, is per definitie alweer verouderd tegen de tijd dat je het leest. Bouw je keuze daarom niet op een ranglijst van vandaag, maar op de vaste criteria die niet elke maand veranderen: licentie, hardware-fit en of het model actief onderhouden wordt.
Hoe dit past bij een on-prem-keuze
Welk model je ook kiest, de afweging óf je lokaal draait staat los van welk model wint. Die keuze — wanneer on-prem de investering waard is — zetten we uit in on-prem AI: wanneer is het de investering waard?. En omdat een eigen model regelmatig verward wordt met "gewoon een groter taalmodel kiezen", leggen we in een eigen model trainen? Begin met RAG uit waarom de modelkeuze zelden het eerste probleem is dat je moet oplossen.
Conclusie
Qwen en Gemma winnen op licentievrijheid en beschikbaarheid van kleine, zuinige varianten; Llama wint op ecosysteem-adoptie en tooling, met een licentie die voor de meeste mkb-bedrijven in de praktijk geen probleem is maar wel een aandachtspunt blijft. Geen van de drie is objectief "het beste" — de juiste keuze volgt uit je hardware, je taal- en contexteisen, en hoeveel juridische zekerheid je nodig hebt. En omdat dit veld sneller verandert dan de meeste overzichten kunnen bijhouden: verifieer de actuele stand voordat je vastlegt, niet erna.