Air-gapped AI: kan een taalmodel zonder internet?

Ja: een taalmodel kan volledig air-gapped draaien — fysiek en logisch losgekoppeld van elk netwerk, inclusief het interne bedrijfsnetwerk. De modelgewichten staan lokaal op schijf, de inferentie gebeurt op eigen hardware, en er gaat geen enkel pakketje data naar buiten. Geen internetverbinding betekent geen cloud-API, dus elk onderdeel van de pijplijn — het model, de kennisbank, de retrieval — moet lokaal aanwezig zijn vóórdat de vraag gesteld wordt.

Dat kán dus. De vraag die er echt toe doet is een andere: heb je het nodig? Air-gapped is het uiterste puntje van een schaal die bij "gewone" cloud-AI begint en via on-prem eindigt bij volledige isolatie. Voor de meeste bedrijven ligt het juiste antwoord ergens middenin — niet aan het uiterste eind.

Air-gapped is méér dan on-prem

De twee termen worden vaak door elkaar gebruikt, maar ze zijn niet hetzelfde. On-prem betekent dat het model op eigen hardware draait — een server die je zelf beheert, mogelijk nog steeds met een internetverbinding voor updates, monitoring of losse cloud-diensten. Air-gapped gaat een stap verder: geen netwerkverbinding, punt. Geen uitgaand verkeer, geen inkomend verkeer, geen telemetrie die "toevallig" toch naar huis belt. Elke on-prem-opstelling is dus nog niet air-gapped, maar elke air-gapped opstelling is per definitie wél on-prem.

Wie dit echt nodig heeft

Air-gapped AI is geen standaardkeuze — het is een antwoord op een specifieke dreiging: een omgeving waar zelfs een gecontroleerde, versleutelde verbinding naar buiten een onacceptabel risico is. Denk aan defensie en inlichtingendiensten, kritieke infrastructuur (energie, waterbeheer), en werk met staatsgeheimen of extreem gevoelige onderzoeksdata. In die context is de vraag niet "hoe waarschijnlijk is een lek", maar "wat is de impact als het toch gebeurt" — en bij die impact weegt zelfs een kleine kans niet op tegen het gemak van een verbinding.

Voor de meeste mkb-bedrijven, ook met gevoelige klant- of patiëntdata, is dit niveau overkill. Daar volstaat on-prem of een AVG-proof EU-omgeving meestal ruimschoots — de afweging die daarbij hoort staat uitgewerkt in dat artikel.

Wat er technisch voor nodig is

Een air-gapped opstelling verschuift werk dat de cloud normaal gratis meelevert, naar jezelf. Vier dingen moeten lokaal geregeld zijn.

Modelgewichten fysiek binnenbrengen. Een open-source model wordt buiten het gesloten netwerk gedownload, gecontroleerd (checksum, herkomst) en via fysieke media — geen netwerkverbinding, dus een schijf — naar binnen gebracht. Elke stap in die keten is een controlepunt: wat er binnenkomt, moet aantoonbaar zijn wat je denkt dat het is.

Een lokale kennisbank. RAG werkt hier hetzelfde als elders — ophalen, verifiëren, citeren — alleen staat de hele index (documenten, embeddings, zoekindex) op eigen opslag. Er is geen extern zoeksysteem om op terug te vallen als de lokale index een gat heeft.

Updates via een geverifieerd kanaal. Een nieuwe modelversie, een bugfix, een uitgebreide kennisbank — alles moet dezelfde gecontroleerde binnenkomst doorlopen als de eerste keer. Geen automatische updates, geen achtergrond-sync. Dat is geen bijzaak maar het grootste deel van het operationele werk.

Monitoring zonder telemetrie naar buiten. Logging, gebruiksstatistieken en foutmeldingen blijven binnen dezelfde grens. Een dashboard dat "toevallig" een externe service aanroept voor grafieken, is een lek — hoe onschuldig het ook lijkt.

De prijs die je betaalt

Air-gapped is geen gratis veiligheid. Het model kent de wereld tot het moment dat het binnenkwam en niet later — geen actuele nieuwsfeiten, geen recente wetswijzigingen, tenzij je die expliciet en handmatig toevoegt aan de kennisbank. Schaalbaarheid kost eigen hardware in plaats van een knop in de cloud. En het onderhoud — patches, nieuwe modelversies, capaciteitsuitbreiding — is voor eigen rekening, met dezelfde fysieke-media-discipline als bij de eerste installatie. Wie air-gapped kiest, kiest dus bewust voor een tragere, arbeidsintensievere levenscyclus in ruil voor de garantie dat er niets naar buiten kan.

Conclusie

Een taalmodel zonder internet is technisch prima mogelijk — het draait, het antwoordt, het kan zelfs RAG doen. De echte vraag is niet of het kan, maar of jouw dreigingsmodel dat niveau van isolatie rechtvaardigt. Voor staatsgeheimen en kritieke infrastructuur is air-gapped de enige verantwoorde keuze. Voor bijna al het andere is gewoon on-prem of een AVG-proof EU-omgeving het punt waar de beveiliging en het gemak elkaar in balans houden — zoals we bij de AVG-afweging laten zien.