> Bron: https://neuralex.nl/blog/ai-achter-de-firewall > Ontdek wat volledig intern draaien van een taalmodel inhoudt, welke keuzes nodig zijn voor beheer en beveiliging, wat je ervoor inlevert en wanneer een hybride opzet beter past. [Terug naar kennisbank](/blog) On-prem ·6 oktober 2026 ·6 min lezen # AI achter de firewall: kan je model volledig intern draaien? Ontdek wat volledig intern draaien van een taalmodel inhoudt, welke keuzes nodig zijn voor beheer en beveiliging, wat je ervoor inlevert en wanneer een hybride opzet beter past. Ja, je kunt een taalmodel met de bijbehorende zoek- en documentlaag volledig binnen je eigen netwerk draaien. Het model, de embeddings, de documenten en de logging blijven dan intern, zonder externe API-aanroepen. Dat vraagt wel om bewuste keuzes over hardware, updates, toegang en dagelijks beheer. Intern draaien is geen automatische garantie voor veiligheid. Een verkeerd ingestelde server, te ruime toegangsrechten of een onbeheerde update kan gegevens alsnog blootstellen. Je houdt zelf de verantwoordelijkheid voor de hele keten: van het binnenhalen van modelbestanden tot het beveiligen van back-ups en het controleren van wie antwoorden kan opvragen. ## Wat betekent ‘volledig intern’? Een opzet is pas volledig intern als alle onderdelen die gegevens verwerken binnen je eigen netwerk blijven. Dat omvat het taalmodel dat antwoorden maakt, het embeddingmodel dat tekst omzet in zoekbare representaties, de documentopslag en de zoekindex. Ook de applicatie, eventuele tussenliggende diensten en de logging moeten intern draaien. Controleer daarom of de toepassing geen externe API gebruikt voor bijvoorbeeld embeddings, analyse, foutmeldingen of telemetrie. Een interface kan lokaal lijken terwijl een achterliggende functie toch verbinding maakt met een externe dienst. Breng de gegevensstromen in kaart en test wat er gebeurt als de server geen internetverbinding heeft. Als een essentieel onderdeel dan niet werkt, is de opzet niet volledig zelfstandig. De aanpak kan passen bij documenten die je niet naar een externe aanbieder wilt sturen. Lees ook [wanneer on-prem AI de moeite waard is](/blog/on-prem-ai-wanneer-de-moeite). De precieze invulling hangt af van je beveiligingseisen, de beschikbare apparatuur en de taken die het systeem moet uitvoeren. ## Modellen veilig binnenhalen en bijwerken Een systeem zonder directe internetverbinding heeft nog steeds modellen en beveiligingsupdates nodig. Je kunt bestanden via een gecontroleerde route binnenhalen, bijvoorbeeld met een aparte computer die toegang heeft tot internet. Controleer vóór import waar een bestand vandaan komt, of het overeenkomt met de bedoelde bron en of het tijdens het overbrengen ongewijzigd is gebleven. Leg vast welke modelbestanden en configuraties zijn goedgekeurd. Test een nieuwe versie eerst in een afgeschermde omgeving met representatieve vragen en documenten. Controleer onder meer de antwoordkwaliteit, toegangsbeperkingen en werking van je applicatie. Pas na beoordeling verplaats je de update naar productie, met een manier om terug te keren naar de vorige werkende versie. Een afgesloten netwerk voorkomt niet dat verouderde software kwetsbaarheden bevat. Plan daarom updates voor het besturingssysteem, de modelserver, de zoeklaag en de applicatie. Als je patches offline importeert, hoort die import zelf ook bij het beveiligingsproces: beperk wie hem uitvoert en registreer wat is bijgewerkt. Voor een overzicht van de onderliggende hardwarekeuzes, zie [hardware voor lokale AI](/blog/hardware-voor-lokale-ai). ## Netwerk, accounts en logging Beperk netwerktoegang tot de systemen en gebruikers die de dienst nodig hebben. Segmentatie kan ervoor zorgen dat de AI-dienst niet zomaar andere onderdelen van het bedrijfsnetwerk kan bereiken. Open alleen de poorten die nodig zijn en geef beheerders- en gebruikersaccounts passende rechten. Gebruik authenticatie en voorkom gedeelde accounts waar individuele toegang nodig is. Een intern model kan nog steeds informatie tonen aan iemand die daar geen recht op heeft. Koppel daarom documenttoegang aan gebruikers of groepen en controleer of die rechten ook gelden tijdens het zoeken. Een filter dat documenten alleen achteraf uit het antwoord probeert te halen, kan onvoldoende zijn als ongeautoriseerde tekst al in de context van het model terechtkomt. Logging helpt bij storingen en onderzoek, maar kan zelf gevoelige inhoud opslaan. Leg vast welke informatie je nodig hebt, wie logs mag bekijken en hoe lang je ze bewaart. Vaak zijn technische gegevens zoals foutmeldingen, tijdstippen en gebruikte functies nuttiger dan complete vragen en antwoorden. Als je inhoud opslaat, beperk die dan en bescherm de opslag. Denk ook aan versleuteling voor gegevens die worden opgeslagen en voor verbindingen binnen het netwerk. ## Back-ups en herstel horen erbij Een interne AI-opzet bestaat uit meer dan modelbestanden. Je kunt ook documenten, configuraties, toegangsregels, prompts, indexen en gegevens voor evaluatie nodig hebben om de dienst te herstellen. Bepaal welke onderdelen je opnieuw kunt opbouwen en welke je moet bewaren. Test herstel periodiek; een back-up die nooit is teruggezet, bewijst niet dat het herstelproces werkt. Versleutel back-ups en beperk toegang ertoe. Een kopie op dezelfde server beschermt niet tegen iedere storing of ongewenste toegang. Leg vast wie herstel mag uitvoeren en hoe je controleert dat de teruggezette omgeving weer dezelfde toegangsbeperkingen heeft. In [back-ups voor AI-systemen](/blog/backups-voor-ai-systemen) lees je welke onderdelen je naast de brondocumenten kunt meenemen. ## Wat lever je in, en wanneer past hybride? Een intern model geeft je meer controle over waar gegevens worden verwerkt, maar kan minder goed presteren dan een extern model voor bepaalde taken. De kwaliteit hangt af van het model, de gekozen hardware, de taal en de toepassing. Ook kan het lastiger zijn om snel toegang te krijgen tot nieuwe mogelijkheden. Zelf beheren kost tijd en vraagt kennis van updates, monitoring en herstel. Een hybride aanpak kan passen wanneer gevoelige documenten intern moeten blijven, maar je voor andere taken een externe dienst wilt gebruiken. Scheid de gegevensstromen bewust: stuur geen vertrouwelijke inhoud mee met een externe aanvraag en laat vastleggen welke informatie een dienst ontvangt. Beoordeel ook of een opgeschoonde of algemene vraag voldoende is. Welke grens verantwoord is, hangt af van je gegevens, afspraken en risicobeoordeling. ## Checklist voor een interne AI-dienst - Staan model, embeddings, documentopslag, zoekindex, applicatie en logging binnen het eigen netwerk? - Zijn externe API-aanroepen, telemetrie en onverwachte verbindingen gecontroleerd? - Is de herkomst van modelbestanden gecontroleerd en is het importproces beperkt en vastgelegd? - Zijn updates getest, goedgekeurd en terug te draaien? - Zijn netwerktoegang, poorten, accounts en documentrechten beperkt tot wat nodig is? - Bevatten logs niet meer gevoelige inhoud dan nodig en zijn opslag en back-ups beschermd? - Is herstel getest en is duidelijk wie de dienst beheert? Volledig intern draaien is dus haalbaar, maar vraagt om eigenaarschap over alle onderdelen en hun levenscyclus. Begin met een overzicht van gegevensstromen, gebruikers en beheertaken. Zo kun je beoordelen of lokaal draaien past bij je risico’s en of je de omgeving op lange termijn veilig kunt onderhouden. On-prem ## Wil je AI volledig binnen je eigen netwerk draaien? We denken mee over hardware, toegang, updates en beheer — praktisch en zonder verzonnen claims. Benieuwd wat dat voor jouw organisatie betekent? [Stel je vraag](/contact) [Lees wanneer on-prem de moeite waard is](/blog/on-prem-ai-wanneer-de-moeite) --- Volledige (opgemaakte) versie: https://neuralex.nl/blog/ai-achter-de-firewall