Door Sebastiaan Hoogeveen | 23 augustus 2026 | leestijd 2 minuten
Voor veel bedrijven raast de trein van AI voort. Veel bedrijven kiezen ervoor om bijvoorbeeld te werken met Copilot om personeel met AI te ondersteunen. Tegelijkertijd verbieden veel bedrijven hun werknemers om gevoelige informatie te delen met publieke LLM’s, omdat die informatie anders bij een externe partij terecht kan komen.
RAG (Retrieval-Augmented Generation)
Maar hoe pas je AI dan wél veilig toe binnen een bedrijf? Idealiter kunnen werknemers snel en betrouwbaar bedrijfsinformatie opvragen, zonder dat gevoelige data het bedrijf verlaat. Dit wordt meestal niet opgelost door een model te trainen op interne documenten (dat is kostbaar en geeft geen betrouwbare, verifieerbare antwoorden). In plaats daarvan wordt gewerkt met RAG (Retrieval-Augmented Generation): interne documenten worden doorzoekbaar gemaakt, en bij een vraag haalt het systeem de relevante passages op om als context aan een taalmodel te geven.
Lokaal zoeken, extern formuleren: de hybride oplossing
Voor dit doorzoeken kan een lokaal, zelf gehost open source taalmodel worden ingezet (de gevoelige data verlaat dan nooit de eigen omgeving). Voor het uiteindelijke “begrijpen” en formuleren van het antwoord kan vervolgens alsnog een externe API (zoals GPT of Claude) worden gebruikt, mits alleen niet-herleidbare of al goedgekeurde contextfragmenten worden meegestuurd. Zo ontstaat een hybride aanpak die kosten bespaart ten opzichte van een volledig zelf gehost systeem, terwijl je toch controle houdt over welke data extern wordt gedeeld. Dit vertaalt zich naar winst op het gebied van digitale soevereiniteit.
Bij het kiezen van een open source taalmodel is het belangrijk om na te gaan hoe het getraind is, hoe transparant de makers zijn over trainingsdata en licentie, en hoe je de kwaliteit van de resultaten structureel gaat evalueren.
Meer weten? Neem contact met ons op!
