RAG & retrieval

RAG Pipelines Hosting

Combineer je eigen kennisbank met LLMs voor accurate, contextbewuste antwoorden.

je vraag
doc-4f2a0.94
doc-9c1e0.91
doc-2b770.88

De meeste vragen aan een taalmodel gaan niet over algemene kennis maar over jouw documenten: het verlofbeleid, de installatiehandleiding, de contractvoorwaarden. RAG (retrieval-augmented generation) zoekt bij elke vraag de relevante fragmenten op en geeft die aan het model mee. Bij HostYourAI is dit een ingebouwde koppeling: je verbindt een kennisbank aan de Router of aan een instance, en de context wordt automatisch in je chat completions geïnjecteerd.

Die documenten zijn precies waarom EU-hosting hier telt. Personeelshandboeken, klantdossiers en interne procedures zitten vol persoonsgegevens en bedrijfsgeheimen, en bij RAG gaan letterlijke fragmenten daarvan het model in.

Waarom RAG-pipelines in de EU

Je documenten zijn de gevoeligste input

Bij RAG stuur je niet alleen een vraag naar het model, maar ook stukken brontekst uit je eigen archieven. Blijft de hele pipeline in Europese datacenters, dan vallen opslag, retrieval en generatie onder de AVG, gedekt door een verwerkersovereenkomst en zonder training op je data.

Soevereiniteit over je bedrijfskennis

Een kennisbank is een gecomprimeerde kopie van wat je organisatie weet. Die kopie onderbrengen bij een provider onder niet-Europese jurisdictie is een strategische keuze, geen technische. Op Europese infrastructuur van een Nederlands bedrijf houd je zelf de sleutels.

Compliance die je kunt aantonen

Zorginstellingen en overheden moeten kunnen laten zien waar documenten worden verwerkt. Eén EU-verwerkingsketen met AES-256 in rust, TLS onderweg en een openbare subprocessorlijst is uit te leggen aan een toezichthouder; kijk ook bij de sectorpagina's voor zorg en overheid.

python
from openai import OpenAI
client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...")
client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role":"user","content":"Hallo!"}])

Hoe de injectie werkt

Je uploadt documenten naar een kennisbank en koppelt die aan de EU Inference Router of aan een dedicated GPU-instance. Vanaf dat moment doorloopt elk chatverzoek dezelfde route: de vraag komt binnen, retrieval zoekt de meest relevante fragmenten, die worden als context in de prompt geïnjecteerd, en het model antwoordt op basis van jouw bronnen. Je kunt de kennisbank ook per verzoek expliciet kiezen met de parameter knowledge_base_id. Niet-streaming responses geven een sources-array terug met documentnaam en fragment, zodat je bronvermelding in je UI kunt tonen. Faalt de retrieval een keer, dan gaat de chat gewoon door zonder context in plaats van stuk. De volledige opzet, inclusief chunking en afwegingen, staat in de gids RAG bouwen op EU-GPUs.

Stap in de pipelineWat er gebeurt
1. Kennisbank koppelenDocumenten verbonden aan Router of instance
2. Verzoek komt binnenGewone call naar /v1/chat/completions
3. RetrievalMeest relevante fragmenten worden opgezocht
4. InjectieFragmenten gaan als context de prompt in
5. GeneratieModel antwoordt op basis van jouw documenten
6. Bronnen terugNiet-streaming response bevat sources met naam en fragment
qwen3-8b vLLM ready
NVIDIA A100 · 40GB · EU marketplace · eu-central
VRAM19.2 / 40 GB
GPU utilisation71%
42 ms
time-to-first-token
128
tokens / sec
62°C
temperature
POST /api/v1/chat/completions200 OK

Zo begin je

Is de kennisbank gekoppeld aan je instance of Router, dan hoef je niets aan je code te veranderen. Wil je expliciet sturen, geef dan knowledge_base_id mee in de body.

from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-jouw-key",
)

response = client.chat.completions.create(
    model="mistral-7b",
    messages=[{"role": "user", "content": "Wat zegt ons verlofbeleid over ouderschapsverlof?"}],
    extra_body={"knowledge_base_id": 42},
)

print(response.choices[0].message.content)
# de niet-streaming response bevat ook een sources-array met documentnaam en fragment
Je app
OpenAI · Anthropic
EU Router
één base URL
Qwen3-8B
warm
Loes (NL)
soeverein
Llama-3.3
warm

Vragen over RAG-pipelines

Moet ik zelf een vectordatabase opzetten?

Nee. De kennisbank-koppeling regelt opslag, retrieval en injectie voor je. Wil je toch een eigen retrieval-laag bouwen, dan kan dat natuurlijk ook bovenop het gewone endpoint.

Welke documenten kan ik toevoegen?

Onder meer PDF, TXT, CSV, Markdown en DOCX. Grote bestanden worden in een hybride modus verwerkt zodat ook omvangrijke archieven doorzoekbaar blijven.

Krijg ik bronvermeldingen terug?

Ja, bij niet-streaming verzoeken bevat de response een sources-array met documentnaam en het gebruikte fragment. Bij streaming wordt de context wel geïnjecteerd, maar passen de bronnen niet in de SSE-chunks.

Wat gebeurt er als retrieval faalt?

De chat gaat gewoon door zonder extra context. Je gebruikers krijgen dus altijd antwoord; het antwoord is die ene keer alleen niet gegrond in je documenten.

Werkt dit met elk model?

Ja, de injectie zit vóór het model en werkt met de open modellen uit het modeloverzicht, zowel via de Router als op je eigen instance.

je vraag
doc-4f2a0.94
doc-9c1e0.91
doc-2b770.88

Alles wat je nodig hebt voor AI

Van model-hosting tot een klantgerichte API, gebouwd voor developers en bedrijven die hun AI op infrastructuur willen draaien die ze echt beheren, binnen de EU.

100%
EU-gehost

Je data en je modellen blijven op Europese GPUs. GDPR-vriendelijk vanaf de basis.

200+
Geverifieerde modellen, klaar om te serveren

Llama, Qwen, DeepSeek, Mistral, FLUX en nog veel meer. Kies er een en hij is binnen minuten warm, zonder DevOps aan jouw kant.

2 SDK
OpenAI- en Anthropic-compatibel

Richt je bestaande client op de Router en behoud je tools. Geen herschrijven, geen lock-in.

Van nul naar een warm endpoint in minuten

Geen infra om te beheren. Kies een model, krijg een OpenAI-compatibele URL, ship.

1

Kies een model

Kies uit de Model Garden of plak een willekeurig HuggingFace-ID. Stel de VRAM in en kies een EU-GPU.

2

Krijg je endpoint

Wij deployen vLLM, draaien readiness-probes en geven je een warme OpenAI- en Anthropic-compatibele URL plus een API-key.

3

Route en ship

Richt je client op de Router. Die routeert automatisch naar een warme instance, zet GPUs idle als niemand online is en logt elk verzoek.

Gebouwd voor teams die data niet mogen wegsturen

Als een Amerikaanse cloud geen optie is, geeft HostYourAI je dezelfde developer-ervaring op Europese infrastructuur.

Overheid & publieke sector

Burgerdata die wettelijk in de EU moet blijven, volledig auditeerbaar.

Gereguleerde enterprise

Finance-, zorg- en juridische teams onder GDPR, DORA en de AI Act.

EU SaaS & scale-ups

Lever AI-functies waar je klanten op vertrouwen, zonder Amerikaanse sub-processor.

Agencies & integrators

Lever privé-AI voor klanten op infrastructuur waar je achter kunt staan.

Privé vanaf de basis

HostYourAI houdt je modellen, prompts en data op Europese GPUs. Gebouwd voor teams die geven om compliance, betrouwbaarheid en echte controle.

EU-gehostAVG-vriendelijkOpenAI-compatibelvLLMGeen lock-in
EU
Volledige datasoevereiniteit

GPU's en data binnen Europa. Je prompts verlaten de EU nooit.

Open
Modellen die je kunt auditen

Draai open-weight modellen zonder black boxes of verborgen telemetrie.

€0
Scale-to-zero

GPU's idlen als niemand online is, dus je betaalt alleen voor wat je draait.

Jouw
Geen vendor lock-in

Jouw infra, jouw keys, jouw modellen. Vertrek wanneer je wilt.

Veelgestelde vragen

Kan ik dit in de EU draaien?

Ja. HostYourAI draait open modellen op GPU's in Europese datacenters via vLLM. Je prompts en outputs verlaten de EU niet en er zit geen Amerikaanse cloudprovider in de keten.

Is het AVG/GDPR-compliant?

Ja. Alle verwerking gebeurt binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open gewichten betekenen ook: geen training op jouw data.

Is de API compatibel met OpenAI?

Ja. Je richt je bestaande OpenAI- of Anthropic-client op onze Router (https://hostyourai.com/api/v1), alleen de base-URL en API-key wijzigen. Geen rewrite, geen lock-in.

Wat kost het?

Pay-as-you-go met één prepaid creditsaldo: de gedeelde router per token of een dedicated GPU per uur. Gratis te starten, geen minimum, geen vaste maandkosten.

Model garden

Werkt met 390+ open modellen

Tekst- en beeldmodellen op dedicated EU GPU's. Elk model getest op onze eigen hardware.

Ook interessant

Verken meer over EU-gehoste AI op HostYourAI.

Host. Route. Ship.

Geen creditcard nodig. Betaal naar gebruik, stop wanneer je wilt.

Begin vandaag gratis met hosten