EU Inference Router
Eén base-URL voor al je open modellen, geserveerd vanuit de EU op infrastructuur die jij beheert.
Wat is de EU Inference Router?
De Router is een gedeelde, OpenAI-compatibele gateway voor inference. Je richt je bestaande client op één base-URL en de Router stuurt elk verzoek naar een open model dat op Europese GPUs draait. Je verandert alleen de base-URL en de API-key; je code blijft hetzelfde.
Omdat de Router zowel de OpenAI- als de Anthropic-API spreekt, werkt hij direct met de SDK's en tools die je team al gebruikt. Geen herschrijven, geen vendor lock-in.
EU Inference Router
‹ Insight 1 of 28 ›Hoe werkt het?
Een verzoek komt binnen op de Router, wordt geauthenticeerd met je API-key en doorgestuurd naar een model dat al warm draait. Antwoorden worden gestreamd teruggegeven, net als bij OpenAI. Populaire modellen worden via een warm-pool warm gehouden zodat een eerste verzoek niet op een koude start hoeft te wachten.
Per verzoek leg je gebruik, latency en kosten vast in je activity-log, zodat je precies ziet wat er gebeurt.
Waarom via de Router?
- Drop-in OpenAI- en Anthropic-compatibel: alleen de base-URL wijzigt
- Open modellen op Europese GPUs die jij beheert
- Je prompts en data verlaten de EU niet
- Pay-as-you-go per token, één prepaid creditsaldo
- Per-verzoek inzicht in gebruik, latency en kosten
Alles wat je nodig hebt voor AI
Van model-hosting tot een klantgerichte API, gebouwd voor developers en bedrijven die hun AI op infrastructuur willen draaien die ze echt beheren, binnen de EU.
Je data en je modellen blijven op Europese GPUs. GDPR-vriendelijk vanaf de basis.
Llama, Qwen, DeepSeek, Mistral, FLUX en nog veel meer. Kies er een en hij is binnen minuten warm, zonder DevOps aan jouw kant.
Richt je bestaande client op de Router en behoud je tools. Geen herschrijven, geen lock-in.
Van nul naar een warm endpoint in minuten
Geen infra om te beheren. Kies een model, krijg een OpenAI-compatibele URL, ship.
Kies een model
Kies uit de Model Garden of plak een willekeurig HuggingFace-ID. Stel de VRAM in en kies een EU-GPU.
Krijg je endpoint
Wij deployen vLLM, draaien readiness-probes en geven je een warme OpenAI- en Anthropic-compatibele URL plus een API-key.
Route en ship
Richt je client op de Router. Die routeert automatisch naar een warme instance, zet GPUs idle als niemand online is en logt elk verzoek.
Gebouwd voor teams die data niet mogen wegsturen
Als een Amerikaanse cloud geen optie is, geeft HostYourAI je dezelfde developer-ervaring op Europese infrastructuur.
Burgerdata die wettelijk in de EU moet blijven, volledig auditeerbaar.
Finance-, zorg- en juridische teams onder GDPR, DORA en de AI Act.
Lever AI-functies waar je klanten op vertrouwen, zonder Amerikaanse sub-processor.
Lever privé-AI voor klanten op infrastructuur waar je achter kunt staan.
Privé vanaf de basis
HostYourAI houdt je modellen, prompts en data op Europese GPUs. Gebouwd voor teams die geven om compliance, betrouwbaarheid en echte controle.
GPU's en data binnen Europa. Je prompts verlaten de EU nooit.
Draai open-weight modellen zonder black boxes of verborgen telemetrie.
GPU's idlen als niemand online is, dus je betaalt alleen voor wat je draait.
Jouw infra, jouw keys, jouw modellen. Vertrek wanneer je wilt.
Veelgestelde vragen
Kan ik dit in de EU draaien?
Ja. HostYourAI draait open modellen op GPU's in Europese datacenters via vLLM. Je prompts en outputs verlaten de EU niet en er zit geen Amerikaanse cloudprovider in de keten.
Is het AVG/GDPR-compliant?
Ja. Alle verwerking gebeurt binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open gewichten betekenen ook: geen training op jouw data.
Is de API compatibel met OpenAI?
Ja. Je richt je bestaande OpenAI- of Anthropic-client op onze Router (https://hostyourai.com/api/v1) — alleen de base-URL en API-key wijzigen. Geen rewrite, geen lock-in.
Wat kost het?
Pay-as-you-go met één prepaid creditsaldo: de gedeelde router per token of een dedicated GPU per uur. Gratis te starten, geen minimum, geen vaste maandkosten.
Werkt met 100+ open modellen
Tekst- en beeldmodellen op dedicated EU GPU's. Elk model getest op onze eigen hardware.
Host. Route. Ship.
Geen creditcard nodig. Betaal naar gebruik, stop wanneer je wilt.
Begin vandaag gratis met hosten