Private LLM Hosting
Jouw LLM op dedicated hardware, volledig geïsoleerd van andere gebruikers voor maximale privacy en performance.
Sommige workloads horen niet op gedeelde capaciteit. Denk aan juridische documenten, patiëntinformatie, financiële analyses of interne strategiestukken: data waarvan je wilt dat die door een omgeving stroomt die alleen van jou is. Private LLM hosting bij HostYourAI betekent een eigen GPU-instance met een eigen vLLM-server, een eigen versleutelde API-key en geen gedeelde rekenkracht.
Die instance draait in Europese datacenters, op een platform van een Nederlands bedrijf uit Groningen. Je kiest zelf het open model, betaalt per uur vanaf een prepaid creditsaldo en schaalt automatisch naar idle als er niets gebeurt. Wat er "privé" is aan deze opzet, lees je hieronder laag voor laag.
Waarom private LLM hosting in de EU
Vertrouwelijke data in een eigen omgeving
Bij een gedeelde API deel je infrastructuur met onbekende andere klanten. Voor veel toepassingen is dat prima, maar bij echt gevoelig materiaal wil je kunnen uitleggen dat jouw prompts door jouw server gaan. Een dedicated instance maakt dat verhaal simpel en controleerbaar.
Een korte verwerkersketen
Hoe minder schakels tussen jou en de GPU, hoe makkelijker je AVG-verantwoording wordt. HostYourAI levert een verwerkersovereenkomst, publiceert een openbare subprocessor-lijst en traint niet op klantdata. Je weet dus exact wie wat verwerkt, en dat is precies wat een privacy-officer wil zien.
Onafhankelijk van niet-Europese wetgeving
Een private omgeving bij een Amerikaanse hyperscaler blijft juridisch Amerikaans. Door te hosten bij een Europese partij valt je hele inference-keten onder Europees recht, zonder discussies over doorgifte of buitenlandse vorderingen op je data.
EU Inference Router
‹ Insight 1 of 28 ›Wat "privé" hier concreet betekent
Privé is bij ons geen marketingwoord maar een stapel isolatielagen. Eén: je krijgt een eigen GPU-instance, geen slice van een gedeelde pool. Twee: daarop draait een vLLM-server die alleen jouw model serveert. Drie: die server is afgeschermd met een eigen API-key die versleuteld wordt opgeslagen. Vier: bij deploy wordt een VRAM-ondergrens afgedwongen, zodat de GPU nooit te klein is voor je model. En vijf: staat de instance stil, dan schaalt hij naar idle, zodat privacy niet betekent dat je betaalt voor stilte. Wil je juist wel gedeelde capaciteit voor licht werk, dan is de EU Inference Router het alternatief; de dedicated variant staat beschreven bij dedicated GPU-instances.
| Aspect | Gedeelde Router | Dedicated instance |
|---|---|---|
| Capaciteit | Gedeeld over klanten | Volledig van jou |
| Betaalmodel | Per token | Per uur |
| API-key | hyai-key voor de Router | Eigen versleutelde key per instance |
| Modelkeuze | Catalogus met 100+ open modellen | Elk open model, ook eigen HuggingFace-ID |
| Bij geen gebruik | Niets, je betaalt alleen tokens | Schaalt automatisch naar idle |
Zo begin je
Ook een private instance praat gewoon OpenAI-compatible. Je kunt dus eerst op de Router prototypen en daarna zonder codewijziging naar je eigen server.
import OpenAI from "openai";
// base_url="https://hostyourai.com/api/v1"
const client = new OpenAI({
baseURL: "https://hostyourai.com/api/v1",
apiKey: "hyai-jouw-key",
});
const resp = await client.chat.completions.create({
model: "mistral-7b",
messages: [{ role: "user", content: "Haal de drie belangrijkste afspraken uit deze vergadernotulen en zet ze onder elkaar." }],
});
console.log(resp.choices[0].message.content);
Vragen over private LLM hosting
Deelt mijn instance een GPU met andere klanten?
Nee. Een dedicated instance heeft eigen GPU-capaciteit met een eigen vLLM-server. Er draait geen workload van iemand anders op dezelfde instance.
Hoe is mijn API-key beveiligd?
Elke instance krijgt een eigen API-key die versleuteld wordt opgeslagen. Data at rest is beveiligd met AES-256 en al het verkeer loopt over TLS.
Welke modellen kan ik privé draaien?
Elk open model dat vLLM kan serveren, van Llama en Qwen tot Mistral, DeepSeek en Gemma. Kijk in het modeloverzicht voor de catalogus, of geef een eigen HuggingFace-ID op.
Wat gebeurt er als ik de instance een tijd niet gebruik?
De instance schaalt naar idle bij geen gebruik. Zo hou je de kosten van een private omgeving in de hand zonder er zelf op te hoeven letten.
Krijg ik een verwerkersovereenkomst?
Ja, er is een verwerkersovereenkomst beschikbaar. De subprocessor-lijst is openbaar en er wordt niet getraind op jouw data.
Hoe betaal ik voor private hosting?
Per uur, vanaf hetzelfde prepaid creditsaldo als de Router. Opwaarderen kan met iDEAL, creditcard of SEPA; details staan op de prijzenpagina.
Alles wat je nodig hebt voor AI
Van model-hosting tot een klantgerichte API, gebouwd voor developers en bedrijven die hun AI op infrastructuur willen draaien die ze echt beheren, binnen de EU.
Je data en je modellen blijven op Europese GPUs. GDPR-vriendelijk vanaf de basis.
Llama, Qwen, DeepSeek, Mistral, FLUX en nog veel meer. Kies er een en hij is binnen minuten warm, zonder DevOps aan jouw kant.
Richt je bestaande client op de Router en behoud je tools. Geen herschrijven, geen lock-in.
Van nul naar een warm endpoint in minuten
Geen infra om te beheren. Kies een model, krijg een OpenAI-compatibele URL, ship.
Kies een model
Kies uit de Model Garden of plak een willekeurig HuggingFace-ID. Stel de VRAM in en kies een EU-GPU.
Krijg je endpoint
Wij deployen vLLM, draaien readiness-probes en geven je een warme OpenAI- en Anthropic-compatibele URL plus een API-key.
Route en ship
Richt je client op de Router. Die routeert automatisch naar een warme instance, zet GPUs idle als niemand online is en logt elk verzoek.
Werkt met de tools die je al gebruikt
De Router spreekt de OpenAI- en Anthropic-API, dus hij past direct in de clients en SDKs die je team al draait. Verander alleen de base-URL.
Probeer HostYourAI gratis
Gebouwd voor teams die data niet mogen wegsturen
Als een Amerikaanse cloud geen optie is, geeft HostYourAI je dezelfde developer-ervaring op Europese infrastructuur.
Burgerdata die wettelijk in de EU moet blijven, volledig auditeerbaar.
Finance-, zorg- en juridische teams onder GDPR, DORA en de AI Act.
Lever AI-functies waar je klanten op vertrouwen, zonder Amerikaanse sub-processor.
Lever privé-AI voor klanten op infrastructuur waar je achter kunt staan.
Veelgestelde vragen
Kan ik dit in de EU draaien?
Ja. HostYourAI draait open modellen op GPU's in Europese datacenters via vLLM. Je prompts en outputs verlaten de EU niet en er zit geen Amerikaanse cloudprovider in de keten.
Is het AVG/GDPR-compliant?
Ja. Alle verwerking gebeurt binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open gewichten betekenen ook: geen training op jouw data.
Is de API compatibel met OpenAI?
Ja. Je richt je bestaande OpenAI- of Anthropic-client op onze Router (https://hostyourai.com/api/v1), alleen de base-URL en API-key wijzigen. Geen rewrite, geen lock-in.
Wat kost het?
Pay-as-you-go met één prepaid creditsaldo: de gedeelde router per token of een dedicated GPU per uur. Gratis te starten, geen minimum, geen vaste maandkosten.
Werkt met 390+ open modellen
Tekst- en beeldmodellen op dedicated EU GPU's. Elk model getest op onze eigen hardware.
Ook interessant
Verken meer over EU-gehoste AI op HostYourAI.
Host Llama 3 en Llama 3.3 modellen op Europese GPU infrastructuur. One-click deployment, OpenAI-compatible API, GDPR compliant.
Lees meer →Kluster.ai is op 9 juni 2026 gestopt. Migreer in minuten naar HostYourAI: dezelfde OpenAI-compatibele API, open modellen op GPU's in de EU.
Lees meer →Host Qwen 2.5 72B op dedicated NVIDIA A100 80GB in Nederlandse datacenters. GDPR compliant, pay-as-you-go, OpenAI-compatible API.
Lees meer →Host Qwen 2.5 32B op dedicated NVIDIA A100 40GB in Nederlandse datacenters. GDPR compliant, pay-as-you-go, OpenAI-compatible API.
Lees meer →Cloud alternatief voor on-premise AI. Zelfde controle en privacy, zonder hardware investering.
Lees meer →Een ChatGPT alternatief dat op open modellen en Europese GPUs draait. OpenAI-compatibele API, AVG-vriendelijk en zonder dat je data de EU verlaat.
Lees meer →Host. Route. Ship.
Geen creditcard nodig. Betaal naar gebruik, stop wanneer je wilt.
Begin vandaag gratis met hosten