Machine Learning Hosting
Host je machine learning modellen op Europese GPU-infrastructuur.
Machine learning hosting is een rekbaar begrip, dus laten we precies zijn over wat je hier krijgt: open ML-modellen, in de praktijk vooral grote taalmodellen, geserveerd voor inference via vLLM op Europese GPU's. Je model wordt een OpenAI-compatible endpoint waar je applicatie tegenaan praat. Geen trainingsclusters, geen alles-in-een MLOps-suite, wel een degelijke plek om een model in productie te draaien.
Juist bij inference telt de locatie. Training gebeurt op een statische dataset die je vooraf kunt opschonen, maar een productie-endpoint verwerkt continu verse gebruikersdata: klantvragen, documenten, gespreksgeschiedenis. Dat verkeer wil je binnen de EU houden, met een verwerkersovereenkomst eronder.
Waarom machine learning hosting in de EU
Inference raakt live gebruikersdata
Elk request naar een productiemodel kan persoonsgegevens bevatten. Onder de AVG moet je kunnen aantonen waar die verwerking plaatsvindt en onder welke voorwaarden. Hosting in Europese datacenters, met een DPA en een openbare subprocessor-lijst, maakt dat antwoord kort.
Dicht bij je gebruikers
Draait je model op een ander continent, dan legt elk request die afstand twee keer af. Voor interactieve toepassingen zoals chat en suggesties tijdens het typen merk je dat. Europese GPU's houden het verkeer op hetzelfde continent als je gebruikers.
Kosten die meebewegen met gebruik
Je rekent af vanaf een prepaid creditsaldo: per token op de gedeelde EU Inference Router, per uur op een dedicated GPU-instance. Geen jaarcontract voor capaciteit die je misschien ooit nodig hebt; hoe de afrekening werkt staat op de prijzenpagina.
EU Inference Router
‹ Insight 1 of 28 ›Van getraind model naar productie-endpoint
Heb je zelf een open model gefinetuned, dan zet je de gewichten in een HuggingFace-repository en deploy je die op een dedicated instance via het model-ID. vLLM staat voorgeconfigureerd, een VRAM-ondergrens voorkomt dat je een te kleine GPU kiest, en je endpoint draait met een eigen versleutelde API-key. Wil je juist een bestaand model verfijnen op jouw domein, dan kan fine-tuning van open modellen per project worden opgepakt. Nog geen eigen model? Kies er een uit het modeloverzicht met ruim 100 open modellen.
| Workload | Geschikte vorm |
|---|---|
| Prototype of experiment | Gedeelde Router, betalen per token |
| Chatfunctie met wisselend volume | Gedeelde Router, populaire modellen blijven warm |
| Voorspelbaar hoog volume | Dedicated GPU-instance, betalen per uur |
| Eigen gefinetuned model | Dedicated instance met HuggingFace-ID |
| Domeinspecifiek model nodig | Fine-tuning van een open model, per project afgestemd |
| Vragen beantwoorden over eigen documenten | Router of instance met gekoppelde kennisbank (RAG) |
Zo begin je
Elke vorm spreekt dezelfde API. Wissel de base-URL en de key om, en je bestaande OpenAI-code werkt gewoon door.
from openai import OpenAI
client = OpenAI(
base_url="https://hostyourai.com/api/v1",
api_key="hyai-jouw-key"
)
antwoord = client.chat.completions.create(
model="gemma-3-12b",
messages=[{"role": "user", "content": "Classificeer dit bericht als vraag, klacht of compliment: 'Mijn factuur klopt niet.'"}]
)
print(antwoord.choices[0].message.content)from openai import OpenAI client = OpenAI( base_url="https://hostyourai.com/api/v1", api_key="hyai-...") client.chat.completions.create( model="llama-3.3-70b", messages=[{"role":"user","content":"Hallo!"}])
Vragen over machine learning hosting
Kan ik hier modellen trainen?
Nee, het platform is gebouwd voor inference. Fine-tuning van open modellen kan wel, maar dat wordt per project afgestemd in plaats van als zelfbedieningsdienst aangeboden.
Kan ik mijn eigen gefinetunede model hosten?
Ja. Zet de gewichten in een HuggingFace-repository en deploy op een dedicated instance via het model-ID. Voorwaarde is dat het model door vLLM te serveren is.
Kan ik ook klassieke ML-modellen kwijt, zoals een scikit-learn-classifier?
Nee. De serving-laag is vLLM en die is gemaakt voor taalmodellen. Voor klassieke modellen heb je een andere oplossing nodig.
Is er autoscaling?
Dedicated instances schalen naar idle wanneer er geen verkeer is. Voor pieken en grillig volume is de gedeelde Router de logische keuze: die capaciteit wordt gedeeld en populaire modellen worden er warm gehouden.
Hoe test ik een model voordat ik integreer?
In de Playground in de app chat je zonder code met elk model, ook met je eigen deploy. Handig om prompts en modellen naast elkaar te leggen.
Werkt RAG over mijn eigen documenten?
Ja. Je koppelt een kennisbank aan de Router of aan een instance, waarna relevante context automatisch in chat completions wordt meegegeven. Niet-streamende antwoorden bevatten bronvermeldingen.
Alles wat je nodig hebt voor AI
Van model-hosting tot een klantgerichte API, gebouwd voor developers en bedrijven die hun AI op infrastructuur willen draaien die ze echt beheren, binnen de EU.
Je data en je modellen blijven op Europese GPUs. GDPR-vriendelijk vanaf de basis.
Llama, Qwen, DeepSeek, Mistral, FLUX en nog veel meer. Kies er een en hij is binnen minuten warm, zonder DevOps aan jouw kant.
Richt je bestaande client op de Router en behoud je tools. Geen herschrijven, geen lock-in.
Van nul naar een warm endpoint in minuten
Geen infra om te beheren. Kies een model, krijg een OpenAI-compatibele URL, ship.
Kies een model
Kies uit de Model Garden of plak een willekeurig HuggingFace-ID. Stel de VRAM in en kies een EU-GPU.
Krijg je endpoint
Wij deployen vLLM, draaien readiness-probes en geven je een warme OpenAI- en Anthropic-compatibele URL plus een API-key.
Route en ship
Richt je client op de Router. Die routeert automatisch naar een warme instance, zet GPUs idle als niemand online is en logt elk verzoek.
Privé vanaf de basis
HostYourAI houdt je modellen, prompts en data op Europese GPUs. Gebouwd voor teams die geven om compliance, betrouwbaarheid en echte controle.
GPU's en data binnen Europa. Je prompts verlaten de EU nooit.
Draai open-weight modellen zonder black boxes of verborgen telemetrie.
GPU's idlen als niemand online is, dus je betaalt alleen voor wat je draait.
Jouw infra, jouw keys, jouw modellen. Vertrek wanneer je wilt.
Werkt met de tools die je al gebruikt
De Router spreekt de OpenAI- en Anthropic-API, dus hij past direct in de clients en SDKs die je team al draait. Verander alleen de base-URL.
Probeer HostYourAI gratis
Veelgestelde vragen
Kan ik dit in de EU draaien?
Ja. HostYourAI draait open modellen op GPU's in Europese datacenters via vLLM. Je prompts en outputs verlaten de EU niet en er zit geen Amerikaanse cloudprovider in de keten.
Is het AVG/GDPR-compliant?
Ja. Alle verwerking gebeurt binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open gewichten betekenen ook: geen training op jouw data.
Is de API compatibel met OpenAI?
Ja. Je richt je bestaande OpenAI- of Anthropic-client op onze Router (https://hostyourai.com/api/v1), alleen de base-URL en API-key wijzigen. Geen rewrite, geen lock-in.
Wat kost het?
Pay-as-you-go met één prepaid creditsaldo: de gedeelde router per token of een dedicated GPU per uur. Gratis te starten, geen minimum, geen vaste maandkosten.
Werkt met 390+ open modellen
Tekst- en beeldmodellen op dedicated EU GPU's. Elk model getest op onze eigen hardware.
Ook interessant
Verken meer over EU-gehoste AI op HostYourAI.
De EU AI Act geldt volledig vanaf 2 augustus 2026. Wat betekent dat voor teams die LLM's gebruiken, en hoe helpt een EU-gehoste API met logging en DPA?
Lees meer →Host Phi 3 Medium op dedicated NVIDIA A10 in Nederlandse datacenters. GDPR compliant, pay-as-you-go, OpenAI-compatible API.
Lees meer →Europese AI API voor LLM inference. OpenAI-compatible, GDPR compliant, 100+ modellen. De AI API die Europa verdient.
Lees meer →Host Command R op dedicated NVIDIA A100 40GB in Nederlandse datacenters. GDPR compliant, pay-as-you-go, OpenAI-compatible API.
Lees meer →Een AWS Bedrock alternatief dat volledig in de EU draait. Open modellen op Europese GPUs, OpenAI- en Anthropic-compatibel, zonder Amerikaanse cloud.
Lees meer →Host Mistral AI modellen in Nederland. Mistral Large, Mixtral 8x22B, Codestral. Europees model, Europese hosting.
Lees meer →Host. Route. Ship.
Geen creditcard nodig. Betaal naar gebruik, stop wanneer je wilt.
Begin vandaag gratis met hosten