Naar de inhoud

GPU & infrastructuur 04 EU compute

Dedicated GPU Instances

Je eigen GPU, je eigen model: deploy open modellen op dedicated Europese GPUs.

  • GLM
  • DeepSeek
  • Qwen
  • Kimi
  • Mistral
  • Llama
  • gpt-oss
  • Gemma
  • Loes
  • Nemotron
  • Claude Code
  • Codex
  • OpenCode
  • Cursor
  • Cline
  • Loes
  • OpenAI SDK
  • Anthropic SDK

Wat het doet GPU & infrastructuur

Je eigen GPU, je eigen model

Met dedicated instances draai je een open model op een GPU die alleen voor jou is. We deployen vLLM, draaien readiness-probes en geven je een OpenAI- en Anthropic-compatibele URL. Ideaal als je voorspelbare performance of volledige isolatie wilt.

Lees verder

02 GPU & infrastructuur

Hoe het werkt

  • Kies een model uit de Model Garden of een HuggingFace-ID
  • Stel de VRAM in en kies een Europese GPU
  • Wij deployen vLLM en draaien automatische readiness-probes
  • Je krijgt een warm endpoint plus API-key

Nieuwe instances draaien vLLM met een eigen, versleutelde upstream-key, zodat je endpoint privé is.

03 GPU & infrastructuur

Betaal alleen voor wat je draait

Instances blijven warm terwijl iemand online is en idlen wanneer niemand ze gebruikt, zodat je niet voor een ongebruikte GPU betaalt. Reken af per uur via één prepaid creditsaldo.

04 GPU & infrastructuur

Voorbeeld in code

Zodra je instance warm is, roep je hem aan via de Router met de model-slug, precies zoals je een OpenAI-model zou aanroepen:

python
from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...",
)

resp = client.chat.completions.create(
    model="jouw-instance-model",
    messages=[{"role": "user", "content": "Hallo"}],
)
print(resp.choices[0].message.content)

Wil je stap voor stap deployen? Lees de gids Eigen LLM deployen met vLLM.

05 GPU & infrastructuur

Welke GPU voor welk model

GPU-klasseVRAMTypisch gebruik
L40S / RTX 409024 tot 48 GBModellen tot ongeveer 20B parameters
A100 / H10080 GBModellen tot ongeveer 70B, gequantiseerd
2× H100160 GB70B op volle precisie of hoge doorvoer
4× H100320 GBGrote modellen en zware productie-workloads

Bij het deployen bewaken we een VRAM-ondergrens per model, zodat je geen GPU kiest waar het model niet op past. De actuele uurprijzen zie je vóór je deployt en op de prijzenpagina.

Vragen

Vragen over dedicated instances

Kan ik mijn eigen of gefinetunede model draaien?

Ja. Plak een HuggingFace-ID, ook van een privérepo met je eigen gewichten, en wij deployen het via vLLM op jouw GPU.

Is mijn endpoint privé?

Ja. Nieuwe instances draaien vLLM met een eigen versleutelde API-key, zodat alleen jouw platform-key toegang heeft tot het endpoint.

Betaal ik door als niemand het model gebruikt?

Instances idlen wanneer niemand online is, zodat je niet betaalt voor een ongebruikte GPU. Je rekent per uur af vanaf je prepaid saldo.

Wanneer kies ik dedicated in plaats van de Router?

Bij vaste load, eigen modellen, strengere isolatie-eisen of als je gedrag volledig wilt controleren. Voor wisselend verkeer is de gedeelde Router goedkoper en sneller geregeld.

Kan ik een kennisbank koppelen?

Ja. Koppel een kennisbank aan je instance en elke chat-aanroep krijgt automatisch relevante context uit je eigen documenten. Zie de gids RAG bouwen op EU-GPUs.

Waar staan de GPUs?

In Europese datacenters. Je data verlaat de EU niet en er is een verwerkersovereenkomst beschikbaar. Voor sectorspecifieke eisen zie zorg en overheid.

Alles wat je nodig hebt voor AI

Van model-hosting tot een klantgerichte API, gebouwd voor developers en bedrijven die hun AI op infrastructuur willen draaien die ze echt beheren, binnen de EU.

EU-gehost

100%

Je data en je modellen blijven op Europese GPUs. GDPR-vriendelijk vanaf de basis.

Geverifieerde modellen, klaar om te serveren

700+

Llama, Qwen, DeepSeek, Mistral, FLUX en nog veel meer. Kies er een en hij is binnen minuten warm, zonder DevOps aan jouw kant.

OpenAI- en Anthropic-compatibel

2 SDK

Richt je bestaande client op de Router en behoud je tools. Geen herschrijven, geen lock-in.

Van nul naar een warm endpoint in minuten

Geen infra om te beheren. Kies een model, krijg een OpenAI-compatibele URL, ship.

01

Kies een model

Kies uit de Model Garden of plak een willekeurig HuggingFace-ID. Stel de VRAM in en kies een EU-GPU.

02

Krijg je endpoint

Wij deployen vLLM, draaien readiness-probes en geven je een warme OpenAI- en Anthropic-compatibele URL plus een API-key.

03

Route en ship

Richt je client op de Router. Die routeert automatisch naar een warme instance en logt elk verzoek.

Werkt met de tools die je al gebruikt

De Router spreekt de OpenAI- en Anthropic-API, dus hij past direct in de clients en SDKs die je team al draait. Verander alleen de base-URL.

  • Docker
  • Anthropic
  • Hugging Face
  • LangChain
  • Python
  • Node.js
  • curl
  • Ollama
  • JetBrains
  • Jupyter
  • Vercel
  • Zapier
  • Postman
  • n8n

Gebouwd voor teams die data niet mogen wegsturen

Als een Amerikaanse cloud geen optie is, geeft HostYourAI je dezelfde developer-ervaring op Europese infrastructuur.

01

Overheid & publieke sector

Burgerdata die wettelijk in de EU moet blijven, volledig auditeerbaar.

02

Gereguleerde enterprise

Finance-, zorg- en juridische teams onder GDPR, DORA en de AI Act.

03

SaaS en scale-ups in de EU

Lever AI-functies waar je klanten op vertrouwen, zonder Amerikaanse sub-processor.

04

Bureaus en integrators

Lever privé-AI voor klanten op infrastructuur waar je achter kunt staan.

Het platform

Eén platform, vier lagen

Begin met één laag en voeg de andere toe als het werk erom vraagt. Ze delen één key, één saldo en één Activity-overzicht.

Code

Je coding agent op open modellen in Europa, ingericht met één commando.

Bekijk

Control

Sleutels, budgetten en guardrails per team, en persoonsgegevens tegengehouden voordat een model ze ziet.

Bekijk

Serve

Gedeeld per token, of alleen voor jou, vanuit Europese datacenters.

Bekijk

EU compute

Eigen GPU's in Europa, van H100 tot B300, afgestemd op reactietijd, generatiesnelheid en gelijktijdige gebruikers.

Bekijk

Ook interessant

Verken meer over EU-gehoste AI op HostYourAI.

Anthropic-compatibele API

Richt je Anthropic-client op onze Router via een /v1/messages-shim en draai open modellen op Europese GPUs. Drop-in, EU-gehost, geen herschrijven.

Lees meer

LLM Inference Hosting in Europa

Deploy en host LLM inference endpoints op Europese GPU infrastructuur. OpenAI-compatible API, dedicated hardware, GDPR compliant.

Lees meer

Model Garden

Blader door een gecureerde catalogus van serveerbare open chat-, beeld- en embedding-modellen met live warm/EU-status. Deploy met één klik op Europese GPUs.

Lees meer

Europa's AI-infrastructuur.
Bouw met ons mee.

Begin vandaag met één key. Voeg dedicated GPU's toe als je workload erom vraagt.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
Het team achter HostYourAI