Naar de inhoud

Gids 03 Serve

OpenAI migreren naar de EU Router

Een praktisch stappenplan om je bestaande OpenAI-integratie binnen minuten naar de EU te verplaatsen.

  • GLM
  • DeepSeek
  • Qwen
  • Kimi
  • Mistral
  • Llama
  • gpt-oss
  • Gemma
  • Loes
  • Nemotron
  • Claude Code
  • Codex
  • OpenCode
  • Cursor
  • Cline
  • Loes
  • OpenAI SDK
  • Anthropic SDK

01 Gids

Waarom migreren naar de EU Router

De EU Router is een OpenAI- en Anthropic-compatibele inference-gateway die open modellen op Europese GPU's draait. Je prompts en antwoorden verlaten de EU niet, er zit geen Amerikaanse cloudprovider in de keten en je betaalt per token uit één prepaid creditsaldo. Omdat de API drop-in compatibel is, verandert er niets aan je applicatiecode behalve de base-URL en de API-key.

02 Gids

Wat je nodig hebt

  • Een HostYourAI-account met wat credit
  • Een API-key in het formaat hyai-..., aan te maken onder Router in je dashboard
  • Je bestaande OpenAI- of Anthropic-SDK, er is geen nieuwe library nodig
03 Gids

Stap 1, Maak een API-key aan

Ga in je dashboard naar Router en maak een nieuwe key aan. Kopieer de hyai--key meteen; je ziet hem maar één keer. Deze key vervangt straks je OpenAI-key.

04 Gids

Stap 2, Wijs je client naar de Router

Zet de base-URL op https://hostyourai.com/api/v1 en gebruik je HostYourAI-key. In Python met de OpenAI-SDK verandert er verder niets aan je code:

python
from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...",   # je HostYourAI-key
)

resp = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role": "user", "content": "Vat dit contract samen."}],
)
print(resp.choices[0].message.content)

In Node.js met dezelfde SDK:

javascript
import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://hostyourai.com/api/v1",
  apiKey: process.env.HOSTYOURAI_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "llama-3.3-70b",
  messages: [{ role: "user", content: "Vat dit contract samen." }],
});
console.log(resp.choices[0].message.content);

Of rechtstreeks met curl om snel te testen:

shell
curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{"model":"llama-3.3-70b","messages":[{"role":"user","content":"Hallo"}]}'
05 Gids

Stap 3, Kies een open model

Waar je bij OpenAI gpt-4o zou gebruiken, kies je hier een open model uit de Model Garden, bijvoorbeeld een Llama-, Qwen-, Mistral- of DeepSeek-variant. Gebruik de model-slug precies zoals die in de Model Garden staat als waarde voor model. Streaming werkt identiek: zet stream=True en je krijgt server-sent events terug.

06 Gids

Gebruik je de Anthropic-SDK?

Dat kan ook. De Router biedt een /v1/messages-shim. Zet de base-URL op https://hostyourai.com en geef je hyai--key mee als x-api-key:

python
from anthropic import Anthropic

client = Anthropic(
    base_url="https://hostyourai.com",
    api_key="hyai-...",
)

msg = client.messages.create(
    model="llama-3.3-70b",
    max_tokens=512,
    messages=[{"role": "user", "content": "Hallo"}],
)
print(msg.content[0].text)
07 Gids

Stap 4, Controleer en ga live

Test je eerste verzoek in de Playground of vanuit je code en volg per verzoek het gebruik, de tokens en de latency in je activity-log. Let bij het migreren op twee dingen: modelnamen verschillen (gebruik open-model-slugs, geen gpt-*), en je rekent per token af in plaats van via een OpenAI-abonnement.

08 Gids

Voorspelbare performance nodig?

De gedeelde Router is ideaal om te starten. Wil je isolatie of gegarandeerde capaciteit, dan promoveer je een model naar een dedicated instance op je eigen EU-GPU. Je code blijft identiek, alleen de model-slug of het endpoint wijzigt.

09 Gids

Referentie: wat verandert er precies

Deze tabel zet de instellingen naast elkaar. Meer achtergrond over de gateway lees je op de pagina over de EU Inference Router.

InstellingBij OpenAIBij de EU Router
Base-URLhttps://api.openai.com/v1https://hostyourai.com/api/v1
API-keysk-...hyai-...
Modelgpt-4o, gpt-4o-miniOpen modellen zoals Llama, Qwen, Mistral, DeepSeek of Gemma
Streamingstream=true, SSEIdentiek, stream=true met server-sent events
Anthropic-routeNiet van toepassing/v1/messages-shim, gebufferde streaming, alleen tekst
AfrekenenAbonnement of usage-billingPay-as-you-go per token, zie prijzen

10 Gids

Problemen oplossen

01

Ik krijg 401 Unauthorized terug

Controleer of je key met hyai- begint en volledig is gekopieerd. Een OpenAI-key (sk-...) werkt niet op de Router. Maak zo nodig onder Router een nieuwe key aan.

02

Mijn verzoeken geven 404 of komen niet aan

Bijna altijd staat de base-URL verkeerd. Die moet exact https://hostyourai.com/api/v1 zijn. Let op dat je SDK niet zelf nog een extra /v1 achter de URL plakt.

03

Het model reageert traag of lijkt niet beschikbaar

Niet elk model staat permanent warm. In de Model Garden zie je per model of het warm is of nog aan het opwarmen. Kies een warm model of wacht even; daarna reageert het gewoon snel.

04

Streaming via de Anthropic-SDK gedraagt zich anders

De /v1/messages-shim gebruikt gebufferde streaming en ondersteunt alleen tekst. Heb je token-voor-token streaming nodig, gebruik dan de OpenAI-route op /api/v1/chat/completions.

Vragen

Vragen over deze gids

Moet ik mijn applicatiecode herschrijven?

Nee. Je verandert alleen de base-URL en de API-key. De rest, inclusief streaming en de message-structuur, blijft hetzelfde.

Welke modellen kan ik na de migratie gebruiken?

Open modellen zoals Llama, Qwen, Mistral, DeepSeek en Gemma. Het actuele aanbod met status vind je in de Model Garden.

Wat kost het gebruik van de Router?

Je rekent pay-as-you-go per token af vanuit één prepaid creditsaldo, zonder abonnement. Zie de prijzenpagina.

Blijft mijn data binnen Europa?

Ja. De modellen draaien op GPU's in Europese datacenters en je prompts en antwoorden verlaten de EU niet.

Kan ik later doorgroeien naar eigen hardware?

Ja. Voor isolatie of gegarandeerde capaciteit verplaats je een model naar een dedicated GPU-instance. Je key en base-URL blijven werken.

Alles wat je nodig hebt voor AI

Van model-hosting tot een klantgerichte API, gebouwd voor developers en bedrijven die hun AI op infrastructuur willen draaien die ze echt beheren, binnen de EU.

EU-gehost

100%

Je data en je modellen blijven op Europese GPUs. GDPR-vriendelijk vanaf de basis.

Geverifieerde modellen, klaar om te serveren

700+

Llama, Qwen, DeepSeek, Mistral, FLUX en nog veel meer. Kies er een en hij is binnen minuten warm, zonder DevOps aan jouw kant.

OpenAI- en Anthropic-compatibel

2 SDK

Richt je bestaande client op de Router en behoud je tools. Geen herschrijven, geen lock-in.

Van nul naar een warm endpoint in minuten

Geen infra om te beheren. Kies een model, krijg een OpenAI-compatibele URL, ship.

01

Kies een model

Kies uit de Model Garden of plak een willekeurig HuggingFace-ID. Stel de VRAM in en kies een EU-GPU.

02

Krijg je endpoint

Wij deployen vLLM, draaien readiness-probes en geven je een warme OpenAI- en Anthropic-compatibele URL plus een API-key.

03

Route en ship

Richt je client op de Router. Die routeert automatisch naar een warme instance en logt elk verzoek.

Gebouwd voor teams die data niet mogen wegsturen

Als een Amerikaanse cloud geen optie is, geeft HostYourAI je dezelfde developer-ervaring op Europese infrastructuur.

01

Overheid & publieke sector

Burgerdata die wettelijk in de EU moet blijven, volledig auditeerbaar.

02

Gereguleerde enterprise

Finance-, zorg- en juridische teams onder GDPR, DORA en de AI Act.

03

SaaS en scale-ups in de EU

Lever AI-functies waar je klanten op vertrouwen, zonder Amerikaanse sub-processor.

04

Bureaus en integrators

Lever privé-AI voor klanten op infrastructuur waar je achter kunt staan.

Privé vanaf de basis

HostYourAI houdt je modellen, prompts en data op Europese GPUs. Gebouwd voor teams die geven om compliance, betrouwbaarheid en echte controle.

  • EU-gehost
  • AVG-vriendelijk
  • OpenAI-compatibel
  • vLLM
  • Geen lock-in

Volledige datasoevereiniteit

EU

GPU's en data blijven binnen Europa, en je prompts ook.

Modellen die je kunt auditen

Open

Draai open-weight modellen en zie precies wat er draait.

Geen maandkosten

€0

Prepaid tegoed per token of per minuut, dus je betaalt alleen wat je draait.

Jouw keys, jouw modellen

Jouw

Jouw keys, jouw modellen en jouw data. Overstappen kan wanneer je wilt.

Het platform

Eén platform, vier lagen

Begin met één laag en voeg de andere toe als het werk erom vraagt. Ze delen één key, één saldo en één Activity-overzicht.

Code

Je coding agent op open modellen in Europa, ingericht met één commando.

Bekijk

Control

Sleutels, budgetten en guardrails per team, en persoonsgegevens tegengehouden voordat een model ze ziet.

Bekijk

Serve

Gedeeld per token, of alleen voor jou, vanuit Europese datacenters.

Bekijk

EU compute

Eigen GPU's in Europa, van H100 tot B300, afgestemd op reactietijd, generatiesnelheid en gelijktijdige gebruikers.

Bekijk

Ook interessant

Verken meer over EU-gehoste AI op HostYourAI.

Eigen LLM deployen met vLLM

Leer hoe je een open LLM deployt op een Europese GPU met vLLM. Van HuggingFace-ID naar een warm, OpenAI-compatibel endpoint.

Lees meer

RAG bouwen op EU-GPUs

Bouw een RAG-pipeline op Europese GPUs. Koppel een kennisbank aan de Router en laat antwoorden baseren op je eigen documenten, met bronvermelding.

Lees meer

Europa's AI-infrastructuur.
Bouw met ons mee.

Begin vandaag met één key. Voeg dedicated GPU's toe als je workload erom vraagt.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
Het team achter HostYourAI