Naar de inhoud

EU-router 03 Serve

Ollama cloud alternatief

Dezelfde open modellen die je lokaal in Ollama draait, maar dan als gehoste API op Europese GPU's: geen eigen GPU-beheer, wel een SLA.

  • GLM
  • DeepSeek
  • Qwen
  • Kimi
  • Mistral
  • Llama
  • gpt-oss
  • Gemma
  • Loes
  • Nemotron
  • Claude Code
  • Codex
  • OpenCode
  • Cursor
  • Cline
  • Loes
  • OpenAI SDK
  • Anthropic SDK

Wat het doet EU-router

Waar Ollama ophoudt en hosting begint

Ollama is misschien wel de prettigste manier om lokaal met open modellen te werken: één commando en Llama of Qwen draait op je eigen machine. Voor prototypes, privacygevoelige experimenten en offline werk is er weinig beters. Maar dan werkt het prototype, en komt de vraag die elke bouwer kent: hoe krijg ik dit in productie?

Voor productie wil je een gehoste, OpenAI-compatibele endpoint die dag en nacht bereikbaar is, zonder dat je zelf GPU's hoeft te beheren. HostYourAI is precies dat, met een bonus die Amerikaanse alternatieven niet bieden: alles draait op GPU's in Europese datacenters, onder Europees recht.

Zodra je laptop dichtklapt, ligt je API eruit. Een 70B-model past niet in een gemiddelde consumenten-GPU. En zelf een server met een zware GPU huren en beheren is er een baan bij: drivers, CUDA-versies, monitoring, failover. Voor een demo is dat overkill, maar zodra klanten op je API leunen wil je een SLA (bij ons 99,9%) in plaats van een ssh-sessie om drie uur 's nachts.

Lees verder

02 EU-router

Van localhost naar productie in drie stappen

Ollama spreekt lokaal al het OpenAI-formaat, dus je code is er in feite klaar voor.

  1. Maak een API key aan. Registreer, waardeer je prepaid tegoed op (ook via iDEAL) en genereer een hyai-key in het dashboard.
  2. Wissel je base_url. Van http://localhost:11434/v1 naar https://hostyourai.com/api/v1.
  3. Kies je model. Zoek in de modelcatalogus de gehoste variant van het model dat je lokaal draaide en test in de Playground.
python
from openai import OpenAI

# Lokaal met Ollama:
# client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")

# Productie op Europese GPU's:
client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...",
)

response = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role": "user", "content": "Hallo vanaf productie."}],
)

Werk je liever met de Anthropic SDK? Dat kan ook: er is een /v1/messages-endpoint met x-api-key-authenticatie.

03 EU-router

Dezelfde open modellen, zwaardere hardware

De catalogus bevat de modelfamilies die je uit Ollama kent: Llama, Qwen, Mistral, DeepSeek, Gemma. Eén verschil is er wel. Lokaal draai je meestal gekwantiseerde GGUF-varianten omdat je VRAM beperkt is; onze GPU's serveren de volledige gewichten via vLLM. In de praktijk betekent dat vaak merkbaar betere kwaliteit dan je van "hetzelfde" model op je laptop gewend bent, plus ruimte voor de grote varianten die lokaal simpelweg niet passen.

04 EU-router

De EU-bonus

Het grootste verschil met Amerikaanse hosted-Ollama-achtige diensten is jurisdictie. HostYourAI is een Nederlands bedrijf, er zit geen Amerikaanse cloud in de keten en er wordt nooit getraind op jouw data. Er ligt een verwerkersovereenkomst klaar en data is versleuteld met AES-256. Waarom dat er voor Europese teams toe doet, lees je op de pagina's over AI-compliance in Europa en AI-datasoevereiniteit.

Vragen

Vragen over een Ollama cloud alternatief

Kan ik dezelfde modellen draaien als in Ollama?

Grotendeels wel. De bekende open families (Llama, Qwen, Mistral, DeepSeek, Gemma) staan in de catalogus. Wij serveren de volledige HF-gewichten via vLLM in plaats van gekwantiseerde GGUF-bestanden, dus de kwaliteit is eerder beter dan wat je lokaal draaide.

Moet ik mijn code herschrijven?

Nee. Ollama en HostYourAI spreken allebei het OpenAI-formaat. Je wisselt de base_url en de API key, en je bestaande code, LangChain-ketens en tools blijven werken.

Kan ik Ollama lokaal blijven gebruiken voor development?

Ja, dat is zelfs een prima opzet: lokaal Ollama voor snelle iteratie, productie op HostYourAI. Maak de base_url een omgevingsvariabele en je wisselt zonder codewijziging.

Wat kost het?

Je betaalt prepaid per gebruik, zonder abonnement, en opwaarderen kan ook via iDEAL. Zie de prijzenpagina voor de actuele tarieven.

Kan ik een model draaien dat niet in de catalogus staat?

Ja. Op een dedicated GPU-instance deploy je zelf een model met vLLM, ook binnen de EU. Handig voor eigen finetunes of nichemodellen.

Alles wat je nodig hebt voor AI

Van model-hosting tot een klantgerichte API, gebouwd voor developers en bedrijven die hun AI op infrastructuur willen draaien die ze echt beheren, binnen de EU.

EU-gehost

100%

Je data en je modellen blijven op Europese GPUs. GDPR-vriendelijk vanaf de basis.

Geverifieerde modellen, klaar om te serveren

700+

Llama, Qwen, DeepSeek, Mistral, FLUX en nog veel meer. Kies er een en hij is binnen minuten warm, zonder DevOps aan jouw kant.

OpenAI- en Anthropic-compatibel

2 SDK

Richt je bestaande client op de Router en behoud je tools. Geen herschrijven, geen lock-in.

Van nul naar een warm endpoint in minuten

Geen infra om te beheren. Kies een model, krijg een OpenAI-compatibele URL, ship.

01

Kies een model

Kies uit de Model Garden of plak een willekeurig HuggingFace-ID. Stel de VRAM in en kies een EU-GPU.

02

Krijg je endpoint

Wij deployen vLLM, draaien readiness-probes en geven je een warme OpenAI- en Anthropic-compatibele URL plus een API-key.

03

Route en ship

Richt je client op de Router. Die routeert automatisch naar een warme instance en logt elk verzoek.

Werkt met de tools die je al gebruikt

De Router spreekt de OpenAI- en Anthropic-API, dus hij past direct in de clients en SDKs die je team al draait. Verander alleen de base-URL.

  • Docker
  • Anthropic
  • Hugging Face
  • LangChain
  • Python
  • Node.js
  • curl
  • Ollama
  • JetBrains
  • Jupyter
  • Vercel
  • Zapier
  • Postman
  • n8n

Gebouwd voor teams die data niet mogen wegsturen

Als een Amerikaanse cloud geen optie is, geeft HostYourAI je dezelfde developer-ervaring op Europese infrastructuur.

01

Overheid & publieke sector

Burgerdata die wettelijk in de EU moet blijven, volledig auditeerbaar.

02

Gereguleerde enterprise

Finance-, zorg- en juridische teams onder GDPR, DORA en de AI Act.

03

SaaS en scale-ups in de EU

Lever AI-functies waar je klanten op vertrouwen, zonder Amerikaanse sub-processor.

04

Bureaus en integrators

Lever privé-AI voor klanten op infrastructuur waar je achter kunt staan.

Het platform

Eén platform, vier lagen

Begin met één laag en voeg de andere toe als het werk erom vraagt. Ze delen één key, één saldo en één Activity-overzicht.

Code

Je coding agent op open modellen in Europa, ingericht met één commando.

Bekijk

Control

Sleutels, budgetten en guardrails per team, en persoonsgegevens tegengehouden voordat een model ze ziet.

Bekijk

Serve

Gedeeld per token, of alleen voor jou, vanuit Europese datacenters.

Bekijk

EU compute

Eigen GPU's in Europa, van H100 tot B300, afgestemd op reactietijd, generatiesnelheid en gelijktijdige gebruikers.

Bekijk

Ook interessant

Verken meer over EU-gehoste AI op HostYourAI.

Mistral 7B Hosting Nederland

Host Mistral 7B op dedicated 1x RTX PRO 6000 (96 GB) in Nederlandse datacenters. GDPR compliant, vanaf €2,21/uur, OpenAI-compatible API.

Lees meer

Claude Code, Cline en opencode op Europese GPU's, per token vanaf prepaid credits

HostYourAI Code: draai coding-agents zoals Claude Code op EU-gehoste open modellen. Betaal per token vanaf prepaid credits, met tools, streaming en live verbruiksinzicht.

Lees meer

Llama 3.1 8B Hosting Nederland

Host Llama 3.1 8B op dedicated 1x RTX PRO 6000 (96 GB) in Nederlandse datacenters. GDPR compliant, vanaf €2,21/uur, OpenAI-compatible API.

Lees meer

Europa's AI-infrastructuur.
Bouw met ons mee.

Begin vandaag met één key. Voeg dedicated GPU's toe als je workload erom vraagt.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
Het team achter HostYourAI