GPU & infra

Infrastructure IA en Europe

Une pile d'infrastructure IA complète dans des datacenters européens.

qwen3-8b vLLM ready
NVIDIA A100 · 40GB · EU marketplace · eu-central
VRAM19.2 / 40 GB
GPU utilisation71%
42 ms
time-to-first-token
128
tokens / sec
62°C
temperature
POST /api/v1/chat/completions200 OK

L'infrastructure IA, c'est tout ce qui se trouve entre « nous avons choisi un modèle » et « notre produit répond aux utilisateurs » : le service, le routage, les tests, la mesure et la facturation. HostYourAI regroupe cette couche en une seule plateforme européenne : l'EU Inference Router partagé, des instances GPU dédiées, un Model Garden de plus de 100 modèles ouverts, un Playground pour tester, des relevés d'usage par requête et un solde de crédits prépayé unique derrière le tout.

Exécuter toute cette couche dans l'UE est tout l'enjeu. Lorsque chaque requête est traitée dans des datacenters européens par une société néerlandaise de Groningue, la résidence des données est une propriété de votre infrastructure et non une clause dont vous espérez qu'elle tienne.

Pourquoi une infrastructure IA dans l'UE

La souveraineté au niveau de l'infrastructure

Des politiques au niveau applicatif ne peuvent pas corriger une dépendance d'infrastructure envers des fournisseurs hors UE. Choisir une infrastructure de service européenne règle la question de la juridiction une fois pour toutes, pour chaque produit construit par-dessus, et vous aide à vous préparer à l'AI Act européen.

Des chemins courts vers les utilisateurs européens

L'inférence est bavarde : des flux de tokens reviennent par le réseau. Servir depuis plusieurs régions européennes garde ce chemin court pour les utilisateurs européens, et aucun saut transatlantique ne peut dominer votre temps de réponse.

Un seul solde plutôt que des factures dispersées

Des outils d'IA fragmentés produisent des dépenses fragmentées. Ici, l'usage du Router au token et la location d'instances à l'heure puisent dans le même solde prépayé, rechargé par iDEAL, carte ou SEPA, et les relevés d'usage par requête montrent exactement où sont allés les crédits.

python
from openai import OpenAI
client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...")
client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role":"user","content":"Hallo!"}])

Comment les briques s'assemblent pour une équipe type

Une équipe type touche chaque brique en quelques semaines. Le prototypage commence dans le Playground, où vous comparez des modèles sans écrire de code. La première intégration passe par l'EU Inference Router avec une clé compatible OpenAI, en payant au token tant que le trafic est faible et irrégulier. Lorsqu'une charge de travail devient stable, ou nécessite un modèle personnalisé, elle passe sur l'une des instances GPU dédiées avec son propre processus vLLM et sa clé chiffrée. Tout au long du parcours, le Model Garden indique l'état de chaque modèle : warm, en cours de chauffe, déployable ou sur demande. Rien ne doit être repensé d'une étape à l'autre, car chaque forme parle la même API.

BriqueCe qu'elle vous apporte
EU Inference RouterModèles partagés déjà chargés, paiement au token, démarrage instantané
Instances GPU dédiéesvLLM mono-locataire, n'importe quel modèle, facturation à l'heure
Model GardenPlus de 100 modèles ouverts avec l'état en direct de chacun
PlaygroundTestez n'importe quel modèle dans le navigateur, sans code
Relevés d'usageMesure par requête pour l'imputation des coûts
Solde de créditsUne seule cagnotte prépayée pour tout : iDEAL, carte, SEPA
One-click deployment
OpenAI-compatible API
4 EU datacenters
End-to-end encryptie
Dedicated GPU instances
Audit logging

Comment démarrer

Créez une clé Router et envoyez une requête ; le reste de la plateforme est accessible à partir de là. Choisissez n'importe quel modèle chargé dans le catalogue de modèles :

from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-your-key",
)

resp = client.chat.completions.create(
    model="qwen3-32b",
    messages=[{"role": "user", "content": "List the components of an LLM serving stack in one line each."}],
    stream=True,
)
for chunk in resp:
    print(chunk.choices[0].delta.content or "", end="")

La facturation est à l'usage depuis votre solde prépayé ; voir la page des tarifs.

je vraag
doc-4f2a0.94
doc-9c1e0.91
doc-2b770.88

Questions sur l'infrastructure IA

Dois-je choisir entre le Router et les instances ?

Non, la plupart des équipes utilisent les deux. Les charges irrégulières ou modestes conviennent au Router au token ; les charges stables ou personnalisées conviennent à une instance dédiée facturée à l'heure. Les deux partagent un même solde et une même forme d'API.

Que signifient les états du Model Garden ?

Les modèles warm répondent immédiatement, les modèles en cours de chauffe sont en train d'être chargés sur les GPU, les modèles déployables peuvent l'être à la demande, et les modèles sur demande sont activés après que vous en avez fait la demande.

La récupération de contexte fait-elle partie de l'infrastructure ?

Oui. Vous pouvez lier une base de connaissances au Router ou à une instance, et le contexte pertinent est injecté automatiquement dans les réponses, avec des citations de sources sur les réponses sans streaming.

Quels SDK sont pris en charge ?

Tout ce qui est compatible OpenAI fonctionne avec /v1/chat/completions et le streaming SSE, et une couche de compatibilité Anthropic /v1/messages couvre les clients du SDK Anthropic.

Quelle est la fiabilité de la plateforme ?

HostYourAI s'engage sur un SLA de disponibilité de 99,9 %, chiffre les données en AES-256 au repos et en TLS en transit, et n'entraîne jamais de modèle sur les données des clients.

Puis-je voir les coûts par requête ?

Oui. Chaque requête est mesurée individuellement : vous pouvez imputer les dépenses à des équipes, des fonctionnalités ou des clients au lieu de lire un total mensuel opaque.

qwen3-8b vLLM ready
NVIDIA A100 · 40GB · EU marketplace · eu-central
VRAM19.2 / 40 GB
GPU utilisation71%
42 ms
time-to-first-token
128
tokens / sec
62°C
temperature
POST /api/v1/chat/completions200 OK

Tout ce qu'il faut pour l'IA

De l'hébergement de modèles à une API destinée à vos clients, tout est conçu pour les développeurs et les entreprises qui veulent que leur IA tourne sur une infrastructure qu'ils contrôlent réellement, au sein de l'UE.

100%
Hébergé dans l'UE

Vos données et vos modèles restent sur des GPU européens. Conçu pour respecter le RGPD.

200+
Modèles vérifiés, prêts à servir

Llama, Qwen, DeepSeek, Mistral, FLUX et bien d'autres. Choisissez-en un et il est prêt en quelques minutes, sans DevOps de votre côté.

2 SDK
Compatible OpenAI et Anthropic

Pointez votre client existant vers le Router et gardez vos outils. Sans réécriture, sans dépendance.

De zéro à un endpoint prêt en quelques minutes

Aucune infrastructure à gérer. Choisissez un modèle, obtenez une URL compatible OpenAI et livrez.

1

Choisissez un modèle

Choisissez dans le Model Garden ou collez n'importe quel ID HuggingFace. Définissez la VRAM et choisissez un GPU européen.

2

Obtenez votre endpoint

Nous déployons vLLM, exécutons les sondes de disponibilité et vous remettons une URL prête, compatible OpenAI et Anthropic, ainsi qu'une clé d'API.

3

Routez et livrez

Pointez votre client vers le Router. Il route automatiquement vers une instance démarrée, met les GPU au repos quand personne n'est connecté et journalise chaque requête.

Privé par défaut

HostYourAI garde vos modèles, vos prompts et vos données sur des GPU européens. Conçu pour les équipes qui tiennent à la conformité, à la fiabilité et à un contrôle réel.

EU-hostedGDPR-friendlyOpenAI-compatiblevLLM-poweredNo lock-in
EU
Full data sovereignty

GPUs and data residency inside Europe. Your prompts never leave the EU.

Open
Models you can audit

Run open-weight models with no black boxes or hidden telemetry.

€0
Scale to zero

GPUs idle when nobody is online, so you only pay for what you run.

Yours
No vendor lock-in

Your infra, your keys, your models. Leave whenever you want.

Compatible avec les outils que vous utilisez déjà

Le Router parle les API OpenAI et Anthropic, il s'intègre donc directement aux clients et SDK que votre équipe utilise déjà. Il suffit de changer l'URL de base.

Essayer HostYourAI gratuitement
docker
anthropic
huggingface
langchain
python
nodedotjs
curl
ollama
jetbrains
jupyter
vercel
zapier
postman
n8n

Frequently asked questions

Can I run this in the EU?

Yes. HostYourAI runs open models on GPUs in European datacenters via vLLM. Your prompts and outputs never leave the EU and there is no US cloud provider in the chain.

Is it GDPR-compliant?

Yes. All processing happens inside the EU, a Data Processing Agreement (DPA) is available and the subprocessor list is public. Open weights also mean no training on your data.

Is the API OpenAI-compatible?

Yes. Point your existing OpenAI or Anthropic client at our Router (https://hostyourai.com/api/v1), change only the base URL and API key. No rewrite, no lock-in.

What does it cost?

Pay-as-you-go on one prepaid credit balance: the shared router per token or a dedicated GPU per hour. Free to start, no minimum, no fixed monthly fee.

Model garden

Works with 390+ open models

Text and image models on dedicated EU GPUs. Every model tested on our own hardware.

Related pages

Explore more about EU-hosted AI on HostYourAI.

Hébergez. Routez. Livrez.

Aucune carte bancaire requise. Paiement à l'usage, résiliable à tout moment.

Commencer l'hébergement gratuitement dès aujourd'hui