Aller au contenu

Hébergement de modèles 03 Serve

Hébergement Llama 3

Déployez les modèles Llama 3.3 de Meta sur une infrastructure européenne dédiée.

  • GLM
  • DeepSeek
  • Qwen
  • Kimi
  • Mistral
  • Llama
  • gpt-oss
  • Gemma
  • Loes
  • Nemotron
  • Claude Code
  • Codex
  • OpenCode
  • Cursor
  • Cline
  • Loes
  • OpenAI SDK
  • Anthropic SDK

Ce que cela fait Hébergement de modèles

Pourquoi un hébergement Llama dans l'UE

La famille Llama de Meta est le cheval de bataille des LLM ouverts : sous licence permissive, bien documentée et disponible dans des tailles allant du modèle de poche au poids lourd de 70B. HostYourAI exécute les générations Llama 3.1, 3.2 et 3.3 avec vLLM sur des GPU européens : vous bénéficiez de la qualité de Llama sans envoyer un seul prompt en dehors de l'UE.

Vous pouvez appeler les modèles Llama de deux façons. L'EU Inference Router partagé donne un accès immédiat au token, avec les tailles populaires maintenues chaudes. Pour un trafic de production régulier ou des exigences d'isolation strictes, les instances GPU dédiées exécutent le Llama de votre choix avec sa propre clé API chiffrée.

En savoir plus

01

Des poids ouverts, un service souverain

Les poids de Llama sont publics : rien ne vous oblige à les exécuter sur une infrastructure américaine. Les héberger sur des GPU européens fait d'un modèle ouvert une pile véritablement souveraine : les poids, la couche de service vLLM et le matériel échappent tous au contrôle d'un fournisseur unique.

02

La protection des données reste simple

Les prompts envoyés à un modèle Llama ici sont traités dans des datacenters européens et ne servent jamais à l'entraînement. Avec un DPA et une liste publique des sous-traitants, votre documentation RGPD pour la fonctionnalité tient en une page, pas en un projet.

03

Payez des tokens, pas une capacité théorique inutilisée

Sur le Router, vous payez au token à partir d'un solde prépayé ; une instance Llama dédiée est facturée à la minute jusqu'à sa suppression. Les deux puisent dans un même solde, expliqué sur la page des tarifs : tester un Llama plus grand est donc une décision que vous pouvez annuler le jour même.

02 Hébergement de modèles

Choisir une taille de Llama pour votre charge de travail

Les générations de Llama se répartissent clairement selon les tâches. Les petits modèles 3.2 (1B et 3B) sont conçus pour les tâches à haut volume et faible enjeu : routage, étiquetage, extraction, garde-fous. Llama 3.1 8B est le choix par défaut pour le résumé et la sortie structurée, assez économique pour être appelé à chaque requête. En haut de gamme, Llama 3.3 70B offre à peu près la qualité d'assistant que l'on attend d'un modèle de chat de pointe, avec un bon suivi des instructions et une production multilingue, néerlandais compris.

Un schéma pratique consiste à démarrer chaque fonctionnalité sur 3.3 70B via le Router, à mesurer la qualité, puis à faire descendre chaque tâche vers des tailles plus petites jusqu'à ce que la qualité baisse. Le Model Garden indique quelles variantes de Llama sont chaudes en ce moment, et chacune peut être essayée dans le Playground avant d'écrire du code.

Variante de LlamaUsage typique
Llama 3.2 1BClassification, routage, contrôles de garde-fous à très haut volume
Llama 3.2 3BRésumés courts, extraction d'entités, saisie semi-automatique
Llama 3.1 8BRésumé généraliste, sortie JSON structurée, rédaction
Llama 3.1 70BRaisonnement complexe et analyse à long contexte
Llama 3.3 70BAssistants de chat en production, dialogue multilingue, réponses RAG
03 Hébergement de modèles

Comment démarrer

Les modèles Llama se trouvent derrière le point d'accès standard compatible OpenAI : n'importe quel SDK OpenAI fonctionne sans modification.

python
from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...",
)

response = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[
        {"role": "system", "content": "You are a concise Dutch-speaking assistant."},
        {"role": "user", "content": "Leg in twee zinnen uit wat vLLM doet."},
    ],
    max_tokens=200,
)
print(response.choices[0].message.content)

04 Hébergement de modèles

Questions sur l'hébergement Llama

01

Quelles versions de Llama sont disponibles ?

Les générations Llama 3.1, 3.2 et 3.3, du 1B jusqu'au 70B. Le Model Garden indique l'état en direct de chacune : chaude, en cours de réchauffement, servable ou sur demande.

02

Llama 3.3 70B est-il maintenu chaud sur le Router ?

Les modèles populaires sont maintenus chauds grâce à un pool chaud, afin que les requêtes commencent à générer immédiatement. La page du catalogue de chaque modèle affiche son état actuel avant que vous l'appeliez.

03

Llama peut-il répondre en néerlandais ?

Oui. Llama 3.1 et 3.3 sont multilingues et gèrent bien le néerlandais, ce qui explique en partie pourquoi les équipes néerlandaises choisissent le 70B pour le chat destiné aux clients.

04

De quel GPU un Llama 70B a-t-il besoin ?

D'une grande carte de la classe 80 Go ou d'une configuration multi-GPU. Vous n'avez pas à le dimensionner vous-même : le déploiement impose un plancher de VRAM, de sorte qu'une instance dédiée reçoit toujours un matériel sur lequel le modèle tient.

05

Puis-je combiner Llama avec mes propres documents ?

Oui. Liez une base de connaissances au Router ou à votre instance, et le contexte pertinent est injecté automatiquement dans les réponses. Le guide Construire un RAG sur des GPU européens présente la configuration de bout en bout.

Tout ce qu'il faut pour l'IA

De l'hébergement de modèles à une API destinée à vos clients, tout est conçu pour les développeurs et les entreprises qui veulent que leur IA tourne sur une infrastructure qu'ils contrôlent réellement, au sein de l'UE.

Hébergé dans l'UE

100%

Vos données et vos modèles restent sur des GPU européens. Conçu pour respecter le RGPD.

Modèles vérifiés, prêts à servir

700+

Llama, Qwen, DeepSeek, Mistral, FLUX et bien d'autres. Choisissez-en un et il est prêt en quelques minutes, sans DevOps de votre côté.

Compatible OpenAI et Anthropic

2 SDK

Pointez votre client existant vers le Router et gardez vos outils. Sans réécriture, sans dépendance.

De zéro à un endpoint prêt en quelques minutes

Aucune infrastructure à gérer. Choisissez un modèle, obtenez une URL compatible OpenAI et livrez.

01

Choisissez un modèle

Choisissez dans le Model Garden ou collez n'importe quel ID HuggingFace. Définissez la VRAM et choisissez un GPU européen.

02

Obtenez votre endpoint

Nous déployons vLLM, exécutons les sondes de disponibilité et vous remettons une URL prête, compatible OpenAI et Anthropic, ainsi qu'une clé d'API.

03

Routez et livrez

Pointez votre client vers le Router. Il route automatiquement vers une instance démarrée et journalise chaque requête.

Privé par défaut

HostYourAI garde vos modèles, vos prompts et vos données sur des GPU européens. Conçu pour les équipes qui tiennent à la conformité, à la fiabilité et à un contrôle réel.

  • Hébergé dans l'UE
  • Compatible RGPD
  • Compatible OpenAI
  • Propulsé par vLLM
  • Sans dépendance

Souveraineté complète des données

UE

Les GPU et les données restent en Europe, tout comme vos prompts.

Des modèles vérifiables

Ouvert

Exécutez des modèles open-weight et voyez exactement ce qui tourne.

Aucun abonnement

0 €

Crédit prépayé au token ou à la minute : vous ne payez que ce que vous utilisez.

Vos clés, vos modèles

À vous

Vos clés, vos modèles et vos données. Changez quand vous le souhaitez.

Compatible avec les outils que vous utilisez déjà

Le Router parle les API OpenAI et Anthropic, il s'intègre donc directement aux clients et SDK que votre équipe utilise déjà. Il suffit de changer l'URL de base.

  • Docker
  • Anthropic
  • Hugging Face
  • LangChain
  • Python
  • Node.js
  • curl
  • Ollama
  • JetBrains
  • Jupyter
  • Vercel
  • Zapier
  • Postman
  • n8n
Questions

Questions fréquentes

Puis-je l'utiliser dans l'UE ?

Oui. HostYourAI exécute des modèles ouverts avec vLLM sur des GPU dans des centres de données européens. Vos prompts et vos réponses restent dans l'UE.

Est-ce conforme au RGPD ?

Oui. Tout le traitement a lieu dans l'UE, un accord de traitement des données (DPA) est disponible et la liste des sous-traitants est publique. Les poids ouverts garantissent aussi que vos données ne servent jamais à l'entraînement.

L'API est-elle compatible avec OpenAI ?

Oui. Pointez votre client OpenAI ou Anthropic existant vers notre Router (https://hostyourai.com/api/v1) et changez seulement l'URL de base et la clé API. Votre code reste tel quel.

Combien cela coûte-t-il ?

Paiement à l'usage depuis un seul solde de crédit prépayé : le Router partagé au token ou un GPU dédié facturé à la minute. Gratuit pour commencer, sans minimum et sans abonnement mensuel.

Model garden

Fonctionne avec plus de 700 modèles ouverts

Des modèles texte et image sur des GPU européens dédiés. Chaque modèle est testé sur notre propre matériel.

Parcourir tous les modèles

La plateforme

Une plateforme, quatre couches

Commencez par une couche et ajoutez les autres quand le travail le demande. Elles partagent une clé, un solde et une vue Activity.

Code

Votre agent de code sur des modèles ouverts en Europe, configuré en une seule commande.

Ouvrir

Control

Clés, budgets et garde-fous par équipe, et données personnelles arrêtées avant qu'un modèle ne les voie.

Ouvrir

Serve

Partagés au token, ou rien que pour vous, depuis des centres de données européens.

Ouvrir

EU compute

Des GPU privés en Europe, du H100 au B300, dimensionnés selon le temps de réponse, la vitesse de génération et le nombre d'utilisateurs simultanés.

Ouvrir

Pages associées

Découvrez-en plus sur l'IA hébergée dans l'UE avec HostYourAI.

Alternative à l'API Claude

Utilisez votre client Anthropic avec des modèles ouverts sur des GPU européens. Une alternative à l'API Claude qui parle /v1/messages et garde vos données dans l'UE.

Lire la suite

IA d'entreprise en Europe

Solutions d'IA pour les entreprises européennes : SLA garanti, support dédié, conformité, intégrations sur mesure et hébergement dans l'UE.

Lire la suite

Hébergement CodeLlama 34B en Europe

Hébergez CodeLlama 34B sur 1x RTX PRO 6000 (96 GB) dédié dans des datacenters européens. Conforme au RGPD, à partir de €2,21/heure, API compatible OpenAI.

Lire la suite

L'infrastructure d'IA de l'Europe.
Construisez avec nous.

Commencez aujourd'hui avec une seule clé. Ajoutez des GPU dédiés quand votre charge le demande.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
L'équipe derrière HostYourAI