Model garden Router · sur demande Dédié · disponible

Llama 3.1 70B Instruct

Fonctionne comme votre propre déploiement GPU dédié, à lancer directement depuis l'assistant. Les données restent en Europe.

Llama 3.1 70B Instruct est un modèle de langage open source de Meta avec 71B paramètres, hébergé sur des GPU européens via une API compatible OpenAI.

meta-llama/Llama-3.1-70B-Instruct vLLM ready
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
71B
Paramètres
—
Fenêtre de contexte
170GB
VRAM minimale
POST /api/v1/chat/completions Sur demande

Caractéristiques

Paramètres 71B
VRAM minimale 170 GB
Architecture LlamaForCausalLM (vLLM)
Licence llama3.1
Modalité text->text
Date de sortie July 2024
Éditeur meta-llama ↗

Tarifs

Router partagé · par token
Sur demande
Non disponible sur le Router partagé. Tarif sur demande en déploiement GPU dédié.
GPU dédié · par heure
à partir de 5,33 € par heure
Votre propre instance vLLM sur un cloud européen (170 Go de VRAM), facturée à l'heure.

Router européen partagé, paiement au token, scale-to-zero. Les déploiements GPU dédiés sont facturés à l'heure, voir tarifs.

✓ Fonctionnement vérifié le 26-07-2026, réponse en 153 ms sur notre infrastructure européenne.

Indice Bench

Bench est notre indice de qualité pour chaque modèle, de 0 à 100. Il s'appuie sur des mesures publiques (Epoch AI avec une quarantaine de benchmarks, LiveBench, LMArena et d'autres) et est actualisé chaque matin. Là où personne ne mesure, il affiche une estimation avec une fourchette.

44,9 / 100 · Mesuré

Mesuré par Epoch AI sur 9 benchmarks, avec une fourchette.

Fourchette de 38,0 à 48,7 · Rang 183 sur 277 chez Epoch AI

Sources: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Mis à jour chaque jour, dernière fois le 19-10-2026

LiveBench · 40,5
Raisonnement 29,7
Code 19,9
Mathématiques 32,5
Analyse de données 53,8
Langue 38,4
Respect des consignes 69,0
Tous les benchmarks (9)
MMLU 73,5
MATH level 5 36,7
DTBench 33,3
Balrog 27,9
GPQA diamond 25,6
LMCA 17,5
WeirdML 9,0
The Agent Company 6,9
OTIS Mock AIME 2024-2025 3,5
LiveBench · Toutes les tâches
Raisonnement
web of lies v3 34,0
zebra puzzle 19,0
spatial 36,0
Code
LCB generation 24,0
coding completion 15,7
Mathématiques
AMPS Hard 41,0
math comp 28,9
olympiad 27,7
Analyse de données
cta 52,0
tablejoin 31,3
tablereformat 78,0
Langue
connections 20,8
plot unscrambling 36,2
typos 58,0
Respect des consignes
paraphrase 72,8
simplify 73,4
story generation 63,8
summarize 66,1

Appelez-le dès maintenant

Remplacement direct d'OpenAI : changez uniquement l'URL de base et la clé API. Le format Anthropic (/v1/messages) est également pris en charge.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-70B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Questions fréquentes

Puis-je exécuter Llama 3.1 70B Instruct dans l'UE ?

Oui. HostYourAI exécute Llama 3.1 70B Instruct sur des GPU situés dans des centres de données européens via vLLM. Les prompts et les réponses ne quittent jamais l'UE, et aucun fournisseur de cloud américain n'intervient dans la chaîne.

L'hébergement de Llama 3.1 70B Instruct est-il conforme au RGPD ?

Oui. Tout le traitement a lieu au sein de l'UE, un accord de traitement des données (DPA) est disponible et la liste des sous-traitants est publique. Des poids open source signifient aussi : aucun entraînement sur vos données.

Combien coûte Llama 3.1 70B Instruct ?

Llama 3.1 70B Instruct nécessite plusieurs GPU à la fois et fonctionne donc en déploiement dédié, facturé à l'heure de GPU et non au token. Indiquez-nous votre volume et nous ferons le calcul avec vous.

L'API est-elle compatible avec OpenAI ?

Oui. Vous utilisez les SDK OpenAI standard avec une URL de base personnalisée (https://hostyourai.com/api/v1). L'API Anthropic Messages est également prise en charge en remplacement direct.

Autres modèles de Meta

Essayez Llama 3.1 70B Instruct gratuitement

La création d'un compte prend une minute. Testez Llama 3.1 70B Instruct tout de suite dans le Playground.

Commencer gratuitement