Model garden Router · sur demande Dédié · disponible

Llama 3.1 405B Instruct

Fonctionne comme votre propre déploiement GPU dédié, à lancer directement depuis l'assistant. Les données restent en Europe.

Llama 3.1 405B Instruct est un modèle de langage open source de Meta avec 405B paramètres, hébergé sur des GPU européens via une API compatible OpenAI.

meta-llama/Llama-3.1-405B-Instruct Sur demande
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
405B
Paramètres
—
Fenêtre de contexte
975GB
VRAM minimale
POST /api/v1/chat/completions Sur demande

Caractéristiques

Paramètres 405B
VRAM minimale 975 GB
Architecture LlamaForCausalLM (vLLM)
Licence open-weights
Modalité text->text
Date de sortie July 2024
Éditeur meta-llama ↗

Tarifs

Router partagé · par token
Sur demande
Non disponible sur le Router partagé. Tarif sur demande en déploiement GPU dédié.
GPU dédié · par heure
à partir de 49,52 € par heure
Votre propre instance vLLM sur un cloud européen (975 Go de VRAM), facturée à l'heure.

Router européen partagé, paiement au token, scale-to-zero. Les déploiements GPU dédiés sont facturés à l'heure, voir tarifs.

Indice Bench

Bench est notre indice de qualité pour chaque modèle, de 0 à 100. Il s'appuie sur des mesures publiques (Epoch AI avec une quarantaine de benchmarks, LiveBench, LMArena et d'autres) et est actualisé chaque matin. Là où personne ne mesure, il affiche une estimation avec une fourchette.

48,5 / 100 · Mesuré

Mesuré par Epoch AI sur 15 benchmarks, avec une fourchette.

Fourchette de 41,9 à 50,8 · Rang 169 sur 277 chez Epoch AI

Sources: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Mis à jour chaque jour, dernière fois le 19-10-2026

LiveBench · 47,5
Raisonnement 40,6
Code 28,8
Mathématiques 40,5
Analyse de données 55,9
Langue 43,6
Respect des consignes 75,9
Tous les benchmarks (15)
ARC AI2 93,7
HellaSwag 85,6
TriviaQA 82,7
MMLU 79,3
Winogrande 78,4
BBH 77,2
PIQA 71,8
MATH level 5 49,8
DTBench 35,6
GPQA diamond 34,6
WeirdML 21,4
OTIS Mock AIME 2024-2025 9,6
SimpleBench 7,6
Cybench 7,5
The Agent Company 7,4
LiveBench · Toutes les tâches
Raisonnement
web of lies v3 42,0
zebra puzzle 33,8
spatial 46,0
Code
LCB generation 33,3
coding completion 24,3
Mathématiques
AMPS Hard 49,0
math comp 40,9
olympiad 31,6
Analyse de données
cta 60,0
tablejoin 37,5
tablereformat 70,0
Langue
connections 31,0
plot unscrambling 41,8
typos 58,0
Respect des consignes
paraphrase 76,8
simplify 82,3
story generation 74,2
summarize 70,3

Appelez-le dès maintenant

Remplacement direct d'OpenAI : changez uniquement l'URL de base et la clé API. Le format Anthropic (/v1/messages) est également pris en charge.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-405B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Questions fréquentes

Puis-je exécuter Llama 3.1 405B Instruct dans l'UE ?

Oui. HostYourAI exécute Llama 3.1 405B Instruct sur des GPU situés dans des centres de données européens via vLLM. Les prompts et les réponses ne quittent jamais l'UE, et aucun fournisseur de cloud américain n'intervient dans la chaîne.

L'hébergement de Llama 3.1 405B Instruct est-il conforme au RGPD ?

Oui. Tout le traitement a lieu au sein de l'UE, un accord de traitement des données (DPA) est disponible et la liste des sous-traitants est publique. Des poids open source signifient aussi : aucun entraînement sur vos données.

Combien coûte Llama 3.1 405B Instruct ?

Llama 3.1 405B Instruct est disponible sur demande : via le Router européen partagé après un bref échange, ou en déploiement GPU dédié facturé à l'heure. Décrivez-nous votre cas d'usage et nous le configurerons pour vous.

L'API est-elle compatible avec OpenAI ?

Oui. Vous utilisez les SDK OpenAI standard avec une URL de base personnalisée (https://hostyourai.com/api/v1). L'API Anthropic Messages est également prise en charge en remplacement direct.

Autres modèles de Meta

Essayez Llama 3.1 405B Instruct gratuitement

La création d'un compte prend une minute. Testez Llama 3.1 405B Instruct tout de suite dans le Playground.

Commencer gratuitement