Model garden Router · sur demande Dédié · disponible

Llama 3.1 405B FP8

Fonctionne comme votre propre déploiement GPU dédié, à lancer directement depuis l'assistant. Les données restent en Europe.

Llama 3.1 405B FP8 est un modèle de langage open source de Meta avec 405B paramètres, hébergé sur des GPU européens via une API compatible OpenAI.

meta-llama/Llama-3.1-405B-FP8 Sur demande
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
405B
Paramètres
—
Fenêtre de contexte
585GB
VRAM minimale
POST /api/v1/chat/completions Sur demande

Caractéristiques

Paramètres 405B
VRAM minimale 585 GB
Architecture LlamaForCausalLM (vLLM)
Licence open-weights
Modalité text->text
Date de sortie July 2024
Éditeur meta-llama ↗

Tarifs

Router partagé · par token
Sur demande
Non disponible sur le Router partagé. Tarif sur demande en déploiement GPU dédié.
GPU dédié · par heure
à partir de 21,48 € par heure
Votre propre instance vLLM sur un cloud européen (585 Go de VRAM), facturée à l'heure.

Router européen partagé, paiement au token, scale-to-zero. Les déploiements GPU dédiés sont facturés à l'heure, voir tarifs.

Indice Bench

Bench est notre indice de qualité pour chaque modèle, de 0 à 100. Il s'appuie sur des mesures publiques (Epoch AI avec une quarantaine de benchmarks, LiveBench, LMArena et d'autres) et est actualisé chaque matin. Là où personne ne mesure, il affiche une estimation avec une fourchette.

48,5 / 100 · Mesuré

Mesuré par Epoch AI sur 15 benchmarks, avec une fourchette.

Fourchette de 41,9 à 50,8 · Rang 169 sur 277 chez Epoch AI

Sources: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Mis à jour chaque jour, dernière fois le 19-10-2026

Tous les benchmarks (15)
ARC AI2 93,7
HellaSwag 85,6
TriviaQA 82,7
MMLU 79,3
Winogrande 78,4
BBH 77,2
PIQA 71,8
MATH level 5 49,8
DTBench 35,6
GPQA diamond 34,6
WeirdML 21,4
OTIS Mock AIME 2024-2025 9,6
SimpleBench 7,6
Cybench 7,5
The Agent Company 7,4

Appelez-le dès maintenant

Remplacement direct d'OpenAI : changez uniquement l'URL de base et la clé API. Le format Anthropic (/v1/messages) est également pris en charge.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-405B-FP8",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Questions fréquentes

Puis-je exécuter Llama 3.1 405B FP8 dans l'UE ?

Oui. HostYourAI exécute Llama 3.1 405B FP8 sur des GPU situés dans des centres de données européens via vLLM. Les prompts et les réponses ne quittent jamais l'UE, et aucun fournisseur de cloud américain n'intervient dans la chaîne.

L'hébergement de Llama 3.1 405B FP8 est-il conforme au RGPD ?

Oui. Tout le traitement a lieu au sein de l'UE, un accord de traitement des données (DPA) est disponible et la liste des sous-traitants est publique. Des poids open source signifient aussi : aucun entraînement sur vos données.

Combien coûte Llama 3.1 405B FP8 ?

Llama 3.1 405B FP8 est disponible sur demande : via le Router européen partagé après un bref échange, ou en déploiement GPU dédié facturé à l'heure. Décrivez-nous votre cas d'usage et nous le configurerons pour vous.

L'API est-elle compatible avec OpenAI ?

Oui. Vous utilisez les SDK OpenAI standard avec une URL de base personnalisée (https://hostyourai.com/api/v1). L'API Anthropic Messages est également prise en charge en remplacement direct.

Autres modèles de Meta

Essayez Llama 3.1 405B FP8 gratuitement

La création d'un compte prend une minute. Testez Llama 3.1 405B FP8 tout de suite dans le Playground.

Commencer gratuitement