Model garden Router · sur demande Dédié · disponible

Llama 2 70b hf

Fonctionne comme votre propre déploiement GPU dédié, à lancer directement depuis l'assistant. Les données restent en Europe.

Llama 2 70b hf est un modèle de langage open source de Meta avec 69B paramètres, hébergé sur des GPU européens via une API compatible OpenAI.

meta-llama/Llama-2-70b-hf Sur demande
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
69B
Paramètres
—
Fenêtre de contexte
166GB
VRAM minimale
POST /api/v1/chat/completions Sur demande

Caractéristiques

Paramètres 69B
VRAM minimale 166 GB
Architecture LlamaForCausalLM (vLLM)
Licence llama2
Modalité text->text
Date de sortie July 2023
Éditeur meta-llama ↗

Tarifs

Router partagé · par token
Sur demande
Non disponible sur le Router partagé. Tarif sur demande en déploiement GPU dédié.
GPU dédié · par heure
à partir de 5,33 € par heure
Votre propre instance vLLM sur un cloud européen (166 Go de VRAM), facturée à l'heure.

Router européen partagé, paiement au token, scale-to-zero. Les déploiements GPU dédiés sont facturés à l'heure, voir tarifs.

Indice Bench

Bench est notre indice de qualité pour chaque modèle, de 0 à 100. Il s'appuie sur des mesures publiques (Epoch AI avec une quarantaine de benchmarks, LiveBench, LMArena et d'autres) et est actualisé chaque matin. Là où personne ne mesure, il affiche une estimation avec une fourchette.

29,8 / 100 · Mesuré

Mesuré par Epoch AI sur 14 benchmarks, avec une fourchette.

Fourchette de 19,5 à 35,0 · Rang 221 sur 277 chez Epoch AI

Sources: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Mis à jour chaque jour, dernière fois le 19-10-2026

Tous les benchmarks (14)
TriviaQA 87,6
HellaSwag 80,4
LAMBADA 78,9
ARC AI2 71,1
GSM8K 69,6
PIQA 65,6
Winogrande 60,4
MMLU 59,9
BBH 53,2
OpenBookQA 46,9
MATH level 5 3,3
DTBench 2,7
GPQA diamond 1,8
OTIS Mock AIME 2024-2025 0,0

Appelez-le dès maintenant

Remplacement direct d'OpenAI : changez uniquement l'URL de base et la clé API. Le format Anthropic (/v1/messages) est également pris en charge.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-2-70b-hf",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Questions fréquentes

Puis-je exécuter Llama 2 70b hf dans l'UE ?

Oui. HostYourAI exécute Llama 2 70b hf sur des GPU situés dans des centres de données européens via vLLM. Les prompts et les réponses ne quittent jamais l'UE, et aucun fournisseur de cloud américain n'intervient dans la chaîne.

L'hébergement de Llama 2 70b hf est-il conforme au RGPD ?

Oui. Tout le traitement a lieu au sein de l'UE, un accord de traitement des données (DPA) est disponible et la liste des sous-traitants est publique. Des poids open source signifient aussi : aucun entraînement sur vos données.

Combien coûte Llama 2 70b hf ?

Llama 2 70b hf nécessite plusieurs GPU à la fois et fonctionne donc en déploiement dédié, facturé à l'heure de GPU et non au token. Indiquez-nous votre volume et nous ferons le calcul avec vous.

L'API est-elle compatible avec OpenAI ?

Oui. Vous utilisez les SDK OpenAI standard avec une URL de base personnalisée (https://hostyourai.com/api/v1). L'API Anthropic Messages est également prise en charge en remplacement direct.

Autres modèles de Meta

Essayez Llama 2 70b hf gratuitement

La création d'un compte prend une minute. Testez Llama 2 70b hf tout de suite dans le Playground.

Commencer gratuitement