Model garden Router · op aanvraag Dedicated · beschikbaar

Llama 2 70b chat hf

Dit model draait als eigen dedicated GPU-deployment, direct te starten via de wizard. Data blijft in Europa.

Llama 2 70b chat hf is een open-source taalmodel van Meta met 69B parameters, gehost op Europese GPU's via een OpenAI-compatibele API.

meta-llama/Llama-2-70b-chat-hf Op aanvraag
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
69B
Parameters
—
Contextvenster
166GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 69B
Minimale VRAM 166 GB
Architectuur LlamaForCausalLM (vLLM)
Licentie llama2
Modaliteit text->text
Uitgebracht July 2023
Uitgever meta-llama ↗

Prijzen

Gedeelde router · per token
Op aanvraag
Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.
Dedicated GPU · per uur
vanaf €4,06 per uur
Eigen vLLM-instance op Europese cloud (166 GB VRAM), per uur afgerekend.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Bench-index

Bench is onze kwaliteitsindex voor elk model, 0 tot 100. Hij steunt op openbare metingen (Epoch AI met zo’n 40 benchmarks, LiveBench, LMArena en meer) en wordt elke ochtend ververst. Waar niemand meet, staat een schatting met bandbreedte.

29,6 / 100 · Gemeten

Gemeten door Epoch AI over 14 benchmarks, met bandbreedte.

Bandbreedte 18,3 tot 34,0 · Plek 216 van 270 bij Epoch AI

Bronnen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Dagelijks bijgewerkt, laatst op 23-10-2026

Alle benchmarks (14)
TriviaQA 87,6
HellaSwag 80,4
LAMBADA 78,9
ARC AI2 71,1
GSM8K 69,6
PIQA 65,6
Winogrande 60,4
MMLU 59,9
BBH 53,2
OpenBookQA 46,9
MATH level 5 3,3
DTBench 2,7
GPQA diamond 1,8
OTIS Mock AIME 2024-2025 0,0

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-2-70b-chat-hf",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik Llama 2 70b chat hf in de EU draaien?

Ja. HostYourAI draait Llama 2 70b chat hf op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Llama 2 70b chat hf hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Llama 2 70b chat hf?

Llama 2 70b chat hf heeft meerdere GPU's tegelijk nodig en draait daarom als dedicated deployment. Je betaalt dan per GPU-uur en niet per token. Vertel ons je volume, dan rekenen we het voor je door.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van Meta

Probeer Llama 2 70b chat hf gratis

Account aanmaken duurt een minuut. Test Llama 2 70b chat hf direct in de playground.

Start gratis