Naar de inhoud
03 Model garden Serve

Llama 3.1 8B Instruct

Dit model draait als eigen dedicated GPU-deployment, direct te starten via de wizard. Data blijft in Europa.

curl
$ curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-8B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

Serve Model garden klaar voor vLLM
meta-llama/Llama-3.1-8B-Instruct

text->text · meta-llama · soeverein in de EU

Draait op EU-infrastructuur van Europese bedrijven, van je verzoek tot aan de GPU. Bekijk de volledige keten

Llama 3.1 8B Instruct is een open-source taalmodel van Meta met 8B parameters, gehost op Europese GPU's via een OpenAI-compatibele API.

Router
Router · op aanvraag
Dedicated
Dedicated · beschikbaar
8BParameters
24GBMinimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters8B
Minimale VRAM24 GB
ArchitectuurLlamaForCausalLM (vLLM)
Licentiellama3.1
Modaliteittext->text
UitgebrachtJuly 2024
Uitgevermeta-llama ↗

Prijzen

Gedeelde router · per token

Op aanvraag Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.

Dedicated GPU · per uur

vanaf €2,21 per uurEigen vLLM-instance op Europese cloud (24 GB VRAM), per minuut afgerekend.

Gedeelde EU-router, je betaalt alleen per token. Dedicated GPU-deployments worden per minuut afgerekend, zie prijzen.

✓ Werkend geverifieerd op 28-07-2026, respons in 200 ms op onze EU-infrastructuur.

Bench-index

Bench is onze kwaliteitsindex voor elk model, 0 tot 100. Hij steunt op openbare metingen (Epoch AI met zo’n 40 benchmarks, LiveBench, LMArena en meer) en wordt elke ochtend ververst. Waar niemand meet, staat een schatting met bandbreedte.

26,0 / 100 · Gemeten

Gemeten door Epoch AI over 10 benchmarks, met bandbreedte.

Bandbreedte 19,1 tot 32,3 · Plek 203 van 257 bij Epoch AI

Bronnen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Dagelijks bijgewerkt, laatst op 19-11-2026

LiveBench · 25,0

Redeneren14,8
Code11,1
Wiskunde15,1
Data-analyse32,8
Taal21,1
Instructies volgen54,9
Alle benchmarks (10)
GSM8K82,4
PIQA62,4
MMLU41,5
MATH level 522,9
DTBench18,2
Balrog15,1
LMCA6,3
GPQA diamond2,7
WeirdML1,7
OTIS Mock AIME 2024-20251,6
LiveBench · Alle taken
Redeneren
web of lies v316,3
zebra puzzle10,0
spatial18,0
Code
LCB generation10,7
coding completion11,4
Wiskunde
AMPS Hard21,0
math comp9,9
olympiad14,4
Data-analyse
cta42,0
tablejoin4,5
tablereformat52,0
Taal
connections4,5
plot unscrambling12,8
typos46,0
Instructies volgen
paraphrase57,1
simplify61,4
story generation51,1
summarize50,1
Vragen

Veelgestelde vragen

Kan ik Llama 3.1 8B Instruct in de EU draaien?

Ja. HostYourAI draait Llama 3.1 8B Instruct op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Llama 3.1 8B Instruct hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Llama 3.1 8B Instruct?

Llama 3.1 8B Instruct is beschikbaar op aanvraag: via de gedeelde EU-router na kort overleg, of als eigen dedicated GPU-deployment, per minuut afgerekend. Vertel ons je use case, dan zetten we het voor je klaar.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Het platform

Eén platform, vier lagen

Begin met één laag en voeg de andere toe als het werk erom vraagt. Ze delen één key, één saldo en één Activity-overzicht.

Code

Je coding agent op open modellen in Europa, ingericht met één commando.

Bekijk

Control

Sleutels, budgetten en guardrails per team, en persoonsgegevens tegengehouden voordat een model ze ziet.

Bekijk

Serve

Gedeeld per token, of alleen voor jou, vanuit Europese datacenters.

Bekijk

EU compute

Eigen GPU's in Europa, van H100 tot B300, afgestemd op reactietijd, generatiesnelheid en gelijktijdige gebruikers.

Bekijk

Probeer Llama 3.1 8B Instruct gratis

Account aanmaken duurt een minuut. Test Llama 3.1 8B Instruct direct in de playground.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
Het team achter HostYourAI