Llama 3.1 70B Instruct
Dit model draait als eigen dedicated GPU-deployment, direct te starten via de wizard. Data blijft in Europa.
$ curl https://hostyourai.com/api/v1/chat/completions \
-H "Authorization: Bearer hyai-..." \
-H "Content-Type: application/json" \
-d '{
"model": "meta-llama/Llama-3.1-70B-Instruct",
"messages": [{"role": "user", "content": "Hello!"}]
}'
Direct aanroepen
Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.
text->text · meta-llama · soeverein in de EU
Draait op EU-infrastructuur van Europese bedrijven, van je verzoek tot aan de GPU. Bekijk de volledige keten
Llama 3.1 70B Instruct is een open-source taalmodel van Meta met 71B parameters, gehost op Europese GPU's via een OpenAI-compatibele API.
- Router
- Router · op aanvraag
- Dedicated
- Dedicated · beschikbaar
Specificaties
| Parameters | 71B |
|---|---|
| Minimale VRAM | 170 GB |
| Architectuur | LlamaForCausalLM (vLLM) |
| Licentie | llama3.1 |
| Modaliteit | text->text |
| Uitgebracht | July 2024 |
| Uitgever | meta-llama ↗ |
Prijzen
Gedeelde router · per token
Dedicated GPU · per uur
Gedeelde EU-router, je betaalt alleen per token. Dedicated GPU-deployments worden per minuut afgerekend, zie prijzen.
✓ Werkend geverifieerd op 26-07-2026, respons in 153 ms op onze EU-infrastructuur.
Bench-index
Bench is onze kwaliteitsindex voor elk model, 0 tot 100. Hij steunt op openbare metingen (Epoch AI met zo’n 40 benchmarks, LiveBench, LMArena en meer) en wordt elke ochtend ververst. Waar niemand meet, staat een schatting met bandbreedte.
Gemeten door Epoch AI over 9 benchmarks, met bandbreedte.
Bandbreedte 39,5 tot 47,0 · Plek 177 van 257 bij Epoch AI
Bronnen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Dagelijks bijgewerkt, laatst op 19-11-2026
LiveBench · 40,5
Alle benchmarks (9)
| MMLU | 73,5 |
|---|---|
| MATH level 5 | 36,7 |
| DTBench | 33,3 |
| Balrog | 27,9 |
| GPQA diamond | 26,7 |
| LMCA | 17,5 |
| WeirdML | 9,0 |
| The Agent Company | 6,9 |
| OTIS Mock AIME 2024-2025 | 3,5 |
LiveBench · Alle taken
| web of lies v3 | 34,0 |
|---|---|
| zebra puzzle | 19,0 |
| spatial | 36,0 |
| LCB generation | 24,0 |
|---|---|
| coding completion | 15,7 |
| AMPS Hard | 41,0 |
|---|---|
| math comp | 28,9 |
| olympiad | 27,7 |
| cta | 52,0 |
|---|---|
| tablejoin | 31,3 |
| tablereformat | 78,0 |
| connections | 20,8 |
|---|---|
| plot unscrambling | 36,2 |
| typos | 58,0 |
| paraphrase | 72,8 |
|---|---|
| simplify | 73,4 |
| story generation | 63,8 |
| summarize | 66,1 |
Veelgestelde vragen
Kan ik Llama 3.1 70B Instruct in de EU draaien?
Ja. HostYourAI draait Llama 3.1 70B Instruct op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.
Is Llama 3.1 70B Instruct hosten AVG/GDPR-compliant?
Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.
Wat kost Llama 3.1 70B Instruct?
Llama 3.1 70B Instruct heeft meerdere GPU's tegelijk nodig en draait daarom als dedicated deployment. Je betaalt dan per GPU-minuut en niet per token. Vertel ons je volume, dan rekenen we het voor je door.
Is de API compatibel met OpenAI?
Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.
Andere modellen van Meta
Eén platform, vier lagen
Begin met één laag en voeg de andere toe als het werk erom vraagt. Ze delen één key, één saldo en één Activity-overzicht.
Probeer Llama 3.1 70B Instruct gratis
Account aanmaken duurt een minuut. Test Llama 3.1 70B Instruct direct in de playground.







