Llama 3.1 405B FP8
Dit model draait als eigen dedicated GPU-deployment, direct te starten via de wizard. Data blijft in Europa.
$ curl https://hostyourai.com/api/v1/chat/completions \
-H "Authorization: Bearer hyai-..." \
-H "Content-Type: application/json" \
-d '{
"model": "meta-llama/Llama-3.1-405B-FP8",
"messages": [{"role": "user", "content": "Hello!"}]
}'
Direct aanroepen
Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.
text->text · meta-llama · soeverein in de EU
Draait op EU-infrastructuur van Europese bedrijven, van je verzoek tot aan de GPU. Bekijk de volledige keten
Llama 3.1 405B FP8 is een open-source taalmodel van Meta met 405B parameters, gehost op Europese GPU's via een OpenAI-compatibele API.
- Router
- Router · op aanvraag
- Dedicated
- Dedicated · beschikbaar
Specificaties
| Parameters | 405B |
|---|---|
| Minimale VRAM | 585 GB |
| Architectuur | LlamaForCausalLM (vLLM) |
| Licentie | open-weights |
| Modaliteit | text->text |
| Uitgebracht | July 2024 |
| Uitgever | meta-llama ↗ |
Prijzen
Gedeelde router · per token
Dedicated GPU · per uur
Gedeelde EU-router, je betaalt alleen per token. Dedicated GPU-deployments worden per minuut afgerekend, zie prijzen.
Bench-index
Bench is onze kwaliteitsindex voor elk model, 0 tot 100. Hij steunt op openbare metingen (Epoch AI met zo’n 40 benchmarks, LiveBench, LMArena en meer) en wordt elke ochtend ververst. Waar niemand meet, staat een schatting met bandbreedte.
Gemeten door Epoch AI over 15 benchmarks, met bandbreedte.
Bandbreedte 43,7 tot 50,6 · Plek 163 van 257 bij Epoch AI
Bronnen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Dagelijks bijgewerkt, laatst op 19-11-2026
Alle benchmarks (15)
| ARC AI2 | 93,7 |
|---|---|
| HellaSwag | 85,6 |
| TriviaQA | 82,7 |
| MMLU | 79,3 |
| Winogrande | 78,4 |
| BBH | 77,2 |
| PIQA | 71,8 |
| MATH level 5 | 49,8 |
| GPQA diamond | 36,0 |
| DTBench | 35,6 |
| WeirdML | 21,4 |
| OTIS Mock AIME 2024-2025 | 9,6 |
| SimpleBench | 7,6 |
| Cybench | 7,5 |
| The Agent Company | 7,4 |
Veelgestelde vragen
Kan ik Llama 3.1 405B FP8 in de EU draaien?
Ja. HostYourAI draait Llama 3.1 405B FP8 op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.
Is Llama 3.1 405B FP8 hosten AVG/GDPR-compliant?
Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.
Wat kost Llama 3.1 405B FP8?
Llama 3.1 405B FP8 is beschikbaar op aanvraag: via de gedeelde EU-router na kort overleg, of als eigen dedicated GPU-deployment, per minuut afgerekend. Vertel ons je use case, dan zetten we het voor je klaar.
Is de API compatibel met OpenAI?
Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.
Andere modellen van Meta
Eén platform, vier lagen
Begin met één laag en voeg de andere toe als het werk erom vraagt. Ze delen één key, één saldo en één Activity-overzicht.
Probeer Llama 3.1 405B FP8 gratis
Account aanmaken duurt een minuut. Test Llama 3.1 405B FP8 direct in de playground.







