Model garden

Llama 3.1 70B Instruct

Direct via de EU-router of als dedicated GPU-deployment. Data blijft in Europa.

Llama 3.1 70B Instruct is een open-source taalmodel van Meta met 71B parameters, gehost op Europese GPU's via een OpenAI-compatibele API.

meta-llama/Llama-3.1-70B-Instruct vLLM ready
text->text · meta-llama · EU-hosted
71B
Parameters
Contextvenster
170GB
Minimale VRAM
POST /api/v1/chat/completions 200 OK

Specificaties

Parameters 71B
Minimale VRAM 170 GB
Architectuur LlamaForCausalLM (vLLM)
Licentie llama3.1
Modaliteit text->text
Uitgebracht July 2024
Uitgever meta-llama ↗

Prijzen

Op aanvraag
Dedicated deployment, vanaf 170 GB VRAM. Afgerekend per GPU-uur.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

✓ Werkend geverifieerd op 13-07-2026, respons in 485 ms op onze EU-infrastructuur.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-70B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik Llama 3.1 70B Instruct in de EU draaien?

Ja. HostYourAI draait Llama 3.1 70B Instruct op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Llama 3.1 70B Instruct hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Llama 3.1 70B Instruct?

Llama 3.1 70B Instruct heeft meerdere GPU's tegelijk nodig en draait daarom als dedicated deployment. Je betaalt dan per GPU-uur en niet per token. Vertel ons je volume, dan rekenen we het voor je door.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van Meta

Probeer Llama 3.1 70B Instruct gratis

Account aanmaken duurt een minuut. Test Llama 3.1 70B Instruct direct in de playground.

Start gratis