Model garden Router · op aanvraag Dedicated · beschikbaar

Meta Llama 3 70B Instruct

Dit model draait als eigen dedicated GPU-deployment, direct te starten via de wizard. Data blijft in Europa.

Meta Llama 3 70B Instruct is een open-source taalmodel van Meta met 71B parameters, gehost op Europese GPU's via een OpenAI-compatibele API.

meta-llama/Meta-Llama-3-70B-Instruct Op aanvraag
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
71B
Parameters
Contextvenster
170GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 71B
Minimale VRAM 170 GB
Architectuur LlamaForCausalLM (vLLM)
Licentie llama3
Modaliteit text->text
Uitgebracht April 2024
Uitgever meta-llama ↗

Prijzen

Gedeelde router · per token
Op aanvraag
Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.
Dedicated GPU · per uur
vanaf €5,07 per uur
Eigen vLLM-instance op Europese cloud (170 GB VRAM), per uur afgerekend.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Meta-Llama-3-70B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik Meta Llama 3 70B Instruct in de EU draaien?

Ja. HostYourAI draait Meta Llama 3 70B Instruct op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Meta Llama 3 70B Instruct hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Meta Llama 3 70B Instruct?

Meta Llama 3 70B Instruct heeft meerdere GPU's tegelijk nodig en draait daarom als dedicated deployment. Je betaalt dan per GPU-uur en niet per token. Vertel ons je volume, dan rekenen we het voor je door.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van Meta

Probeer Meta Llama 3 70B Instruct gratis

Account aanmaken duurt een minuut. Test Meta Llama 3 70B Instruct direct in de playground.

Start gratis