HostYourAI

Meta Llama 3 8B Instruct hosten in de EU — OpenAI-compatibele API

Direct via de EU-router of als dedicated GPU-deployment. Data blijft in Europa.

Specificaties

Parameters8B
Minimale VRAM19 GB
ArchitectuurLlamaForCausalLM (vLLM)
Licentiellama3
Modaliteittext->text
UitgebrachtApril 2024
Uitgevermeta-llama (Hugging Face)

Prijzen

Input (per 1M tokens)€ 0.10
Output (per 1M tokens)€ 0.18

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend — zie prijzen.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Meta-Llama-3-8B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik Meta Llama 3 8B Instruct in de EU draaien?

Ja. HostYourAI draait Meta Llama 3 8B Instruct op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Meta Llama 3 8B Instruct hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Meta Llama 3 8B Instruct?

Via de gedeelde EU-router betaal je €0.10 per miljoen input-tokens en €0.18 per miljoen output-tokens, zonder vaste kosten. Voor hoge volumes of isolatie kun je Meta Llama 3 8B Instruct ook als dedicated GPU-instance per uur draaien.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Probeer Meta Llama 3 8B Instruct gratis

Account aanmaken duurt een minuut. Test Meta Llama 3 8B Instruct direct in de playground.

Start gratis

← Alle modellen