Model garden Router · op aanvraag Dedicated · beschikbaar

CodeLlama 34b Instruct hf

Dit model draait als eigen dedicated GPU-deployment, direct te starten via de wizard. Data blijft in Europa.

CodeLlama 34b Instruct hf is een open-source taalmodel van Meta met 34B parameters, gehost op Europese GPU's via een OpenAI-compatibele API.

meta-llama/CodeLlama-34b-Instruct-hf Op aanvraag
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
34B
Parameters
Contextvenster
160GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 34B
Minimale VRAM 160 GB
Architectuur LlamaForCausalLM (vLLM)
Licentie llama2
Modaliteit text->text
Uitgebracht March 2024
Uitgever meta-llama ↗

Prijzen

Gedeelde router · per token
Op aanvraag
Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.
Dedicated GPU · per uur
vanaf €5,07 per uur
Eigen vLLM-instance op Europese cloud (160 GB VRAM), per uur afgerekend.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/CodeLlama-34b-Instruct-hf",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik CodeLlama 34b Instruct hf in de EU draaien?

Ja. HostYourAI draait CodeLlama 34b Instruct hf op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is CodeLlama 34b Instruct hf hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost CodeLlama 34b Instruct hf?

CodeLlama 34b Instruct hf heeft meerdere GPU's tegelijk nodig en draait daarom als dedicated deployment. Je betaalt dan per GPU-uur en niet per token. Vertel ons je volume, dan rekenen we het voor je door.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van Meta

Probeer CodeLlama 34b Instruct hf gratis

Account aanmaken duurt een minuut. Test CodeLlama 34b Instruct hf direct in de playground.

Start gratis