Specificaties
| Parameters | 71B |
|---|---|
| Minimale VRAM | 163 GB |
| Architectuur | LlamaForCausalLM (vLLM) |
| Licentie | llama3.3 |
| Modaliteit | text->text |
| Uitgebracht | November 2024 |
| Uitgever | meta-llama (Hugging Face) |
Prijzen
| Input (per 1M tokens) | € 0.40 |
|---|---|
| Output (per 1M tokens) | € 0.60 |
Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend — zie prijzen.
Direct aanroepen
Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.
curl https://hostyourai.com/api/v1/chat/completions \
-H "Authorization: Bearer hyai-..." \
-H "Content-Type: application/json" \
-d '{
"model": "meta-llama/Llama-3.3-70B-Instruct",
"messages": [{"role": "user", "content": "Hello!"}]
}'
Veelgestelde vragen
Kan ik Llama 3.3 70B Instruct in de EU draaien?
Ja. HostYourAI draait Llama 3.3 70B Instruct op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.
Is Llama 3.3 70B Instruct hosten AVG/GDPR-compliant?
Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.
Wat kost Llama 3.3 70B Instruct?
Via de gedeelde EU-router betaal je €0.40 per miljoen input-tokens en €0.60 per miljoen output-tokens, zonder vaste kosten. Voor hoge volumes of isolatie kun je Llama 3.3 70B Instruct ook als dedicated GPU-instance per uur draaien.
Is de API compatibel met OpenAI?
Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.
Account aanmaken duurt een minuut. Test Llama 3.3 70B Instruct direct in de playground.
Start gratis