Model garden Router · warm Dedicated · verfügbar

Llama 3.3 70B Instruct

Sofort über den EU-Router oder als dediziertes GPU-Deployment. Ihre Daten bleiben in Europa.

Llama 3.3 70B Instruct ist ein quelloffenes Sprachmodell von Meta mit 71B Parametern und einem Kontextfenster von 131K Tokens, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.

meta-llama/Llama-3.3-70B-Instruct vLLM ready
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
71B
Parameter
131K
Kontextfenster
170GB
Minimaler VRAM
POST /api/v1/chat/completions 200 OK

Spezifikationen

Parameter 71B
Kontextfenster 131,072 tokens
Kontext bei jeder Quelle 128,000 tokens · Längere Anfragen leitet der Router an eine Quelle, in die sie passen.
Minimaler VRAM 170 GB
Architektur LlamaForCausalLM (vLLM)
Lizenz llama3.3
Modalität text->text
Veröffentlicht November 2024
Anbieter meta-llama ↗

Preise

Gemeinsamer Router · pro Token
€1.04
Input (pro 1M Tokens)
€1.04
Output (pro 1M Tokens)
Dediziertes GPU · pro Stunde
ab €5,07 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (170 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

✓ Funktionsfähig verifiziert am 26-07-2026, Antwort in 292 ms auf unserer EU-Infrastruktur.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

46,7 / 100 · Gemessen

Gemessen von Epoch AI über 10 Benchmarks, mit Bandbreite.

Bandbreite 40,7 bis 49,4 · Platz 168 von 270 bei Epoch AI

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 05-10-2026

Alle Benchmarks (10)
MMLU 81,7
MATH level 5 41,6
Fiction.LiveBench 33,3
DTBench 32,5
GPQA diamond 29,9
Balrog 23,0
LMCA 20,6
WeirdML 14,4
OTIS Mock AIME 2024-2025 5,0
SimpleBench 3,9

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.3-70B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Llama 3.3 70B Instruct in der EU betreiben?

Ja. HostYourAI betreibt Llama 3.3 70B Instruct auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Llama 3.3 70B Instruct DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Llama 3.3 70B Instruct?

Über den gemeinsamen EU-Router zahlen Sie €1.04 pro Million Input-Tokens und €1.04 pro Million Output-Tokens, ohne Fixkosten. Für hohe Volumen oder Isolation können Sie Llama 3.3 70B Instruct auch als dedizierte GPU-Instanz stundenweise betreiben.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Meta

Testen Sie Llama 3.3 70B Instruct kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Llama 3.3 70B Instruct direkt im Playground.

Kostenlos starten