Zum Inhalt
03 Model garden Serve

Llama 3.3 70B Instruct

Sofort über den EU-Router oder als dediziertes GPU-Deployment. Ihre Daten bleiben in Europa.

curl
$ curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.3-70B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

Serve Model garden bereit für vLLM
meta-llama/Llama-3.3-70B-Instruct

text->text · meta-llama · souverän in der EU

Läuft auf EU-Infrastruktur europäischer Unternehmen, von Ihrer Anfrage bis zur GPU. Die vollständige Kette ansehen

Llama 3.3 70B Instruct ist ein quelloffenes Sprachmodell von Meta mit 71B Parametern und einem Kontextfenster von 131K Tokens, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.

Router
Router · warm
Dedicated
Dedicated · verfügbar
Input (pro 1M Tokens)
€1.04
Output (pro 1M Tokens)
€1.04
71BParameter
131KKontextfenster
170GBMinimaler VRAM
POST /api/v1/chat/completions 200 OK

Spezifikationen

Parameter71B
Kontextfenster131,072 tokens
Minimaler VRAM170 GB
ArchitekturLlamaForCausalLM (vLLM)
Lizenzllama3.3
Modalitättext->text
VeröffentlichtNovember 2024
Anbietermeta-llama ↗

Preise

Gemeinsamer Router · pro Token

€1.04Input (pro 1M Tokens)
€1.04Output (pro 1M Tokens)

Dediziertes GPU · pro Stunde

ab €4,42 pro StundeEigene vLLM-Instanz in europäischer Cloud (170 GB VRAM), pro Minute abgerechnet.

Gemeinsamer EU-Router, Sie zahlen nur pro Token. Dedizierte GPU-Deployments werden pro Minute abgerechnet, siehe Preise.

✓ Funktionsfähig verifiziert am 26-07-2026, Antwort in 292 ms auf unserer EU-Infrastruktur.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

45,2 / 100 · Gemessen

Gemessen von Epoch AI über 10 Benchmarks, mit Bandbreite.

Bandbreite 41,4 bis 48,7 · Platz 171 von 257 bei Epoch AI

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 19-11-2026

Alle Benchmarks (10)
MMLU81,7
MATH level 541,6
Fiction.LiveBench33,3
DTBench32,5
GPQA diamond31,2
Balrog23,0
LMCA20,6
WeirdML14,4
OTIS Mock AIME 2024-20255,0
SimpleBench3,9
Fragen

Häufig gestellte Fragen

Kann ich Llama 3.3 70B Instruct in der EU betreiben?

Ja. HostYourAI betreibt Llama 3.3 70B Instruct auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Llama 3.3 70B Instruct DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Llama 3.3 70B Instruct?

Über den gemeinsamen EU-Router zahlen Sie €1.04 pro Million Input-Tokens und €1.04 pro Million Output-Tokens, ohne Fixkosten. Für hohe Volumen oder Isolation können Sie Llama 3.3 70B Instruct auch als dedizierte GPU-Instanz betreiben, pro Minute abgerechnet.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Die Plattform

Eine Plattform, vier Ebenen

Starten Sie mit einer Ebene und ergänzen Sie die anderen, wenn die Arbeit es verlangt. Alle teilen sich einen Key, ein Guthaben und eine Activity-Ansicht.

Code

Ihr Coding-Agent auf offenen Modellen in Europa, eingerichtet mit einem Befehl.

Öffnen

Control

Schlüssel, Budgets und Guardrails pro Team, und personenbezogene Daten gestoppt, bevor ein Modell sie sieht.

Öffnen

Serve

Gemeinsam genutzt pro Token oder nur für Sie, aus europäischen Rechenzentren.

Öffnen

EU compute

Private GPUs in Europa, von H100 bis B300, ausgelegt auf Antwortzeit, Generierungsgeschwindigkeit und gleichzeitige Nutzer.

Öffnen

Testen Sie Llama 3.3 70B Instruct kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Llama 3.3 70B Instruct direkt im Playground.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
Das Team hinter HostYourAI