Llama 2 70b hf
Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.
$ curl https://hostyourai.com/api/v1/chat/completions \
-H "Authorization: Bearer hyai-..." \
-H "Content-Type: application/json" \
-d '{
"model": "meta-llama/Llama-2-70b-hf",
"messages": [{"role": "user", "content": "Hello!"}]
}'
Direkt aufrufen
Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.
text->text · meta-llama · souverän in der EU
Läuft auf EU-Infrastruktur europäischer Unternehmen, von Ihrer Anfrage bis zur GPU. Die vollständige Kette ansehen
Llama 2 70b hf ist ein quelloffenes Sprachmodell von Meta mit 69B Parametern, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.
- Router
- Router · auf Anfrage
- Dedicated
- Dedicated · verfügbar
Spezifikationen
| Parameter | 69B |
|---|---|
| Minimaler VRAM | 166 GB |
| Architektur | LlamaForCausalLM (vLLM) |
| Lizenz | llama2 |
| Modalität | text->text |
| Veröffentlicht | July 2023 |
| Anbieter | meta-llama ↗ |
Preise
Gemeinsamer Router · pro Token
Dediziertes GPU · pro Stunde
Gemeinsamer EU-Router, Sie zahlen nur pro Token. Dedizierte GPU-Deployments werden pro Minute abgerechnet, siehe Preise.
Bench-Index
Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.
Gemessen von Epoch AI über 14 Benchmarks, mit Bandbreite.
Bandbreite 12,0 bis 26,1 · Platz 210 von 257 bei Epoch AI
Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 19-11-2026
Alle Benchmarks (14)
| TriviaQA | 87,6 |
|---|---|
| HellaSwag | 80,4 |
| LAMBADA | 78,9 |
| ARC AI2 | 71,1 |
| GSM8K | 69,6 |
| PIQA | 65,6 |
| Winogrande | 60,4 |
| MMLU | 59,9 |
| BBH | 53,2 |
| OpenBookQA | 46,9 |
| MATH level 5 | 3,3 |
| DTBench | 2,7 |
| GPQA diamond | 1,8 |
| OTIS Mock AIME 2024-2025 | 0,0 |
Häufig gestellte Fragen
Kann ich Llama 2 70b hf in der EU betreiben?
Ja. HostYourAI betreibt Llama 2 70b hf auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.
Ist das Hosting von Llama 2 70b hf DSGVO-konform?
Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.
Was kostet Llama 2 70b hf?
Llama 2 70b hf braucht mehrere GPUs gleichzeitig und läuft deshalb als dediziertes Deployment, das pro GPU-Minute abgerechnet wird, nicht pro Token. Nennen Sie uns Ihr Volumen, dann rechnen wir es für Sie durch.
Ist die API OpenAI-kompatibel?
Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.
Weitere Modelle von Meta
Eine Plattform, vier Ebenen
Starten Sie mit einer Ebene und ergänzen Sie die anderen, wenn die Arbeit es verlangt. Alle teilen sich einen Key, ein Guthaben und eine Activity-Ansicht.
Testen Sie Llama 2 70b hf kostenlos
Die Kontoerstellung dauert eine Minute. Testen Sie Llama 2 70b hf direkt im Playground.







