Model garden Router · auf Anfrage Dedicated · verfügbar

Llama 2 7b chat hf

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

Llama 2 7b chat hf ist ein quelloffenes Sprachmodell von Meta mit 6.7B Parametern, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.

meta-llama/Llama-2-7b-chat-hf Auf Anfrage
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
6.7B
Parameter
—
Kontextfenster
24GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 6.7B
Minimaler VRAM 24 GB
Architektur LlamaForCausalLM (vLLM)
Lizenz llama2
Modalität text->text
Veröffentlicht July 2023
Anbieter meta-llama ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €0,77 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (24 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

24,2 / 100 · Über LiveBench

Aus dem LiveBench-Ergebnis auf dieselbe Skala umgerechnet.

Bandbreite 17,8 bis 30,5

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 05-10-2026

LiveBench · 11,6
Reasoning 12,0
Coding 1,3
Mathematik 4,8
Datenanalyse 0,0
Sprache 6,9
Anweisungen befolgen 44,9
LiveBench · Alle Aufgaben
Reasoning
web of lies v2 0,0
zebra puzzle 10,0
spatial 26,0
Coding
LCB generation 2,6
coding completion 0,0
Mathematik
AMPS Hard 0,0
math comp 0,0
olympiad 14,4
Datenanalyse
cta 0,0
tablejoin 0,0
tablereformat 0,0
Sprache
connections 0,0
plot unscrambling 10,6
typos 10,0
Anweisungen befolgen
paraphrase 55,1
simplify 40,3
story generation 46,1
summarize 38,1

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-2-7b-chat-hf",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Llama 2 7b chat hf in der EU betreiben?

Ja. HostYourAI betreibt Llama 2 7b chat hf auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Llama 2 7b chat hf DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Llama 2 7b chat hf?

Llama 2 7b chat hf ist auf Anfrage verfügbar: über den gemeinsamen EU-Router nach kurzer Abstimmung oder als dediziertes GPU-Deployment, das pro Stunde abgerechnet wird. Nennen Sie uns Ihren Anwendungsfall, dann richten wir es für Sie ein.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Meta

Testen Sie Llama 2 7b chat hf kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Llama 2 7b chat hf direkt im Playground.

Kostenlos starten