Model garden Router · warm Dedicated · verfügbar

Llama 3.1 8B Instruct

Sofort über den EU-Router oder als dediziertes GPU-Deployment. Ihre Daten bleiben in Europa.

Llama 3.1 8B Instruct ist ein quelloffenes Sprachmodell von Meta mit 8B Parametern und einem Kontextfenster von 66K Tokens, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.

meta-llama/Llama-3.1-8B-Instruct vLLM ready
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
8B
Parameter
66K
Kontextfenster
24GB
Minimaler VRAM
POST /api/v1/chat/completions 200 OK

Spezifikationen

Parameter 8B
Kontextfenster 65,536 tokens
Minimaler VRAM 24 GB
Architektur LlamaForCausalLM (vLLM)
Lizenz llama3.1
Modalität text->text
Veröffentlicht July 2024
Anbieter meta-llama ↗

Preise

Gemeinsamer Router · pro Token
€0.17
Input (pro 1M Tokens)
€0.17
Output (pro 1M Tokens)
Dediziertes GPU · pro Stunde
ab €0,77 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (24 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

✓ Funktionsfähig verifiziert am 28-07-2026, Antwort in 200 ms auf unserer EU-Infrastruktur.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

33,2 / 100 · Gemessen

Gemessen von Epoch AI über 11 Benchmarks, mit Bandbreite.

Bandbreite 20,3 bis 39,5 · Platz 208 von 270 bei Epoch AI

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 05-10-2026

LiveBench · 25,0
Reasoning 14,8
Coding 11,1
Mathematik 15,1
Datenanalyse 32,8
Sprache 21,1
Anweisungen befolgen 54,9
Alle Benchmarks (11)
GSM8K 82,4
PIQA 62,4
MMLU 41,5
MATH level 5 22,9
DTBench 18,2
Balrog 15,1
LMCA 6,3
GPQA diamond 2,6
WeirdML 1,7
OTIS Mock AIME 2024-2025 1,6
Chess Puzzles 0,0
LiveBench · Alle Aufgaben
Reasoning
web of lies v3 16,3
zebra puzzle 10,0
spatial 18,0
Coding
LCB generation 10,7
coding completion 11,4
Mathematik
AMPS Hard 21,0
math comp 9,9
olympiad 14,4
Datenanalyse
cta 42,0
tablejoin 4,5
tablereformat 52,0
Sprache
connections 4,5
plot unscrambling 12,8
typos 46,0
Anweisungen befolgen
paraphrase 57,1
simplify 61,4
story generation 51,1
summarize 50,1

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-8B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Llama 3.1 8B Instruct in der EU betreiben?

Ja. HostYourAI betreibt Llama 3.1 8B Instruct auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Llama 3.1 8B Instruct DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Llama 3.1 8B Instruct?

Über den gemeinsamen EU-Router zahlen Sie €0.17 pro Million Input-Tokens und €0.17 pro Million Output-Tokens, ohne Fixkosten. Für hohe Volumen oder Isolation können Sie Llama 3.1 8B Instruct auch als dedizierte GPU-Instanz stundenweise betreiben.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Meta

Testen Sie Llama 3.1 8B Instruct kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Llama 3.1 8B Instruct direkt im Playground.

Kostenlos starten