Model garden Router · auf Anfrage Dedicated · verfügbar

Llama 3.1 405B Instruct

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

Llama 3.1 405B Instruct ist ein quelloffenes Sprachmodell von Meta mit 405B Parametern, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.

meta-llama/Llama-3.1-405B-Instruct Auf Anfrage
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
405B
Parameter
—
Kontextfenster
975GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 405B
Minimaler VRAM 975 GB
Architektur LlamaForCausalLM (vLLM)
Lizenz open-weights
Modalität text->text
Veröffentlicht July 2024
Anbieter meta-llama ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €54,00 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (975 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

48,4 / 100 · Gemessen

Gemessen von Epoch AI über 15 Benchmarks, mit Bandbreite.

Bandbreite 42,3 bis 50,9 · Platz 167 von 274 bei Epoch AI

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 06-10-2026

LiveBench · 47,5
Reasoning 40,6
Coding 28,8
Mathematik 40,5
Datenanalyse 55,9
Sprache 43,6
Anweisungen befolgen 75,9
Alle Benchmarks (15)
ARC AI2 93,7
HellaSwag 85,6
TriviaQA 82,7
MMLU 79,3
Winogrande 78,4
BBH 77,2
PIQA 71,8
MATH level 5 49,8
DTBench 35,6
GPQA diamond 34,6
WeirdML 21,4
OTIS Mock AIME 2024-2025 9,6
SimpleBench 7,6
Cybench 7,5
The Agent Company 7,4
LiveBench · Alle Aufgaben
Reasoning
web of lies v3 42,0
zebra puzzle 33,8
spatial 46,0
Coding
LCB generation 33,3
coding completion 24,3
Mathematik
AMPS Hard 49,0
math comp 40,9
olympiad 31,6
Datenanalyse
cta 60,0
tablejoin 37,5
tablereformat 70,0
Sprache
connections 31,0
plot unscrambling 41,8
typos 58,0
Anweisungen befolgen
paraphrase 76,8
simplify 82,3
story generation 74,2
summarize 70,3

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-405B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Llama 3.1 405B Instruct in der EU betreiben?

Ja. HostYourAI betreibt Llama 3.1 405B Instruct auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Llama 3.1 405B Instruct DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Llama 3.1 405B Instruct?

Llama 3.1 405B Instruct ist auf Anfrage verfügbar: über den gemeinsamen EU-Router nach kurzer Abstimmung oder als dediziertes GPU-Deployment, das pro Stunde abgerechnet wird. Nennen Sie uns Ihren Anwendungsfall, dann richten wir es für Sie ein.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Meta

Testen Sie Llama 3.1 405B Instruct kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Llama 3.1 405B Instruct direkt im Playground.

Kostenlos starten