Model garden Router · auf Anfrage Dedicated · verfügbar

Qwen2.5 72B Instruct AWQ

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

Qwen2.5 is the latest series of Qwen large language models. For Qwen2.5, we release a number of base language models and instruction-tuned language models ranging from 0.5 to 72 billion parameters. Qwen2.5 brings the following improvements upon Qwen2:

Qwen/Qwen2.5-72B-Instruct-AWQ vLLM ready
text->text · qwen · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
72B
Parameter
33K
Kontextfenster
345GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 72B
Kontextfenster 32,768 tokens
Minimaler VRAM 345 GB
Architektur Qwen2ForCausalLM (vLLM)
Lizenz open-weights
Modalität text->text
Veröffentlicht September 2024
Anbieter qwen ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €11,88 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (345 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

✓ Funktionsfähig verifiziert am 06-07-2026, Antwort in 2185 ms auf unserer EU-Infrastruktur.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

58,0 / 100 · Über LiveBench

Aus dem LiveBench-Ergebnis auf dieselbe Skala umgerechnet.

Bandbreite 51,7 bis 64,3

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 05-10-2026

LiveBench · 52,9
Reasoning 46,0
Coding 56,6
Mathematik 52,4
Datenanalyse 48,8
Sprache 38,1
Anweisungen befolgen 75,5
LiveBench · Alle Aufgaben
Reasoning
web of lies v2 60,0
zebra puzzle 34,0
spatial 44,0
Coding
LCB generation 55,1
coding completion 58,0
Mathematik
AMPS Hard 63,0
math comp 52,1
olympiad 42,0
Datenanalyse
cta 52,0
tablejoin 36,4
tablereformat 58,0
Sprache
connections 36,5
plot unscrambling 35,9
typos 42,0
Anweisungen befolgen
paraphrase 71,9
simplify 72,6
story generation 83,9
summarize 73,6

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Qwen/Qwen2.5-72B-Instruct-AWQ",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Qwen2.5 72B Instruct AWQ in der EU betreiben?

Ja. HostYourAI betreibt Qwen2.5 72B Instruct AWQ auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Qwen2.5 72B Instruct AWQ DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Qwen2.5 72B Instruct AWQ?

Qwen2.5 72B Instruct AWQ braucht mehrere GPUs gleichzeitig und läuft deshalb als dediziertes Deployment, das nach GPU-Stunden abgerechnet wird, nicht pro Token. Nennen Sie uns Ihr Volumen, dann rechnen wir es für Sie durch.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Qwen

Qwen Image 2.1 PE T2I

We are excited to open-source Qwen-Image-2.1, a unified text-to-image generation and image editing model in the Qwen family. With just 7B parameters in its visual generation component (32 Single-Stream DiT layers), Qwen-Image-2.1 balances generation quality, inference efficiency, and versatility.

9.4B 262K Kontext Modell ansehen →
Qwen Image 2.1

We are excited to open-source Qwen-Image-2.1, a unified text-to-image generation and image editing model in the Qwen family. With just 7B parameters in its visual generation component (32 Single-Stream DiT layers), Qwen-Image-2.1 balances generation quality, inference efficiency, and versatility.

7.1B Modell ansehen →
Qwen3.8 Flash Next

[!Note] This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc.

180B 262K Kontext Modell ansehen →
Qwen3.8 27B

[!Note] This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc.

28B 262K Kontext Modell ansehen →
Qwen3 ASR 0.6B hf

The Qwen3-ASR family includes Qwen3-ASR-1.7B and Qwen3-ASR-0.6B, which support language identification and ASR for 52 languages and dialects. Both leverage large-scale speech training data and the strong audio understanding capability of their foundation model, Qwen3-Omni. The 1.7B version achieves state-of-the-art performance among open-source ASR models and is competitive with the strongest proprietary commercial APIs.

0.8B 66K Kontext Modell ansehen →
Qwen3 ASR 1.7B hf

The Qwen3-ASR family includes Qwen3-ASR-1.7B and Qwen3-ASR-0.6B, which support language identification and ASR for 52 languages and dialects. Both leverage large-scale speech training data and the strong audio understanding capability of their foundation model, Qwen3-Omni. The 1.7B version achieves state-of-the-art performance among open-source ASR models and is competitive with the strongest proprietary commercial APIs.

2B 66K Kontext Modell ansehen →

Testen Sie Qwen2.5 72B Instruct AWQ kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Qwen2.5 72B Instruct AWQ direkt im Playground.

Kostenlos starten