HostYourAI
Product
EU RouterEntscheidungsmodelle wie JevHostYourAI CodeOpenAI-compatible APIAnthropic-compatible APIModel GardenDedicated InstancesPlaygroundFine-tuning (Loes)Mit deiner GPU verdienen
Lösungen
Anwendungsfälle
HostYourAI CodeLLM InferenceRAG pipelinesChatbotsAI agentsFine-tuning
Branchen
BehördenGesundheitswesenFinanzenRecht
Modelle
Kimi K3DeepSeek V4 ProDeepSeek V4 FlashGLM 5.3Kimi K2.7 CodeQwen3.5 397BLlama 3.3 70BMistralMiniMax M3Alle Modelle →
Vergleichen
Azure OpenAIAWS BedrockClaude APIChatGPTOpenAIKosten vergleichen
Ressourcen
DokumentationSparcheckLeitfaden: Migration zum EU-RouterLeitfaden: eigenes LLM deployen (vLLM)Leitfaden: RAG auf EU-GPUs aufbauenModellkatalogNeuigkeitenSicherheitFAQ
Preise Neuigkeiten
NL EN DE
Anmelden Demo buchen Jetzt starten
Model garden Router · auf Anfrage Dedicated · verfügbar

Qwen3 VL 8B Instruct FP8

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

This repository contains an FP8 quantized version of the Qwen3-VL-8B-Instruct model. The quantization method is fine-grained fp8 quantization with block size of 128, and its performance metrics are nearly identical to those of the original BF16 model. Enjoy!

Kostenlos starten ← Alle Modelle
Qwen/Qwen3-VL-8B-Instruct-FP8 vLLM ready
text+image->text · Qwen · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
8.8B
Parameter
262K
Kontextfenster
16GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 8.8B
Kontextfenster 262,144 tokens
Minimaler VRAM 16 GB
Architektur Qwen3VLForConditionalGeneration (vLLM)
Lizenz apache-2.0
Modalität text+image->text
Veröffentlicht October 2025
Anbieter Qwen ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €0,77 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (16 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

✓ Funktionsfähig verifiziert am 27-07-2026, Antwort in 1108 ms auf unserer EU-Infrastruktur.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

~40,9 / 100 · Schätzung

Noch kein öffentlicher Benchmark: geschätzt aus Größe und Veröffentlichungsdatum.

Bandbreite 29,5 bis 52,3

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 05-10-2026

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Qwen/Qwen3-VL-8B-Instruct-FP8",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Qwen3 VL 8B Instruct FP8 in der EU betreiben?

Ja. HostYourAI betreibt Qwen3 VL 8B Instruct FP8 auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Qwen3 VL 8B Instruct FP8 DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Qwen3 VL 8B Instruct FP8?

Qwen3 VL 8B Instruct FP8 ist auf Anfrage verfügbar: über den gemeinsamen EU-Router nach kurzer Abstimmung oder als dediziertes GPU-Deployment, das pro Stunde abgerechnet wird. Nennen Sie uns Ihren Anwendungsfall, dann richten wir es für Sie ein.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Qwen

Qwen Image 2.1 PE T2I

We are excited to open-source Qwen-Image-2.1, a unified text-to-image generation and image editing model in the Qwen family. With just 7B parameters in its visual generation component (32 Single-Stream DiT layers), Qwen-Image-2.1 balances generation quality, inference efficiency, and versatility.

9.4B 262K Kontext Modell ansehen →
Qwen Image 2.1

We are excited to open-source Qwen-Image-2.1, a unified text-to-image generation and image editing model in the Qwen family. With just 7B parameters in its visual generation component (32 Single-Stream DiT layers), Qwen-Image-2.1 balances generation quality, inference efficiency, and versatility.

7.1B Modell ansehen →
Qwen3.8 Flash Next

[!Note] This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc.

180B 262K Kontext Modell ansehen →
Qwen3.8 27B

[!Note] This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc.

28B 262K Kontext Modell ansehen →
Qwen3 ASR 0.6B hf

The Qwen3-ASR family includes Qwen3-ASR-1.7B and Qwen3-ASR-0.6B, which support language identification and ASR for 52 languages and dialects. Both leverage large-scale speech training data and the strong audio understanding capability of their foundation model, Qwen3-Omni. The 1.7B version achieves state-of-the-art performance among open-source ASR models and is competitive with the strongest proprietary commercial APIs.

0.8B 66K Kontext Modell ansehen →
Qwen3 ASR 1.7B hf

The Qwen3-ASR family includes Qwen3-ASR-1.7B and Qwen3-ASR-0.6B, which support language identification and ASR for 52 languages and dialects. Both leverage large-scale speech training data and the strong audio understanding capability of their foundation model, Qwen3-Omni. The 1.7B version achieves state-of-the-art performance among open-source ASR models and is competitive with the strongest proprietary commercial APIs.

2B 66K Kontext Modell ansehen →

Testen Sie Qwen3 VL 8B Instruct FP8 kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Qwen3 VL 8B Instruct FP8 direkt im Playground.

Kostenlos starten