This repository contains an FP8 quantized version of the Qwen3-VL-8B-Instruct model. The quantization method is fine-grained fp8 quantization with block size of 128, and its performance metrics are nearly identical to those of the original BF16 model. Enjoy!

Commencer gratuitement ← Tous les modèles

Qwen/Qwen3-VL-8B-Instruct-FP8 vLLM ready

text+image->text · Qwen · sovereign EU

Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain

8.8B

Paramètres

262K

Fenêtre de contexte

16GB

VRAM minimale

POST /api/v1/chat/completions Sur demande

Caractéristiques

Paramètres 8.8B

Fenêtre de contexte 262,144 tokens

VRAM minimale 16 GB

Architecture Qwen3VLForConditionalGeneration (vLLM)

Licence apache-2.0

Modalité text+image->text

Date de sortie October 2025

Éditeur Qwen ↗

Tarifs

Router partagé · par token

Sur demande

Non disponible sur le Router partagé. Tarif sur demande en déploiement GPU dédié.

GPU dédié · par heure

à partir de 2,03 € par heure

Votre propre instance vLLM sur un cloud européen (16 Go de VRAM), facturée à l'heure.

Router européen partagé, paiement au token, scale-to-zero. Les déploiements GPU dédiés sont facturés à l'heure, voir tarifs.

✓ Fonctionnement vérifié le 27-07-2026, réponse en 1108 ms sur notre infrastructure européenne.

Indice Bench

Bench est notre indice de qualité pour chaque modèle, de 0 à 100. Il s'appuie sur des mesures publiques (Epoch AI avec une quarantaine de benchmarks, LiveBench, LMArena et d'autres) et est actualisé chaque matin. Là où personne ne mesure, il affiche une estimation avec une fourchette.

~41,0 / 100 · Estimation

Pas encore de benchmark public : estimé d'après la taille et la date de sortie.

Fourchette de 29,6 à 52,4

Sources: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Mis à jour chaque jour, dernière fois le 19-10-2026

Appelez-le dès maintenant

Remplacement direct d'OpenAI : changez uniquement l'URL de base et la clé API. Le format Anthropic (/v1/messages) est également pris en charge.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Qwen/Qwen3-VL-8B-Instruct-FP8",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Questions fréquentes

Puis-je exécuter Qwen3 VL 8B Instruct FP8 dans l'UE ?

Oui. HostYourAI exécute Qwen3 VL 8B Instruct FP8 sur des GPU situés dans des centres de données européens via vLLM. Les prompts et les réponses ne quittent jamais l'UE, et aucun fournisseur de cloud américain n'intervient dans la chaîne.

L'hébergement de Qwen3 VL 8B Instruct FP8 est-il conforme au RGPD ?

Oui. Tout le traitement a lieu au sein de l'UE, un accord de traitement des données (DPA) est disponible et la liste des sous-traitants est publique. Des poids open source signifient aussi : aucun entraînement sur vos données.

Combien coûte Qwen3 VL 8B Instruct FP8 ?

Qwen3 VL 8B Instruct FP8 est disponible sur demande : via le Router européen partagé après un bref échange, ou en déploiement GPU dédié facturé à l'heure. Décrivez-nous votre cas d'usage et nous le configurerons pour vous.

L'API est-elle compatible avec OpenAI ?

Oui. Vous utilisez les SDK OpenAI standard avec une URL de base personnalisée (https://hostyourai.com/api/v1). L'API Anthropic Messages est également prise en charge en remplacement direct.

Autres modèles de Qwen

Qwen Image 2.1 Turbo

Qwen-Image-2.1-Turbo is an accelerated checkpoint of Qwen-Image-2.1 for text-to-image generation and image editing with 8 denoising steps. It uses the same 7B visual generation architecture and loads directly with QwenImage21Pipeline in Diffusers.

7.1B Voir le modèle →

Qwen Image 2.1 PE T2I

We are excited to open-source Qwen-Image-2.1, a unified text-to-image generation and image editing model in the Qwen family. With just 7B parameters in its visual generation component (32 Single-Stream DiT layers), Qwen-Image-2.1 balances generation quality, inference efficiency, and versatility.

9.4B 262K contexte Voir le modèle →

Qwen Image 2.1

7.1B Voir le modèle →

Qwen3.8 Flash Next

[!Note] This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, TokenSpeed, etc.

180B 262K contexte Voir le modèle →

Qwen3.8 27B

28B 262K contexte Voir le modèle →

Qwen3 ASR 0.6B hf

The Qwen3-ASR family includes Qwen3-ASR-1.7B and Qwen3-ASR-0.6B, which support language identification and ASR for 52 languages and dialects. Both leverage large-scale speech training data and the strong audio understanding capability of their foundation model, Qwen3-Omni. The 1.7B version achieves state-of-the-art performance among open-source ASR models and is competitive with the strongest proprietary commercial APIs.

0.8B 66K contexte Voir le modèle →

Essayez Qwen3 VL 8B Instruct FP8 gratuitement

La création d'un compte prend une minute. Testez Qwen3 VL 8B Instruct FP8 tout de suite dans le Playground.

Commencer gratuitement