HostYourAI
Product
EU RouterHostYourAI CodeOpenAI-compatible APIAnthropic-compatible APIModel GardenDedicated InstancesPlaygroundFine-tuning (Loes)Connect je GPU-pool
Oplossingen
Use cases
HostYourAI CodeLLM InferenceRAG pipelinesChatbotsAI agentsFine-tuning
Sectoren
OverheidZorgFinanceJuridisch
Modellen
DeepSeek V4 ProDeepSeek V4 FlashGLM 5.2Llama 3.1 405BQwen3.5 397BLlama 3.3 70BMistralDeepSeek R1Alle modellen →
Vergelijk
Azure OpenAIAWS BedrockClaude APIChatGPTOpenAI
Resources
DocumentatieGids: migreren naar de EU RouterGids: eigen LLM deployen (vLLM)Gids: RAG bouwen op EU-GPUsModelcatalogus
Prijzen
NL EN DE
Inloggen Demo plannen Aan de slag
Model garden Router · op aanvraag Dedicated · op aanvraag

Qwen2.5 Coder 32B Instruct AWQ

Dit model draait als dedicated deployment op grote GPU's en staat niet standaard in de gedeelde playground. Neem contact op, dan zetten we het voor je klaar.

Qwen2.5-Coder is the latest series of Code-Specific Qwen large language models (formerly known as CodeQwen). As of now, Qwen2.5-Coder has covered six mainstream model sizes, 0.5, 1.5, 3, 7, 14, 32 billion parameters, to meet the needs of different developers. Qwen2.5-Coder brings...

Vraag toegang aan ← Alle modellen
Qwen/Qwen2.5-Coder-32B-Instruct-AWQ vLLM ready
text->text · Qwen · EU-hosted
33B
Parameters
33K
Contextvenster
160GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 33B
Contextvenster 32,768 tokens
Minimale VRAM 160 GB
Architectuur Qwen2ForCausalLM (vLLM)
Licentie apache-2.0
Modaliteit text->text
Uitgebracht November 2024
Uitgever Qwen ↗

Prijzen

Gedeelde router · per token
Op aanvraag
Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.
Toch per token via de gedeelde router? Dit model draait altijd warm als Qwen2.5 Coder 32B Instruct.
Dedicated GPU · per uur
Op aanvraag
Dedicated deployment, vanaf 160 GB VRAM. Afgerekend per GPU-uur.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

✓ Werkend geverifieerd op 16-07-2026, respons in 58575 ms op onze EU-infrastructuur.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Qwen/Qwen2.5-Coder-32B-Instruct-AWQ",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik Qwen2.5 Coder 32B Instruct AWQ in de EU draaien?

Ja. HostYourAI draait Qwen2.5 Coder 32B Instruct AWQ op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Qwen2.5 Coder 32B Instruct AWQ hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Qwen2.5 Coder 32B Instruct AWQ?

Qwen2.5 Coder 32B Instruct AWQ heeft meerdere GPU's tegelijk nodig en draait daarom als dedicated deployment. Je betaalt dan per GPU-uur en niet per token. Vertel ons je volume, dan rekenen we het voor je door.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van Qwen

Qwen3.6 27B FP8

[!Note] This repository contains FP8-quantized model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, KTransformers, etc. The quantization method is fine-grained fp8 quantization with block size of 128, and its performance metrics are nearly identical to those of the original model.

28B 262K context Bekijk model →
Qwen3.6 27B

[!Note] This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, KTransformers, etc.

28B 262K context Bekijk model →
Qwen3.6 35B A3B FP8

[!Note] This repository contains FP8-quantized model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, KTransformers, etc. The quantization method is fine-grained fp8 quantization with block size of 128, and its performance metrics are nearly identical to those of the original model.

36B 262K context Bekijk model →
Qwen3.6 35B A3B

[!Note] This repository contains model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, KTransformers, etc.

36B 262K context Bekijk model →
Qwen3.5 35B A3B GPTQ Int4

[!Note] This repository contains int4-quantized model weights and configuration files for the post-trained model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, KTransformers, etc.

36B 262K context Bekijk model →
Qwen3.5 0.8B Base

[!Note] This repository contains model weights and configuration files for the pre-trained only model in the Hugging Face Transformers format. These artifacts are compatible with Hugging Face Transformers, vLLM, SGLang, etc. The intended use cases are fine-tuning, in-context learning experiments, and other research or development purposes, not direct interaction. However, the control tokens, e.g., <|imstart| and <|imend| were trained to allow efficient LoRA-style PEFT with the official chat template, mitigating the need to finetune embeddings, a significant optimization given Qwen3.5's larger

0.9B 262K context Bekijk model →

Vraag toegang aan

Qwen2.5 Coder 32B Instruct AWQ is nog niet standaard beschikbaar. Laat je gegevens achter, dan regelen we een dedicated deployment.

Vraag toegang aan