03 Model garden Serve

Qwen2.5 32B Instruct GPTQ Int4

Name: Qwen2.5 32B Instruct GPTQ Int4 hosting (EU)
Brand: HostYourAI
Availability: LimitedAvailability

curl

$ curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "Qwen/Qwen2.5-32B-Instruct-GPTQ-Int4",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

Serve Model garden Op aanvraag

Qwen/Qwen2.5-32B-Instruct-GPTQ-Int4

text->text · Qwen · soeverein in de EU

Draait op EU-infrastructuur van Europese bedrijven, van je verzoek tot aan de GPU. Bekijk de volledige keten

Qwen2.5 is the latest series of Qwen large language models. For Qwen2.5, we release a number of base language models and instruction-tuned language models ranging from 0.5 to 72 billion parameters. Qwen2.5 brings the following improvements upon Qwen2:

Router: Router · op aanvraag
Dedicated: Dedicated · beschikbaar

33BParameters

33KContextvenster

24GBMinimale VRAM

POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters	33B
Contextvenster	32,768 tokens
Minimale VRAM	24 GB
Architectuur	Qwen2ForCausalLM (vLLM)
Licentie	apache-2.0
Modaliteit	text->text
Uitgebracht	September 2024
Uitgever	Qwen ↗

Prijzen

Gedeelde router · per token

Op aanvraag Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.

Dedicated GPU · per uur

vanaf €2,03 per uurEigen vLLM-instance op Europese cloud (24 GB VRAM), per minuut afgerekend.

Gedeelde EU-router, je betaalt alleen per token. Dedicated GPU-deployments worden per minuut afgerekend, zie prijzen.

Vragen

Veelgestelde vragen

Kan ik Qwen2.5 32B Instruct GPTQ Int4 in de EU draaien?

Ja. HostYourAI draait Qwen2.5 32B Instruct GPTQ Int4 op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Qwen2.5 32B Instruct GPTQ Int4 hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Qwen2.5 32B Instruct GPTQ Int4?

Qwen2.5 32B Instruct GPTQ Int4 is beschikbaar op aanvraag: via de gedeelde EU-router na kort overleg, of als eigen dedicated GPU-deployment, per minuut afgerekend. Vertel ons je use case, dan zetten we het voor je klaar.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.