Qwen2.5 32B Instruct GPTQ Int4
Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.
$ curl https://hostyourai.com/api/v1/chat/completions \
-H "Authorization: Bearer hyai-..." \
-H "Content-Type: application/json" \
-d '{
"model": "Qwen/Qwen2.5-32B-Instruct-GPTQ-Int4",
"messages": [{"role": "user", "content": "Hello!"}]
}'
Direkt aufrufen
Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.
text->text · Qwen · souverän in der EU
Läuft auf EU-Infrastruktur europäischer Unternehmen, von Ihrer Anfrage bis zur GPU. Die vollständige Kette ansehen
Qwen2.5 is the latest series of Qwen large language models. For Qwen2.5, we release a number of base language models and instruction-tuned language models ranging from 0.5 to 72 billion parameters. Qwen2.5 brings the following improvements upon Qwen2:
- Router
- Router · auf Anfrage
- Dedicated
- Dedicated · verfügbar
Spezifikationen
| Parameter | 33B |
|---|---|
| Kontextfenster | 32,768 tokens |
| Minimaler VRAM | 24 GB |
| Architektur | Qwen2ForCausalLM (vLLM) |
| Lizenz | apache-2.0 |
| Modalität | text->text |
| Veröffentlicht | September 2024 |
| Anbieter | Qwen ↗ |
Preise
Gemeinsamer Router · pro Token
Dediziertes GPU · pro Stunde
Gemeinsamer EU-Router, Sie zahlen nur pro Token. Dedizierte GPU-Deployments werden pro Minute abgerechnet, siehe Preise.
Häufig gestellte Fragen
Kann ich Qwen2.5 32B Instruct GPTQ Int4 in der EU betreiben?
Ja. HostYourAI betreibt Qwen2.5 32B Instruct GPTQ Int4 auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.
Ist das Hosting von Qwen2.5 32B Instruct GPTQ Int4 DSGVO-konform?
Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.
Was kostet Qwen2.5 32B Instruct GPTQ Int4?
Qwen2.5 32B Instruct GPTQ Int4 ist auf Anfrage verfügbar: über den gemeinsamen EU-Router nach kurzer Abstimmung oder als dediziertes GPU-Deployment, das pro Minute abgerechnet wird. Nennen Sie uns Ihren Anwendungsfall, dann richten wir es für Sie ein.
Ist die API OpenAI-kompatibel?
Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.
Weitere Modelle von Qwen
Eine Plattform, vier Ebenen
Starten Sie mit einer Ebene und ergänzen Sie die anderen, wenn die Arbeit es verlangt. Alle teilen sich einen Key, ein Guthaben und eine Activity-Ansicht.
Testen Sie Qwen2.5 32B Instruct GPTQ Int4 kostenlos
Die Kontoerstellung dauert eine Minute. Testen Sie Qwen2.5 32B Instruct GPTQ Int4 direkt im Playground.
