Qwen2.5 32B Instruct GPTQ Int4
Fonctionne comme votre propre déploiement GPU dédié, à lancer directement depuis l'assistant. Les données restent en Europe.
$ curl https://hostyourai.com/api/v1/chat/completions \
-H "Authorization: Bearer hyai-..." \
-H "Content-Type: application/json" \
-d '{
"model": "Qwen/Qwen2.5-32B-Instruct-GPTQ-Int4",
"messages": [{"role": "user", "content": "Hello!"}]
}'
Appelez-le dès maintenant
Remplacement direct d'OpenAI : changez uniquement l'URL de base et la clé API. Le format Anthropic (/v1/messages) est également pris en charge.
text->text · Qwen · souverain dans l'UE
Fonctionne sur une infrastructure européenne exploitée par des entreprises européennes, de votre requête jusqu'au GPU. Voir toute la chaîne
Qwen2.5 is the latest series of Qwen large language models. For Qwen2.5, we release a number of base language models and instruction-tuned language models ranging from 0.5 to 72 billion parameters. Qwen2.5 brings the following improvements upon Qwen2:
- Router
- Router · sur demande
- Dedicated
- Dédié · disponible
Caractéristiques
| Paramètres | 33B |
|---|---|
| Fenêtre de contexte | 32,768 tokens |
| VRAM minimale | 24 GB |
| Architecture | Qwen2ForCausalLM (vLLM) |
| Licence | apache-2.0 |
| Modalité | text->text |
| Date de sortie | September 2024 |
| Éditeur | Qwen ↗ |
Tarifs
Router partagé · par token
GPU dédié · par heure
Router européen partagé, vous payez uniquement au token. Les déploiements GPU dédiés sont facturés à la minute, voir tarifs.
Questions fréquentes
Puis-je exécuter Qwen2.5 32B Instruct GPTQ Int4 dans l'UE ?
Oui. HostYourAI exécute Qwen2.5 32B Instruct GPTQ Int4 sur des GPU situés dans des centres de données européens via vLLM. Les prompts et les réponses ne quittent jamais l'UE, et aucun fournisseur de cloud américain n'intervient dans la chaîne.
L'hébergement de Qwen2.5 32B Instruct GPTQ Int4 est-il conforme au RGPD ?
Oui. Tout le traitement a lieu au sein de l'UE, un accord de traitement des données (DPA) est disponible et la liste des sous-traitants est publique. Des poids open source signifient aussi : aucun entraînement sur vos données.
Combien coûte Qwen2.5 32B Instruct GPTQ Int4 ?
Qwen2.5 32B Instruct GPTQ Int4 est disponible sur demande : via le Router européen partagé après un bref échange, ou en déploiement GPU dédié facturé à la minute. Décrivez-nous votre cas d'usage et nous le configurerons pour vous.
L'API est-elle compatible avec OpenAI ?
Oui. Vous utilisez les SDK OpenAI standard avec une URL de base personnalisée (https://hostyourai.com/api/v1). L'API Anthropic Messages est également prise en charge en remplacement direct.
Autres modèles de Qwen
Une plateforme, quatre couches
Commencez par une couche et ajoutez les autres quand le travail le demande. Elles partagent une clé, un solde et une vue Activity.
Essayez Qwen2.5 32B Instruct GPTQ Int4 gratuitement
La création d'un compte prend une minute. Testez Qwen2.5 32B Instruct GPTQ Int4 tout de suite dans le Playground.
