Code
Su agente de programación con modelos abiertos en Europa, configurado con un solo comando.
Abrir
03 Model garden Serve
Qwen2.5 32B Instruct GPTQ Int4
Se ejecuta como su propio despliegue de GPU dedicada, listo para lanzar desde el asistente. Los datos permanecen en Europa.
curl
$ curl https://hostyourai.com/api/v1/chat/completions \
-H "Authorization: Bearer hyai-..." \
-H "Content-Type: application/json" \
-d '{
"model": "Qwen/Qwen2.5-32B-Instruct-GPTQ-Int4",
"messages": [{"role": "user", "content": "Hello!"}]
}'
Llámelo ahora
Sustituto directo de OpenAI: cambie solo la URL base y la clave de API. También se admite el formato de Anthropic (/v1/messages).
Serve/ Model garden
Bajo petición
Qwen/Qwen2.5-32B-Instruct-GPTQ-Int4
text->text · Qwen · soberano en la UE
Funciona en infraestructura de la UE operada por empresas europeas, desde su solicitud hasta la GPU. Ver la cadena completa
Qwen2.5 is the latest series of Qwen large language models. For Qwen2.5, we release a number of base language models and instruction-tuned language models ranging from 0.5 to 72 billion parameters. Qwen2.5 brings the following improvements upon Qwen2:
- Router
- Router · bajo petición
- Dedicated
- Dedicado · disponible
33BParámetros
33KVentana de contexto
24GBVRAM mínima
POST /api/v1/chat/completions Bajo petición
Especificaciones
| Parámetros | 33B |
|---|---|
| Ventana de contexto | 32,768 tokens |
| VRAM mínima | 24 GB |
| Arquitectura | Qwen2ForCausalLM (vLLM) |
| Licencia | apache-2.0 |
| Modalidad | text->text |
| Lanzamiento | September 2024 |
| Editor | Qwen ↗ |
Precios
Router compartido · por token
Bajo petición
No disponible en el Router compartido. Precio bajo petición como despliegue de GPU dedicada.
GPU dedicada · por hora
desde 2,03 € por horaSu propia instancia de vLLM en una nube europea (24 GB de VRAM), facturada por minuto.
Router europeo compartido, solo paga por token. Los despliegues de GPU dedicada se facturan por minuto, consulte precios.
Preguntas
Preguntas frecuentes
¿Puedo ejecutar Qwen2.5 32B Instruct GPTQ Int4 en la UE?
Sí. HostYourAI ejecuta Qwen2.5 32B Instruct GPTQ Int4 en GPU de centros de datos europeos mediante vLLM. Los prompts y las respuestas nunca salen de la UE y en la cadena no interviene ningún proveedor de nube estadounidense.
¿El alojamiento de Qwen2.5 32B Instruct GPTQ Int4 cumple el RGPD?
Sí. Todo el tratamiento se realiza dentro de la UE, hay disponible un acuerdo de encargo del tratamiento (DPA) y la lista de subencargados es pública. Además, los pesos de código abierto significan que no se entrena con sus datos.
¿Cuánto cuesta Qwen2.5 32B Instruct GPTQ Int4?
Qwen2.5 32B Instruct GPTQ Int4 está disponible bajo petición: a través del Router europeo compartido tras una breve conversación, o como despliegue de GPU dedicada propio facturado por minuto. Cuéntenos su caso de uso y lo configuraremos para usted.
¿La API es compatible con OpenAI?
Sí. Usted utiliza los SDK estándar de OpenAI con una URL base personalizada (https://hostyourai.com/api/v1). La API Anthropic Messages también se admite como sustituto directo.
Más modelos de Qwen
La plataforma
Una plataforma, cuatro capas
Empiece con una capa y añada las demás cuando el trabajo lo pida. Comparten una clave, un saldo y una vista Activity.
Pruebe Qwen2.5 32B Instruct GPTQ Int4 gratis
Crear una cuenta lleva un minuto. Pruebe Qwen2.5 32B Instruct GPTQ Int4 de inmediato en el Playground.
