ChatGLM-6B-INT4-QE 是 ChatGLM-6B 量化后的模型权重。具体的，ChatGLM-6B-INT4-QE 对 ChatGLM-6B 中的 28 个 GLM Block 、 Embedding 和 LM Head 进行了 INT4 量化。量化后的模型权重文件仅为 3G ，理论上 6G 显存（使用 CPU 即 6G 内存）即可推理，具有在嵌入式设备（如树莓派）上运行的可能。

Empezar gratis ← Todos los modelos

zai-org/chatglm-6b-int4-qe Bajo petición

text->embedding · zai-org · sovereign EU

Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain

Parámetros

—

Ventana de contexto

14GB

VRAM mínima

POST /api/v1/embeddings Bajo petición

Especificaciones

Parámetros 6B

VRAM mínima 14 GB

Arquitectura ChatGLMForConditionalGeneration (vLLM)

Modalidad text->embedding

Lanzamiento March 2023

Editor zai-org ↗

Precios

Router compartido · por token

Bajo petición

No disponible en el Router compartido. Precio bajo petición como despliegue de GPU dedicada.

GPU dedicada · por hora

desde 2,03 € por hora

Su propia instancia de vLLM en una nube europea (14 GB de VRAM), facturada por horas.

Router europeo compartido, pago por token, scale-to-zero. Los despliegues de GPU dedicada se facturan por horas, consulte precios.

Índice Bench

Bench es nuestro índice de calidad para cada modelo, de 0 a 100. Se basa en mediciones públicas (Epoch AI con unos 40 benchmarks, LiveBench, LMArena y más) y se actualiza cada mañana. Donde nadie mide, muestra una estimación con un rango.

~65,5 / 100 · Estimación

Estimado a partir de su tamaño, ajustado sobre todos los modelos de MTEB (escala propia).

Rango de 59,7 a 71,3

Fuentes: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Actualizado a diario, última vez el 19-10-2026

Llámelo ahora

Sustituto directo de OpenAI: cambie solo la URL base y la clave de API. También se admite el formato de Anthropic (/v1/messages).

curl https://hostyourai.com/api/v1/embeddings \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "zai-org/chatglm-6b-int4-qe",
    "input": "The quick brown fox"
  }'

Preguntas frecuentes

¿Puedo ejecutar chatglm 6b int4 qe en la UE?

Sí. HostYourAI ejecuta chatglm 6b int4 qe en GPU de centros de datos europeos mediante vLLM. Los prompts y las respuestas nunca salen de la UE y en la cadena no interviene ningún proveedor de nube estadounidense.

¿El alojamiento de chatglm 6b int4 qe cumple el RGPD?

Sí. Todo el tratamiento se realiza dentro de la UE, hay disponible un acuerdo de encargo del tratamiento (DPA) y la lista de subencargados es pública. Además, los pesos de código abierto significan que no se entrena con sus datos.

¿Cuánto cuesta chatglm 6b int4 qe?

chatglm 6b int4 qe necesita varias GPU a la vez, por lo que se ejecuta como despliegue dedicado facturado por hora de GPU y no por token. Indíquenos su volumen y haremos el cálculo con usted.

¿La API es compatible con OpenAI?

Sí. Usted utiliza los SDK estándar de OpenAI con una URL base personalizada (https://hostyourai.com/api/v1). La API Anthropic Messages también se admite como sustituto directo.

Más modelos de Z.AI

GLM 5.3 Flash

We introduce GLM-5.3-Flash, the first natively multimodal model in the GLM-5 series. With 320B total parameters and just 18B active parameters, it outperforms GLM-5.2 across benchmarks and real-world workloads at one-tenth the price, while approaching Claude Opus 4.8 on coding and agentic benchmarks.

321B 1M contexto Ver modelo →

GLM 5.3

GLM-5.3 uses the same base model as GLM-5.2 — every gain comes from post-training. Compared with GLM-5.2, it is much better at complex coding and long-horizon tasks:

753B 1M contexto Ver modelo →

GLM 5.2

We're introducing GLM-5.2, our latest flagship model for long-horizon tasks. It marks a substantial leap in long-horizon task capability over its predecessor GLM-5.1 and, for the first time, delivers that capability on a solid 1M-token context. GLM-5.2's new capabilities include: - Solid 1M Context: A solid 1M-token context that stably sustains long-horizon work - Advanced Coding with Flexible Effort: Stronger coding capabilities with multiple thinking effort levels to balance performance and latency - Improved Architecture: We propose IndexShare, which reuses the same indexer across every fou

753B 1M contexto Ver modelo →

GLM 5.1

GLM-5.1 is our next-generation flagship model for agentic engineering, with significantly stronger coding capabilities than its predecessor. It achieves state-of-the-art performance on SWE-Bench Pro and leads GLM-5 by a wide margin on NL2Repo (repo generation) and Terminal-Bench 2.0 (real-world terminal tasks).

754B 203K contexto Ver modelo →

GLM 5

We are launching GLM-5, targeting complex systems engineering and long-horizon agentic tasks. Scaling is still one of the most important ways to improve the intelligence efficiency of Artificial General Intelligence (AGI). Compared to GLM-4.5, GLM-5 scales from 355B parameters (32B active) to 744B parameters (40B active), and increases pre-training data from 23T to 28.5T tokens. GLM-5 also integrates DeepSeek Sparse Attention (DSA), largely reducing deployment cost while preserving long-context capacity.

754B 203K contexto Ver modelo →

GLM 4.7 Flash

GLM-4.7-Flash is a 30B-A3B MoE model. As the strongest model in the 30B class, GLM-4.7-Flash offers a new option for lightweight deployment that balances performance and efficiency.

31B 203K contexto Ver modelo →

Pruebe chatglm 6b int4 qe gratis

Crear una cuenta lleva un minuto. Su clave de API funciona con chatglm 6b int4 qe al instante.

Empezar gratis