ChatGLM-6B-INT4-QE 是 ChatGLM-6B 量化后的模型权重。具体的，ChatGLM-6B-INT4-QE 对 ChatGLM-6B 中的 28 个 GLM Block 、 Embedding 和 LM Head 进行了 INT4 量化。量化后的模型权重文件仅为 3G ，理论上 6G 显存（使用 CPU 即 6G 内存）即可推理，具有在嵌入式设备（如树莓派）上运行的可能。

Commencer gratuitement ← Tous les modèles

zai-org/chatglm-6b-int4-qe Sur demande

text->embedding · zai-org · sovereign EU

Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain

Paramètres

—

Fenêtre de contexte

14GB

VRAM minimale

POST /api/v1/embeddings Sur demande

Caractéristiques

Paramètres 6B

VRAM minimale 14 GB

Architecture ChatGLMForConditionalGeneration (vLLM)

Modalité text->embedding

Date de sortie March 2023

Éditeur zai-org ↗

Tarifs

Router partagé · par token

Sur demande

Non disponible sur le Router partagé. Tarif sur demande en déploiement GPU dédié.

GPU dédié · par heure

à partir de 2,03 € par heure

Votre propre instance vLLM sur un cloud européen (14 Go de VRAM), facturée à l'heure.

Router européen partagé, paiement au token, scale-to-zero. Les déploiements GPU dédiés sont facturés à l'heure, voir tarifs.

Indice Bench

Bench est notre indice de qualité pour chaque modèle, de 0 à 100. Il s'appuie sur des mesures publiques (Epoch AI avec une quarantaine de benchmarks, LiveBench, LMArena et d'autres) et est actualisé chaque matin. Là où personne ne mesure, il affiche une estimation avec une fourchette.

~65,5 / 100 · Estimation

Estimé d'après sa taille, ajusté sur tous les modèles de MTEB (échelle propre).

Fourchette de 59,7 à 71,3

Sources: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Mis à jour chaque jour, dernière fois le 19-10-2026

Appelez-le dès maintenant

Remplacement direct d'OpenAI : changez uniquement l'URL de base et la clé API. Le format Anthropic (/v1/messages) est également pris en charge.

curl https://hostyourai.com/api/v1/embeddings \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "zai-org/chatglm-6b-int4-qe",
    "input": "The quick brown fox"
  }'

Questions fréquentes

Puis-je exécuter chatglm 6b int4 qe dans l'UE ?

Oui. HostYourAI exécute chatglm 6b int4 qe sur des GPU situés dans des centres de données européens via vLLM. Les prompts et les réponses ne quittent jamais l'UE, et aucun fournisseur de cloud américain n'intervient dans la chaîne.

L'hébergement de chatglm 6b int4 qe est-il conforme au RGPD ?

Oui. Tout le traitement a lieu au sein de l'UE, un accord de traitement des données (DPA) est disponible et la liste des sous-traitants est publique. Des poids open source signifient aussi : aucun entraînement sur vos données.

Combien coûte chatglm 6b int4 qe ?

chatglm 6b int4 qe nécessite plusieurs GPU à la fois et fonctionne donc en déploiement dédié, facturé à l'heure de GPU et non au token. Indiquez-nous votre volume et nous ferons le calcul avec vous.

L'API est-elle compatible avec OpenAI ?

Oui. Vous utilisez les SDK OpenAI standard avec une URL de base personnalisée (https://hostyourai.com/api/v1). L'API Anthropic Messages est également prise en charge en remplacement direct.

Autres modèles de Z.AI

GLM 5.3 Flash

We introduce GLM-5.3-Flash, the first natively multimodal model in the GLM-5 series. With 320B total parameters and just 18B active parameters, it outperforms GLM-5.2 across benchmarks and real-world workloads at one-tenth the price, while approaching Claude Opus 4.8 on coding and agentic benchmarks.

321B 1M contexte Voir le modèle →

GLM 5.3

GLM-5.3 uses the same base model as GLM-5.2 — every gain comes from post-training. Compared with GLM-5.2, it is much better at complex coding and long-horizon tasks:

753B 1M contexte Voir le modèle →

GLM 5.2

We're introducing GLM-5.2, our latest flagship model for long-horizon tasks. It marks a substantial leap in long-horizon task capability over its predecessor GLM-5.1 and, for the first time, delivers that capability on a solid 1M-token context. GLM-5.2's new capabilities include: - Solid 1M Context: A solid 1M-token context that stably sustains long-horizon work - Advanced Coding with Flexible Effort: Stronger coding capabilities with multiple thinking effort levels to balance performance and latency - Improved Architecture: We propose IndexShare, which reuses the same indexer across every fou

753B 1M contexte Voir le modèle →

GLM 5.1

GLM-5.1 is our next-generation flagship model for agentic engineering, with significantly stronger coding capabilities than its predecessor. It achieves state-of-the-art performance on SWE-Bench Pro and leads GLM-5 by a wide margin on NL2Repo (repo generation) and Terminal-Bench 2.0 (real-world terminal tasks).

754B 203K contexte Voir le modèle →

GLM 5

We are launching GLM-5, targeting complex systems engineering and long-horizon agentic tasks. Scaling is still one of the most important ways to improve the intelligence efficiency of Artificial General Intelligence (AGI). Compared to GLM-4.5, GLM-5 scales from 355B parameters (32B active) to 744B parameters (40B active), and increases pre-training data from 23T to 28.5T tokens. GLM-5 also integrates DeepSeek Sparse Attention (DSA), largely reducing deployment cost while preserving long-context capacity.

754B 203K contexte Voir le modèle →

GLM 4.7 Flash

GLM-4.7-Flash is a 30B-A3B MoE model. As the strongest model in the 30B class, GLM-4.7-Flash offers a new option for lightweight deployment that balances performance and efficiency.

31B 203K contexte Voir le modèle →

Essayez chatglm 6b int4 qe gratuitement

La création d'un compte prend une minute. Votre clé API fonctionne immédiatement avec chatglm 6b int4 qe.

Commencer gratuitement