Model garden Router · sur demande Dédié · disponible

gemma 2b AWQ

Fonctionne comme votre propre déploiement GPU dédié, à lancer directement depuis l'assistant. Les données restent en Europe.

AWQ quantized version of google/gemma-2b.

google/gemma-2b-AWQ vLLM ready
text->text · google · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
3B
Paramètres
8K
Fenêtre de contexte
8GB
VRAM minimale
POST /api/v1/chat/completions Sur demande

Caractéristiques

Paramètres 3B
Fenêtre de contexte 8,192 tokens
VRAM minimale 8 GB
Architecture GemmaForCausalLM (vLLM)
Licence other
Modalité text->text
Date de sortie July 2024
Éditeur google ↗

Tarifs

Router partagé · par token
Sur demande
Non disponible sur le Router partagé. Tarif sur demande en déploiement GPU dédié.
GPU dédié · par heure
à partir de 2,03 € par heure
Votre propre instance vLLM sur un cloud européen (8 Go de VRAM), facturée à l'heure.

Router européen partagé, paiement au token, scale-to-zero. Les déploiements GPU dédiés sont facturés à l'heure, voir tarifs.

✓ Fonctionnement vérifié le 30-07-2026, réponse en 161 ms sur notre infrastructure européenne.

Indice Bench

Bench est notre indice de qualité pour chaque modèle, de 0 à 100. Il s'appuie sur des mesures publiques (Epoch AI avec une quarantaine de benchmarks, LiveBench, LMArena et d'autres) et est actualisé chaque matin. Là où personne ne mesure, il affiche une estimation avec une fourchette.

5,4 / 100 · Mesuré

Mesuré par Epoch AI sur 8 benchmarks, avec une fourchette.

Fourchette de 0,0 à 14,0 · Rang 263 sur 277 chez Epoch AI

Sources: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Mis à jour chaque jour, dernière fois le 19-10-2026

Tous les benchmarks (8)
HellaSwag 61,9
PIQA 54,6
TriviaQA 53,2
Winogrande 30,8
MMLU 23,1
ARC AI2 22,8
GSM8K 17,7
BBH 13,6

Appelez-le dès maintenant

Remplacement direct d'OpenAI : changez uniquement l'URL de base et la clé API. Le format Anthropic (/v1/messages) est également pris en charge.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "google/gemma-2b-AWQ",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Questions fréquentes

Puis-je exécuter gemma 2b AWQ dans l'UE ?

Oui. HostYourAI exécute gemma 2b AWQ sur des GPU situés dans des centres de données européens via vLLM. Les prompts et les réponses ne quittent jamais l'UE, et aucun fournisseur de cloud américain n'intervient dans la chaîne.

L'hébergement de gemma 2b AWQ est-il conforme au RGPD ?

Oui. Tout le traitement a lieu au sein de l'UE, un accord de traitement des données (DPA) est disponible et la liste des sous-traitants est publique. Des poids open source signifient aussi : aucun entraînement sur vos données.

Combien coûte gemma 2b AWQ ?

gemma 2b AWQ est disponible sur demande : via le Router européen partagé après un bref échange, ou en déploiement GPU dédié facturé à l'heure. Décrivez-nous votre cas d'usage et nous le configurerons pour vous.

L'API est-elle compatible avec OpenAI ?

Oui. Vous utilisez les SDK OpenAI standard avec une URL de base personnalisée (https://hostyourai.com/api/v1). L'API Anthropic Messages est également prise en charge en remplacement direct.

Autres modèles de Google

diffusiongemma 26B A4B it

DiffusionGemma is a generative model built by Google DeepMind. Based on the 26B A4B Mixture-of-Experts (MoE) Gemma 4 architecture, DiffusionGemma generates tokens using discrete diffusion. This open-weights model is multimodal, handling text, image, and video inputs to generate text output.

26B 262K contexte Voir le modèle →
gemma 4 31B it qat w4a16 ct

[!Note] This model card is for the new versions of the Gemma 4 family optimized with Quantization-Aware Training (QAT), which allows preserving similar quality to bfloat16 while dramatically reducing the memory requirements to load the model. Four versions of the QAT checkpoints are available: Unquantized QAT checkpoints (Q40): Half-precision weights extracted from the QAT pipeline, ideal for custom downstream compilation and research. Available for Gemma 4 E2B, E4B, 12B, 26B A4B, and 31B, and their drafter models. GGUF (Q40): Ready-to-deploy formats for broad ecosystem compatibility. Availabl

33B 262K contexte Voir le modèle →
gemma 4 26B A4B it qat q4 0 unquantized

[!Note] This model card is for the new versions of the Gemma 4 family optimized with Quantization-Aware Training (QAT), which allows preserving similar quality to bfloat16 while dramatically reducing the memory requirements to load the model. Four versions of the QAT checkpoints are available: Unquantized QAT checkpoints (Q40): Half-precision weights extracted from the QAT pipeline, ideal for custom downstream compilation and research. Available for Gemma 4 E2B, E4B, 12B, 26B A4B, and 31B, and their drafter models. GGUF (Q40): Ready-to-deploy formats for broad ecosystem compatibility. Availabl

26B 262K contexte Voir le modèle →
gemma 4 31B it qat q4 0 unquantized

[!Note] This model card is for the new versions of the Gemma 4 family optimized with Quantization-Aware Training (QAT), which allows preserving similar quality to bfloat16 while dramatically reducing the memory requirements to load the model. Four versions of the QAT checkpoints are available: Unquantized QAT checkpoints (Q40): Half-precision weights extracted from the QAT pipeline, ideal for custom downstream compilation and research. Available for Gemma 4 E2B, E4B, 12B, 26B A4B, and 31B, and their drafter models. GGUF (Q40): Ready-to-deploy formats for broad ecosystem compatibility. Availabl

31B 262K contexte Voir le modèle →
gemma 4 31B

Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on E2B, E4B, and 12B) and generating text output. This release includes open-weights models in both pre-trained and instruction-tuned variants. Gemma 4 features a context window of up to 256K tokens and maintains multilingual support in over 140 languages.

33B 262K contexte Voir le modèle →
gemma 4 26B A4B

Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on E2B, E4B, and 12B) and generating text output. This release includes open-weights models in both pre-trained and instruction-tuned variants. Gemma 4 features a context window of up to 256K tokens and maintains multilingual support in over 140 languages.

27B 262K contexte Voir le modèle →

Essayez gemma 2b AWQ gratuitement

La création d'un compte prend une minute. Testez gemma 2b AWQ tout de suite dans le Playground.

Commencer gratuitement