Model garden Router · bajo petición Dedicado · disponible

gemma 2b AWQ

Se ejecuta como su propio despliegue de GPU dedicada, listo para lanzar desde el asistente. Los datos permanecen en Europa.

AWQ quantized version of google/gemma-2b.

google/gemma-2b-AWQ vLLM ready
text->text · google · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
3B
Parámetros
8K
Ventana de contexto
8GB
VRAM mínima
POST /api/v1/chat/completions Bajo petición

Especificaciones

Parámetros 3B
Ventana de contexto 8,192 tokens
VRAM mínima 8 GB
Arquitectura GemmaForCausalLM (vLLM)
Licencia other
Modalidad text->text
Lanzamiento July 2024
Editor google ↗

Precios

Router compartido · por token
Bajo petición
No disponible en el Router compartido. Precio bajo petición como despliegue de GPU dedicada.
GPU dedicada · por hora
desde 2,03 € por hora
Su propia instancia de vLLM en una nube europea (8 GB de VRAM), facturada por horas.

Router europeo compartido, pago por token, scale-to-zero. Los despliegues de GPU dedicada se facturan por horas, consulte precios.

✓ Funcionamiento verificado el 30-07-2026, respuesta en 161 ms en nuestra infraestructura europea.

Índice Bench

Bench es nuestro índice de calidad para cada modelo, de 0 a 100. Se basa en mediciones públicas (Epoch AI con unos 40 benchmarks, LiveBench, LMArena y más) y se actualiza cada mañana. Donde nadie mide, muestra una estimación con un rango.

5,4 / 100 · Medido

Medido por Epoch AI en 8 benchmarks, con un rango.

Rango de 0,0 a 14,0 · Puesto 263 de 277 en Epoch AI

Fuentes: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Actualizado a diario, última vez el 19-10-2026

Todos los benchmarks (8)
HellaSwag 61,9
PIQA 54,6
TriviaQA 53,2
Winogrande 30,8
MMLU 23,1
ARC AI2 22,8
GSM8K 17,7
BBH 13,6

Llámelo ahora

Sustituto directo de OpenAI: cambie solo la URL base y la clave de API. También se admite el formato de Anthropic (/v1/messages).

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "google/gemma-2b-AWQ",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Preguntas frecuentes

¿Puedo ejecutar gemma 2b AWQ en la UE?

Sí. HostYourAI ejecuta gemma 2b AWQ en GPU de centros de datos europeos mediante vLLM. Los prompts y las respuestas nunca salen de la UE y en la cadena no interviene ningún proveedor de nube estadounidense.

¿El alojamiento de gemma 2b AWQ cumple el RGPD?

Sí. Todo el tratamiento se realiza dentro de la UE, hay disponible un acuerdo de encargo del tratamiento (DPA) y la lista de subencargados es pública. Además, los pesos de código abierto significan que no se entrena con sus datos.

¿Cuánto cuesta gemma 2b AWQ?

gemma 2b AWQ está disponible bajo petición: a través del Router europeo compartido tras una breve conversación, o como despliegue de GPU dedicada propio facturado por horas. Cuéntenos su caso de uso y lo configuraremos para usted.

¿La API es compatible con OpenAI?

Sí. Usted utiliza los SDK estándar de OpenAI con una URL base personalizada (https://hostyourai.com/api/v1). La API Anthropic Messages también se admite como sustituto directo.

Más modelos de Google

diffusiongemma 26B A4B it

DiffusionGemma is a generative model built by Google DeepMind. Based on the 26B A4B Mixture-of-Experts (MoE) Gemma 4 architecture, DiffusionGemma generates tokens using discrete diffusion. This open-weights model is multimodal, handling text, image, and video inputs to generate text output.

26B 262K contexto Ver modelo →
gemma 4 31B it qat w4a16 ct

[!Note] This model card is for the new versions of the Gemma 4 family optimized with Quantization-Aware Training (QAT), which allows preserving similar quality to bfloat16 while dramatically reducing the memory requirements to load the model. Four versions of the QAT checkpoints are available: Unquantized QAT checkpoints (Q40): Half-precision weights extracted from the QAT pipeline, ideal for custom downstream compilation and research. Available for Gemma 4 E2B, E4B, 12B, 26B A4B, and 31B, and their drafter models. GGUF (Q40): Ready-to-deploy formats for broad ecosystem compatibility. Availabl

33B 262K contexto Ver modelo →
gemma 4 26B A4B it qat q4 0 unquantized

[!Note] This model card is for the new versions of the Gemma 4 family optimized with Quantization-Aware Training (QAT), which allows preserving similar quality to bfloat16 while dramatically reducing the memory requirements to load the model. Four versions of the QAT checkpoints are available: Unquantized QAT checkpoints (Q40): Half-precision weights extracted from the QAT pipeline, ideal for custom downstream compilation and research. Available for Gemma 4 E2B, E4B, 12B, 26B A4B, and 31B, and their drafter models. GGUF (Q40): Ready-to-deploy formats for broad ecosystem compatibility. Availabl

26B 262K contexto Ver modelo →
gemma 4 31B it qat q4 0 unquantized

[!Note] This model card is for the new versions of the Gemma 4 family optimized with Quantization-Aware Training (QAT), which allows preserving similar quality to bfloat16 while dramatically reducing the memory requirements to load the model. Four versions of the QAT checkpoints are available: Unquantized QAT checkpoints (Q40): Half-precision weights extracted from the QAT pipeline, ideal for custom downstream compilation and research. Available for Gemma 4 E2B, E4B, 12B, 26B A4B, and 31B, and their drafter models. GGUF (Q40): Ready-to-deploy formats for broad ecosystem compatibility. Availabl

31B 262K contexto Ver modelo →
gemma 4 31B

Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on E2B, E4B, and 12B) and generating text output. This release includes open-weights models in both pre-trained and instruction-tuned variants. Gemma 4 features a context window of up to 256K tokens and maintains multilingual support in over 140 languages.

33B 262K contexto Ver modelo →
gemma 4 26B A4B

Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on E2B, E4B, and 12B) and generating text output. This release includes open-weights models in both pre-trained and instruction-tuned variants. Gemma 4 features a context window of up to 256K tokens and maintains multilingual support in over 140 languages.

27B 262K contexto Ver modelo →

Pruebe gemma 2b AWQ gratis

Crear una cuenta lleva un minuto. Pruebe gemma 2b AWQ de inmediato en el Playground.

Empezar gratis