Model garden Router · auf Anfrage Dedicated · verfügbar

gemma 3 12b it

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

gemma 3 12b it ist ein multimodales Sprachmodell von Google mit 12B Parametern, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.

google/gemma-3-12b-it vLLM ready
text+image->text · google · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
12B
Parameter
—
Kontextfenster
32GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 12B
Minimaler VRAM 32 GB
Architektur Gemma3ForConditionalGeneration (vLLM)
Lizenz gemma
Modalität text+image->text
Veröffentlicht March 2025
Anbieter google ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €3,04 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (32 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

✓ Funktionsfähig verifiziert am 31-07-2026, Antwort in 113420 ms auf unserer EU-Infrastruktur.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

41,9 / 100 · Gemessen

Gemessen von Epoch AI über 5 Benchmarks, mit Bandbreite.

Bandbreite 32,0 bis 49,1 · Platz 182 von 270 bei Epoch AI

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 05-10-2026

LiveBench · 41,3
Reasoning 28,6
Coding 19,1
Mathematik 48,1
Datenanalyse 46,6
Sprache 31,3
Anweisungen befolgen 73,8
Alle Benchmarks (5)
GPQA diamond 19,3
OTIS Mock AIME 2024-2025 16,6
DTBench 14,7
LMCA 5,2
Chess Puzzles 0,0
LiveBench · Alle Aufgaben
Reasoning
web of lies v3 39,3
zebra puzzle 20,5
spatial 26,0
Coding
LCB generation 25,3
coding completion 12,9
Mathematik
AMPS Hard 69,0
math comp 56,3
olympiad 19,2
Datenanalyse
cta 54,0
tablejoin 9,7
tablereformat 76,0
Sprache
connections 26,0
plot unscrambling 23,8
typos 44,0
Anweisungen befolgen
paraphrase 68,4
simplify 77,2
story generation 72,9
summarize 76,8

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "google/gemma-3-12b-it",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich gemma 3 12b it in der EU betreiben?

Ja. HostYourAI betreibt gemma 3 12b it auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von gemma 3 12b it DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet gemma 3 12b it?

gemma 3 12b it ist auf Anfrage verfügbar: über den gemeinsamen EU-Router nach kurzer Abstimmung oder als dediziertes GPU-Deployment, das pro Stunde abgerechnet wird. Nennen Sie uns Ihren Anwendungsfall, dann richten wir es für Sie ein.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Google

diffusiongemma 26B A4B it

DiffusionGemma is a generative model built by Google DeepMind. Based on the 26B A4B Mixture-of-Experts (MoE) Gemma 4 architecture, DiffusionGemma generates tokens using discrete diffusion. This open-weights model is multimodal, handling text, image, and video inputs to generate text output.

26B 262K Kontext Modell ansehen →
gemma 4 31B it qat w4a16 ct

[!Note] This model card is for the new versions of the Gemma 4 family optimized with Quantization-Aware Training (QAT), which allows preserving similar quality to bfloat16 while dramatically reducing the memory requirements to load the model. Four versions of the QAT checkpoints are available: Unquantized QAT checkpoints (Q40): Half-precision weights extracted from the QAT pipeline, ideal for custom downstream compilation and research. Available for Gemma 4 E2B, E4B, 12B, 26B A4B, and 31B, and their drafter models. GGUF (Q40): Ready-to-deploy formats for broad ecosystem compatibility. Availabl

34B 262K Kontext Modell ansehen →
gemma 4 26B A4B it qat q4 0 unquantized

[!Note] This model card is for the new versions of the Gemma 4 family optimized with Quantization-Aware Training (QAT), which allows preserving similar quality to bfloat16 while dramatically reducing the memory requirements to load the model. Four versions of the QAT checkpoints are available: Unquantized QAT checkpoints (Q40): Half-precision weights extracted from the QAT pipeline, ideal for custom downstream compilation and research. Available for Gemma 4 E2B, E4B, 12B, 26B A4B, and 31B, and their drafter models. GGUF (Q40): Ready-to-deploy formats for broad ecosystem compatibility. Availabl

27B 262K Kontext Modell ansehen →
gemma 4 31B it qat q4 0 unquantized

[!Note] This model card is for the new versions of the Gemma 4 family optimized with Quantization-Aware Training (QAT), which allows preserving similar quality to bfloat16 while dramatically reducing the memory requirements to load the model. Four versions of the QAT checkpoints are available: Unquantized QAT checkpoints (Q40): Half-precision weights extracted from the QAT pipeline, ideal for custom downstream compilation and research. Available for Gemma 4 E2B, E4B, 12B, 26B A4B, and 31B, and their drafter models. GGUF (Q40): Ready-to-deploy formats for broad ecosystem compatibility. Availabl

33B 262K Kontext Modell ansehen →
gemma 4 31B

Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on E2B, E4B, and 12B) and generating text output. This release includes open-weights models in both pre-trained and instruction-tuned variants. Gemma 4 features a context window of up to 256K tokens and maintains multilingual support in over 140 languages.

33B 262K Kontext Modell ansehen →
gemma 4 26B A4B

Gemma is a family of open models built by Google DeepMind. Gemma 4 models are multimodal, handling text and image input (with audio supported on E2B, E4B, and 12B) and generating text output. This release includes open-weights models in both pre-trained and instruction-tuned variants. Gemma 4 features a context window of up to 256K tokens and maintains multilingual support in over 140 languages.

27B 262K Kontext Modell ansehen →

Testen Sie gemma 3 12b it kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie gemma 3 12b it direkt im Playground.

Kostenlos starten