HostYourAI
Product
EU RouterOpenAI-compatible APIAnthropic-compatible APIModel GardenDedicated InstancesPlaygroundFine-tuning (Loes)GPU-Pool anbinden
Lösungen
Anwendungsfälle
LLM InferenceRAG pipelinesChatbotsAI agentsFine-tuning
Branchen
BehördenGesundheitswesenFinanzenRecht
Modelle
Llama 3.3 70BMistralDeepSeek R1Qwen 2.5 72BGemma 2 27BCodestral 22BAlle Modelle →
Vergleichen
Azure OpenAIAWS BedrockClaude APIChatGPTOpenAI
Ressourcen
DokumentationLeitfaden: Migration zum EU-RouterLeitfaden: eigenes LLM deployen (vLLM)Leitfaden: RAG auf EU-GPUs aufbauenModellkatalog
Preise
NL EN DE
Anmelden Demo buchen Jetzt starten
Model garden Auf Anfrage

granite 3.2 2b instruct

Dieses Modell läuft als dediziertes Deployment auf großen GPUs und ist nicht standardmäßig im gemeinsamen Playground verfügbar. Kontaktieren Sie uns, wir richten es für Sie ein.

Model Summary: Granite-3.2-2B-Instruct is an 2-billion-parameter, long-context AI model fine-tuned for thinking capabilities. Built on top of Granite-3.1-2B-Instruct, it has been trained using a mix of permissively licensed open-source datasets and internally generated synthetic...

Zugang anfragen ← Alle Modelle
ibm-granite/granite-3.2-2b-instruct Auf Anfrage
text->text · ibm-granite · EU-hosted
2.5B
Parameter
131K
Kontextfenster
8GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 2.5B
Kontextfenster 131,072 tokens
Minimaler VRAM 8 GB
Architektur GraniteForCausalLM (vLLM)
Lizenz apache-2.0
Modalität text->text
Veröffentlicht February 2025
Anbieter ibm-granite ↗

Preise

€0.02
Input (pro 1M Tokens)
€0.05
Output (pro 1M Tokens)

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "ibm-granite/granite-3.2-2b-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich granite 3.2 2b instruct in der EU betreiben?

Ja. HostYourAI betreibt granite 3.2 2b instruct auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von granite 3.2 2b instruct DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet granite 3.2 2b instruct?

Über den gemeinsamen EU-Router zahlen Sie €0.02 pro Million Input-Tokens und €0.05 pro Million Output-Tokens, ohne Fixkosten. Für hohe Volumen oder Isolation können Sie granite 3.2 2b instruct auch als dedizierte GPU-Instanz stundenweise betreiben.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Ibm-granite

granite 4.1 30b fp8

[!NOTE] This repository contains the FP8 version of 4.1-30B. Please refer to the the original instruct model's model card for additional details: https://huggingface.co/ibm-granite/granite-4.1-30b

29B 131K Kontext Modell ansehen →
granite 4.1 8b fp8

[!NOTE] This repository contains the FP8 version of 4.1-8B. Please refer to the the original instruct model's model card for additional details: https://huggingface.co/ibm-granite/granite-4.1-8b

8.8B 131K Kontext Modell ansehen →
granite guardian 4.1 8b

Granite Guardian 4.1 8B introduces improved Bring Your Own Criteria (BYOC) support, enabling users to define arbitrary judging criteria beyond the pre-baked safety and hallucination detectors. The model can now faithfully evaluate complex, multi-part requirements such as formatting rules, length constraints, and domain-specific instructions.

8.4B 131K Kontext Modell ansehen →
granite vision 4.1 4b

Model Summary: Granite Vision 4.1 4B is a vision-language model (VLM) that delivers frontier-level performance on structured document extraction tasks — chart extraction, table extraction, and semantic key-value pair extraction — in a compact 4B parameter footprint, providing a lightweight alternative to much larger frontier models for these tasks:

4B Modell ansehen →
granite 4.1 30b base

Model Summary: Granite‑4.1‑30B‑Base is a decoder‑only language model with long‑context capabilities, designed to support a broad range of text‑to‑text generation tasks. In addition to standard generation, it supports Fill‑in‑the‑Middle (FIM) code completion through specialized prefix and suffix tokens. The model is trained from scratch on approximately 15 trillion tokens using a five‑phase training strategy: 10 trillion tokens in phase one, 2 trillion tokens each in phases two and three, and 0.5 trillion tokens in phase four. In the final phase, long‑context extension is applied to expand the

29B 131K Kontext Modell ansehen →
granite 4.1 30b

Model Summary: Granite-4.1-30B is a 30B parameter long-context instruct model finetuned from Granite-4.1-30B-Base using a combination of open source instruction datasets with permissive license and internally collected synthetic datasets. Granite 4.1 models have gone through an improved post-training pipeline, including supervised finetuning and reinforcement learning alignment, resulting in enhanced tool calling, instruction following, and chat capabilities.

29B 131K Kontext Modell ansehen →

Zugang anfragen

granite 3.2 2b instruct ist noch nicht standardmäßig verfügbar. Hinterlassen Sie Ihre Kontaktdaten, wir kümmern uns um ein dediziertes Deployment.

Zugang anfragen