HostYourAI
Product
EU RouterOpenAI-compatible APIAnthropic-compatible APIModel GardenDedicated InstancesPlaygroundFine-tuning (Loes)Connect je GPU-pool
Oplossingen
Use cases
LLM InferenceRAG pipelinesChatbotsAI agentsFine-tuning
Sectoren
OverheidZorgFinanceJuridisch
Modellen
Llama 3.3 70BMistralDeepSeek R1Qwen 2.5 72BGemma 2 27BCodestral 22BAlle modellen →
Vergelijk
Azure OpenAIAWS BedrockClaude APIChatGPTOpenAI
Resources
DocumentatieGids: migreren naar de EU RouterGids: eigen LLM deployen (vLLM)Gids: RAG bouwen op EU-GPUsModelcatalogus
Prijzen
NL EN DE
Inloggen Demo plannen Aan de slag
Model garden Op aanvraag

granite 3.2 8b instruct

Dit model draait als dedicated deployment op grote GPU's en staat niet standaard in de gedeelde playground. Neem contact op, dan zetten we het voor je klaar.

Model Summary: Granite-3.2-8B-Instruct is an 8-billion-parameter, long-context AI model fine-tuned for thinking capabilities. Built on top of Granite-3.1-8B-Instruct, it has been trained using a mix of permissively licensed open-source datasets and internally generated synthetic...

Vraag toegang aan ← Alle modellen
ibm-granite/granite-3.2-8b-instruct Op aanvraag
text->text · ibm-granite · EU-hosted
8.2B
Parameters
131K
Contextvenster
24GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 8.2B
Contextvenster 131,072 tokens
Minimale VRAM 24 GB
Architectuur GraniteForCausalLM (vLLM)
Licentie apache-2.0
Modaliteit text->text
Uitgebracht February 2025
Uitgever ibm-granite ↗

Prijzen

€0.05
Input (per 1M tokens)
€0.12
Output (per 1M tokens)

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "ibm-granite/granite-3.2-8b-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik granite 3.2 8b instruct in de EU draaien?

Ja. HostYourAI draait granite 3.2 8b instruct op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is granite 3.2 8b instruct hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost granite 3.2 8b instruct?

Via de gedeelde EU-router betaal je €0.05 per miljoen input-tokens en €0.12 per miljoen output-tokens, zonder vaste kosten. Voor hoge volumes of isolatie kun je granite 3.2 8b instruct ook als dedicated GPU-instance per uur draaien.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van Ibm-granite

granite 4.1 30b fp8

[!NOTE] This repository contains the FP8 version of 4.1-30B. Please refer to the the original instruct model's model card for additional details: https://huggingface.co/ibm-granite/granite-4.1-30b

29B 131K context Bekijk model →
granite 4.1 8b fp8

[!NOTE] This repository contains the FP8 version of 4.1-8B. Please refer to the the original instruct model's model card for additional details: https://huggingface.co/ibm-granite/granite-4.1-8b

8.8B 131K context Bekijk model →
granite guardian 4.1 8b

Granite Guardian 4.1 8B introduces improved Bring Your Own Criteria (BYOC) support, enabling users to define arbitrary judging criteria beyond the pre-baked safety and hallucination detectors. The model can now faithfully evaluate complex, multi-part requirements such as formatting rules, length constraints, and domain-specific instructions.

8.4B 131K context Bekijk model →
granite vision 4.1 4b

Model Summary: Granite Vision 4.1 4B is a vision-language model (VLM) that delivers frontier-level performance on structured document extraction tasks — chart extraction, table extraction, and semantic key-value pair extraction — in a compact 4B parameter footprint, providing a lightweight alternative to much larger frontier models for these tasks:

4B Bekijk model →
granite 4.1 30b base

Model Summary: Granite‑4.1‑30B‑Base is a decoder‑only language model with long‑context capabilities, designed to support a broad range of text‑to‑text generation tasks. In addition to standard generation, it supports Fill‑in‑the‑Middle (FIM) code completion through specialized prefix and suffix tokens. The model is trained from scratch on approximately 15 trillion tokens using a five‑phase training strategy: 10 trillion tokens in phase one, 2 trillion tokens each in phases two and three, and 0.5 trillion tokens in phase four. In the final phase, long‑context extension is applied to expand the

29B 131K context Bekijk model →
granite 4.1 30b

Model Summary: Granite-4.1-30B is a 30B parameter long-context instruct model finetuned from Granite-4.1-30B-Base using a combination of open source instruction datasets with permissive license and internally collected synthetic datasets. Granite 4.1 models have gone through an improved post-training pipeline, including supervised finetuning and reinforcement learning alignment, resulting in enhanced tool calling, instruction following, and chat capabilities.

29B 131K context Bekijk model →

Vraag toegang aan

granite 3.2 8b instruct is nog niet standaard beschikbaar. Laat je gegevens achter, dan regelen we een dedicated deployment.

Vraag toegang aan