Model garden Router · op aanvraag Dedicated · beschikbaar

granite embedding 30m sparse

Dit model draait als eigen dedicated GPU-deployment, direct te starten via de wizard. Data blijft in Europa.

Model Summary: Granite-Embedding-30m-Sparse is a 30M parameter sparse biencoder embedding model from the Granite Experimental suite that can be used to generate high quality text embeddings. This model produces variable length bag-of-word like dictionary, containing expansions of...

ibm-granite/granite-embedding-30m-sparse Op aanvraag
text->embedding · ibm-granite · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
0B
Parameters
1K
Contextvenster
8GB
Minimale VRAM
POST /api/v1/embeddings Op aanvraag

Specificaties

Parameters 0B
Contextvenster 514 tokens
Minimale VRAM 8 GB
Architectuur RobertaForMaskedLM (vLLM)
Licentie apache-2.0
Modaliteit text->embedding
Uitgebracht February 2025
Uitgever ibm-granite ↗

Prijzen

Gedeelde router · per token
Op aanvraag
Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.
Dedicated GPU · per uur
vanaf €0,90 per uur
Eigen vLLM-instance op Europese cloud (8 GB VRAM), per uur afgerekend.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Bench-index

Bench is onze kwaliteitsindex voor elk model, 0 tot 100. Hij steunt op openbare metingen (Epoch AI met zo’n 40 benchmarks, LiveBench, LMArena en meer) en wordt elke ochtend ververst. Waar niemand meet, staat een schatting met bandbreedte.

~54,3 / 100 · Schatting

Schatting uit de grootte, afgeleid van alle modellen op MTEB (eigen schaal).

Bandbreedte 48,5 tot 60,1

Bronnen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Dagelijks bijgewerkt, laatst op 03-11-2026

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/embeddings \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "ibm-granite/granite-embedding-30m-sparse",
    "input": "The quick brown fox"
  }'

Veelgestelde vragen

Kan ik granite embedding 30m sparse in de EU draaien?

Ja. HostYourAI draait granite embedding 30m sparse op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is granite embedding 30m sparse hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost granite embedding 30m sparse?

granite embedding 30m sparse heeft meerdere GPU's tegelijk nodig en draait daarom als dedicated deployment. Je betaalt dan per GPU-uur en niet per token. Vertel ons je volume, dan rekenen we het voor je door.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van Ibm-granite

granite speech 5.0 2b ONNX

ONNX weights of ibm-granite/granite-speech-5.0-2b for in-browser inference with Transformers.js on WebGPU. These are the weights used by the granite-speech-webgpu demo.

2B 16K context Bekijk model →
granite speech 5.0 2b

Model Summary: Granite Speech 5.0 2B is a compact and efficient speech-language model, specifically designed for multilingual automatic speech recognition (ASR) and bidirectional automatic speech translation (AST) for English, French, German, Spanish, Portuguese and Japanese.

2.3B 16K context Bekijk model →
granite 4.2 30b

Granite is a family of open-source large language models developed by IBM, designed for enterprise and research use. Granite models are built to be versatile, safe, and efficient — covering a range of sizes and capabilities from compact edge-deployable models to large-scale reasoning systems. All Granite models are released under the Apache 2.0 license, enabling unrestricted commercial and academic use.

29B 131K context Bekijk model →
granite 4.2 8b

Granite is a family of open-source large language models developed by IBM, designed for enterprise and research use. Granite models are built to be versatile, safe, and efficient — covering a range of sizes and capabilities from compact edge-deployable models to large-scale reasoning systems. All Granite models are released under the Apache 2.0 license, enabling unrestricted commercial and academic use.

8.8B 131K context Bekijk model →
granite 4.2 3b

Granite is a family of open-source large language models developed by IBM, designed for enterprise and research use. Granite models are built to be versatile, safe, and efficient — covering a range of sizes and capabilities from compact edge-deployable models to large-scale reasoning systems. All Granite models are released under the Apache 2.0 license, enabling unrestricted commercial and academic use.

3.7B 131K context Bekijk model →
granite swash 3b a600m

Model Summary Granite-SWASH-3B-a600M is a 3B parameter decoder-only sparse language model with per-layer Sliding Window Attention (SWA) and learnable attention sinks (LSE-based). Trained on a mix of open source and proprietary data, it is a broad, general-purpose, English-language base model that serves as an early exploration and small-scale preview for upcoming Granite series model releases.

3B 8K context Bekijk model →

Probeer granite embedding 30m sparse gratis

Account aanmaken duurt een minuut. Je API-key werkt direct met granite embedding 30m sparse.

Start gratis