This model was converted to MLX format from ibm-granite/granite-docling-258M using mlx-vlm version 0.3.3. Refer to the original model card for more details on the model.

Empezar gratis ← Todos los modelos

ibm-granite/granite-docling-258M-mlx Bajo petición

text+image->text · ibm-granite · sovereign EU

Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain

0.3B

Parámetros

Ventana de contexto

8GB

VRAM mínima

POST /api/v1/chat/completions Bajo petición

Especificaciones

Parámetros 0.3B

Ventana de contexto 8,192 tokens

VRAM mínima 8 GB

Arquitectura Idefics3ForConditionalGeneration (vLLM)

Licencia apache-2.0

Modalidad text+image->text

Lanzamiento July 2025

Editor ibm-granite ↗

Precios

Router compartido · por token

Bajo petición

No disponible en el Router compartido. Precio bajo petición como despliegue de GPU dedicada.

GPU dedicada · por hora

desde 0,87 € por hora

Su propia instancia de vLLM en una nube europea (8 GB de VRAM), facturada por horas.

Router europeo compartido, pago por token, scale-to-zero. Los despliegues de GPU dedicada se facturan por horas, consulte precios.

Índice Bench

Bench es nuestro índice de calidad para cada modelo, de 0 a 100. Se basa en mediciones públicas (Epoch AI con unos 40 benchmarks, LiveBench, LMArena y más) y se actualiza cada mañana. Donde nadie mide, muestra una estimación con un rango.

~16,5 / 100 · Estimación

Aún sin benchmark público: estimado a partir del tamaño y la fecha de lanzamiento.

Rango de 5,1 a 27,9

Fuentes: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Actualizado a diario, última vez el 19-10-2026

Llámelo ahora

Sustituto directo de OpenAI: cambie solo la URL base y la clave de API. También se admite el formato de Anthropic (/v1/messages).

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "ibm-granite/granite-docling-258M-mlx",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Preguntas frecuentes

¿Puedo ejecutar granite docling 258M mlx en la UE?

Sí. HostYourAI ejecuta granite docling 258M mlx en GPU de centros de datos europeos mediante vLLM. Los prompts y las respuestas nunca salen de la UE y en la cadena no interviene ningún proveedor de nube estadounidense.

¿El alojamiento de granite docling 258M mlx cumple el RGPD?

Sí. Todo el tratamiento se realiza dentro de la UE, hay disponible un acuerdo de encargo del tratamiento (DPA) y la lista de subencargados es pública. Además, los pesos de código abierto significan que no se entrena con sus datos.

¿Cuánto cuesta granite docling 258M mlx?

granite docling 258M mlx está disponible bajo petición: a través del Router europeo compartido tras una breve conversación, o como despliegue de GPU dedicada propio facturado por horas. Cuéntenos su caso de uso y lo configuraremos para usted.

¿La API es compatible con OpenAI?

Sí. Usted utiliza los SDK estándar de OpenAI con una URL base personalizada (https://hostyourai.com/api/v1). La API Anthropic Messages también se admite como sustituto directo.

Más modelos de Ibm-granite

granite 4.2 30b

Granite is a family of open-source large language models developed by IBM, designed for enterprise and research use. Granite models are built to be versatile, safe, and efficient — covering a range of sizes and capabilities from compact edge-deployable models to large-scale reasoning systems. All Granite models are released under the Apache 2.0 license, enabling unrestricted commercial and academic use.

29B 131K contexto Ver modelo →

granite 4.2 8b

8.8B 131K contexto Ver modelo →

granite 4.2 3b

3.7B 131K contexto Ver modelo →

granite swash 3b a600m

Model Summary Granite-SWASH-3B-a600M is a 3B parameter decoder-only sparse language model with per-layer Sliding Window Attention (SWA) and learnable attention sinks (LSE-based). Trained on a mix of open source and proprietary data, it is a broad, general-purpose, English-language base model that serves as an early exploration and small-scale preview for upcoming Granite series model releases.

3B 8K contexto Ver modelo →

granite swash 2b

Model Summary Granite-SWASH-2B is a 2B parameter decoder-only dense language model with per-layer Sliding Window Attention (SWA) and learnable attention sinks (LSE-based). Trained on a mix of open source and proprietary data, it is a broad, general-purpose, English-language base model that serves as an early exploration and small-scale preview for upcoming Granite series model releases.

2.1B 8K contexto Ver modelo →

granite embedding 311m multilingual r2

Model Summary: Granite-Embedding-311M-Multilingual-R2 is a 311M parameter dense embedding model from the Granite Embeddings collection for high-quality multilingual text embeddings. It produces 768-dimensional vectors with a context length of up to 32,768 tokens. The model supports 200+ languages (based on the multilingual pretraining corpus of the underlying encoder), with enhanced support for 52 languages and programming code that receive explicit retrieval-pair and cross-lingual training. All training data uses permissive, enterprise-friendly licenses, plus IBM-collected and IBM-generated d

0.3B 33K contexto Ver modelo →

Pruebe granite docling 258M mlx gratis

Crear una cuenta lleva un minuto. Pruebe granite docling 258M mlx de inmediato en el Playground.

Empezar gratis