Guía 04 EU compute
De un modelo de HuggingFace a un endpoint activo y compatible con OpenAI en una GPU europea.
GLM
DeepSeek
Qwen
Kimi
Mistral
Llama
gpt-oss
Gemma
Loes
Nemotron
Claude Code
Codex
OpenCode
Cursor
Cline
Loes
OpenAI SDK
Anthropic SDK01 Guía
El Router compartido es perfecto para empezar rápido y pagar por token. Elija una instancia dedicada cuando desee aislamiento, latencia predecible o un modelo concreto en su propio hardware. En una instancia dedicada, vLLM se ejecuta en una única GPU europea que es exclusivamente suya.
Seleccione un modelo del Model Garden o pegue un ID de HuggingFace, por ejemplo Qwen/Qwen3-8B. Cada modelo necesita una cantidad de VRAM; el paso de despliegue estima la VRAM mínima y le impide elegir una GPU demasiado pequeña. Los modelos con acceso restringido (como algunas variantes de Llama) los solicitamos de forma centralizada, de modo que usted no tiene que gestionar licencias individuales.
La GPU obtiene el script de configuración mediante un token firmado e inicia vLLM con su propia clave de API (almacenada cifrada), de modo que su endpoint queda protegido. Ejecutamos comprobaciones de disponibilidad en /health; en cuanto vLLM está listo, la instancia avisa y el estado pasa a "warm". Recibe una URL compatible con OpenAI y Anthropic, además de una clave de API.
Acceda a la instancia a través del Router mediante el slug de su modelo, o directamente en el endpoint de la instancia:
curl https://hostyourai.com/api/instances/<instance-id>/chat/completions \
-H "Authorization: Bearer hyai-..." \
-H "Content-Type: application/json" \
-d '{"messages":[{"role":"user","content":"Hola"}]}'Como la instancia es compatible con OpenAI, el SDK de OpenAI también funciona aquí: configure la URL base del Router y elija el slug de su modelo.
Una instancia dedicada se factura por minuto mientras existe; elimínela cuando ya no la necesite y la facturación se detiene al momento. Su panel muestra el estado, el uso y los registros. Para añadir contexto de sus propios documentos, vincule una base de conocimiento a la instancia; consulte la guía de RAG.
La VRAM que necesita depende del número de parámetros, de la cuantización y de la longitud del contexto. La tabla siguiente ofrece valores orientativos prácticos; el paso de despliegue comprueba el mínimo automáticamente, de modo que nunca podrá elegir una GPU demasiado pequeña. El catálogo actual de modelos está en el Model Garden.
| Tamaño del modelo | Ejemplos | VRAM orientativa |
|---|---|---|
| 1 a 4B | Llama 3.2 3B, variantes pequeñas de Qwen, Gemma 4B | 8 a 12 GB |
| 7 a 9B | Qwen3-8B, Llama 3.1 8B, Mistral 7B | 16 a 24 GB |
| 12 a 14B | Gemma 12B, Qwen 14B | 24 a 40 GB |
| 30 a 34B | Qwen 32B, variantes destiladas de DeepSeek | 48 a 80 GB |
| 70B y superiores | Llama 3.3 70B | 80 GB o más |
08 Guía
01
Los modelos grandes primero tienen que descargar y cargar decenas de gigabytes de pesos, lo que lleva un tiempo. La instancia avisa por sí sola en cuanto se supera la comprobación de disponibilidad en /health. Si el estado se queda bloqueado durante horas, revise los registros en su panel.
02
Entonces la VRAM es demasiado pequeña para el modelo elegido. Estimamos la VRAM mínima de antemano y bloqueamos las GPUs de tamaño insuficiente, porque de lo contrario vLLM fallaría durante la carga. Elija una GPU con más memoria o un modelo más pequeño.
03
Cada instancia ejecuta vLLM con su propia clave de API, almacenada cifrada. Si pasa por el Router, utilice su clave hyai-; debe estar completa y sin espacios en la cabecera Authorization.
04
Compruebe el endpoint: a través del Router, la URL base es https://hostyourai.com/api/v1 con el slug de su modelo, y de forma directa se usa la ruta de la instancia /api/instances/<instance-id>/chat/completions.
09 Guía
01
Normalmente unos minutos. Los modelos grandes tardan más porque hay que descargar y cargar los pesos. Puede ver el estado en tiempo real en su panel y en el Model Garden.
02
Sí, una instancia dedicada se factura por minuto mientras existe. Elimínela cuando ya no la necesite, o use el Router por token para un tráfico irregular. Se paga por minuto, por uso; consulte la página de precios.
03
Cualquier modelo abierto con un ID de HuggingFace, incluidos Llama, Qwen, Mistral, DeepSeek y Gemma. Puede leer más sobre cómo ejecutar su propio hardware en la página de instancias de GPU dedicadas.
04
Sí. Vincule una base de conocimiento y cada llamada de chat recibe automáticamente contexto de sus propios documentos, con citas de las fuentes en las respuestas sin streaming.
05
Con tráfico variable o bajo. Entonces paga por token y no gestiona nada; lea más sobre el EU Inference Router.
Del alojamiento de modelos a una API de cara al cliente, está pensado para desarrolladores y empresas que quieren que su IA funcione en una infraestructura que realmente controlan, dentro de la UE.
Alojado en la UE
100%
Sus datos y sus modelos permanecen en GPU europeas. Diseñado para cumplir el RGPD.
Modelos verificados, listos para servir
700+
Llama, Qwen, DeepSeek, Mistral, FLUX y muchos más. Elija uno y estará listo en minutos, sin DevOps por su parte.
Compatible con OpenAI y Anthropic
2 SDK
Apunte su cliente actual al Router y conserve sus herramientas. Sin reescribir nada, sin dependencia.
Sin infraestructura que gestionar. Elija un modelo, obtenga una URL compatible con OpenAI y lance.
01
Elija en el Model Garden o pegue cualquier ID de HuggingFace. Defina la VRAM y elija una GPU europea.
02
Desplegamos vLLM, ejecutamos las comprobaciones de disponibilidad y le entregamos una URL lista, compatible con OpenAI y Anthropic, además de una clave de API.
03
Apunte su cliente al Router. Enruta automáticamente a una instancia arrancada y registra cada solicitud.
Si una nube estadounidense no es una opción, HostYourAI le ofrece la misma experiencia de desarrollo en infraestructura europea.
01
Sector público y administraciones
Datos de ciudadanos que legalmente deben permanecer en la UE, con plena capacidad de auditoría.
02
Empresas reguladas
Equipos de finanzas, sanidad y legal sujetos al RGPD, DORA y la AI Act.
03
SaaS y scale-ups europeos
Lance funciones de IA en las que sus clientes confíen, sin un subencargado estadounidense.
04
Agencias e integradores
Ofrezca IA privada a sus clientes en una infraestructura que pueda respaldar.
HostYourAI mantiene sus modelos, prompts y datos en GPU europeas. Está pensado para equipos que se preocupan por el cumplimiento normativo, la fiabilidad y un control real.
Soberanía total de los datos
UE
Las GPU y los datos se quedan en Europa, y sus prompts también.
Modelos que puede auditar
Abierto
Ejecute modelos open-weight y vea exactamente qué se ejecuta.
Sin cuota mensual
0 €
Crédito prepago por token o por minuto, así solo paga lo que usa.
Sus claves, sus modelos
Suyo
Sus claves, sus modelos y sus datos. Cambie cuando quiera.
Sí. HostYourAI ejecuta modelos abiertos con vLLM en GPU de centros de datos europeos. Sus prompts y respuestas se quedan en la UE.
Sí. Todo el procesamiento ocurre dentro de la UE, hay un acuerdo de tratamiento de datos (DPA) disponible y la lista de subencargados es pública. Los pesos abiertos también garantizan que sus datos nunca se usan para entrenar.
Sí. Apunte su cliente de OpenAI o Anthropic actual a nuestro Router (https://hostyourai.com/api/v1) y cambie solo la URL base y la clave de API. Su código se queda como está.
Pago por uso desde un único saldo de crédito prepago: el Router compartido por token o una GPU dedicada facturada por minuto. Gratis para empezar, sin mínimo y sin cuota mensual fija.
Modelos de texto e imagen en GPU europeas dedicadas. Cada modelo se prueba en nuestro propio hardware.
Empiece con una capa y añada las demás cuando el trabajo lo pida. Comparten una clave, un saldo y una vista de Activity.
Su agente de programación con modelos abiertos en Europa, configurado con un solo comando.
AbrirClaves, presupuestos y barreras por equipo, y datos personales detenidos antes de que un modelo los vea.
AbrirGPU privadas en Europa, de H100 a B300, dimensionadas según el tiempo de respuesta, la velocidad de generación y los usuarios simultáneos.
AbrirDescubra más sobre la IA alojada en la UE con HostYourAI.
Crear RAG en GPUs de la UE
Cree un pipeline RAG en GPUs europeas. Vincule una base de conocimiento al Router y base las respuestas en sus propios documentos, con citas de las fuentes.
Leer másMigrar OpenAI al Router de la UE
Guía paso a paso para migrar su integración de OpenAI al Router de la UE. Cambie la URL base y la clave de API y ejecute modelos abiertos en GPUs europeas.
Leer másEmpiece hoy con una sola clave. Añada GPU dedicadas cuando su carga lo necesite.
