Servicio 03 Serve
Inferencia LLM optimizada para aplicaciones en producción.
GLM
DeepSeek
Qwen
Kimi
Mistral
Llama
gpt-oss
Gemma
Loes
Nemotron
Claude Code
Codex
OpenCode
Cursor
Cline
Loes
OpenAI SDK
Anthropic SDKQué hace Servicio
Servir un modelo de lenguaje a usuarios reales es un trabajo muy distinto a ejecutarlo en un portátil. La inferencia en producción implica solicitudes concurrentes, tokens en streaming, capacidad predecible y una visión clara de lo que ha costado cada solicitud. HostYourAI ejecuta modelos abiertos como Llama, Qwen, Mistral y DeepSeek con vLLM en GPU europeas, expuestos mediante una API compatible con OpenAI, de modo que el código de su aplicación apenas cambia.
El lugar donde se realiza esa inferencia importa. Cada prompt que envían sus usuarios son datos, y a menudo datos personales. Mantener la inferencia en centros de datos europeos, respaldada por un acuerdo de encargo del tratamiento (DPA) y una lista pública de subencargados, convierte un quebradero de cabeza de cumplimiento normativo en una casilla que realmente puede marcar.
Leer más
01
Tickets de soporte, notas médicas, cláusulas contractuales: todo lo que escriben sus usuarios acaba en un prompt. Conforme al RGPD, usted es responsable de dónde se procesa ese texto. Una inferencia que nunca sale de varias regiones europeas mantiene corto su mapa de flujos de datos y hace que su DPA tenga sentido. HostYourAI no entrena con datos de clientes, y el tráfico se cifra con TLS en tránsito y AES-256 en reposo.
02
Los viajes de ida y vuelta a otro continente añaden retraso a cada token de una respuesta en streaming. En las interfaces de chat, donde la velocidad percibida es el tiempo hasta el primer token, servir desde GPU europeas a usuarios europeos simplemente se siente más rápido. Los modelos populares del Router compartido se mantienen calientes mediante un warm pool, de modo que las solicitudes no esperan a que se cargue un modelo en frío.
03
Las facturas de inferencia son notoriamente opacas. HostYourAI utiliza un único saldo de crédito prepagado, que se recarga con iDEAL, tarjeta o SEPA, y cada solicitud se mide para que pueda ver el consumo por clave. Como la API es compatible con OpenAI, entrar o salir se reduce a cambiar la URL base, no a reescribir nada. Encontrará los detalles en la página de precios.
Tres cosas separan una demo de un servicio. Primero, el streaming: la API admite server-sent events en /v1/chat/completions, de modo que los tokens llegan a su interfaz a medida que se generan. Segundo, la capacidad: el EU Inference Router compartido agrupa la demanda en una flota caliente, mientras que las instancias GPU dedicadas le dan un servidor vLLM propio, con una clave de API cifrada y un mínimo de VRAM que impide desplegar un modelo en una GPU demasiado pequeña. Tercero, la observabilidad: registros de uso por solicitud y un SLA de disponibilidad del 99,9 %, para que sepa tanto lo que ha ocurrido como lo que puede esperar.
| Requisito de producción | Cómo se cumple |
|---|---|
| Streaming de tokens | SSE en /v1/chat/completions, compatible con OpenAI |
| Primer token rápido | El warm pool mantiene cargados los modelos populares del Router |
| Capacidad garantizada | Instancias vLLM dedicadas facturadas por minuto |
| Visibilidad del uso | Medición por solicitud desde un único saldo de crédito |
| Disponibilidad | SLA de disponibilidad del 99,9 % |
| Hardware bien dimensionado | Mínimo de VRAM aplicado en el despliegue |
Cree una clave de API, elija un modelo en el catálogo de modelos y apunte su cliente OpenAI actual a la nueva URL base. Este ejemplo en JavaScript recibe en streaming una respuesta de Llama 3.3 70B:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://hostyourai.com/api/v1",
apiKey: "hyai-...",
});
const stream = await client.chat.completions.create({
model: "llama-3.3-70b",
messages: [{ role: "user", content: "Resume este ticket para el equipo de soporte." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}04 Servicio
01
El catálogo incluye más de 700 modelos abiertos, entre ellos Llama, Qwen, Mistral, DeepSeek y Gemma. El Model Garden muestra el estado de cada uno: caliente, calentándose, servible o bajo solicitud.
02
Normalmente solo la URL base y la clave de API. La API es compatible con OpenAI, y también existe una capa compatible con Anthropic en /v1/messages para el código escrito con ese SDK. Consulte la guía para migrar su cliente OpenAI al EU Router.
03
El Router factura por token y encaja con cargas de trabajo variables. Una instancia dedicada se factura por minuto, le ofrece capacidad aislada y deja de facturarse en cuanto la elimina. Ambos se nutren del mismo saldo de crédito prepagado.
04
Los modelos populares del Router se mantienen calientes, así que no hay tiempo de carga. Los modelos menos habituales pueden aparecer como calentándose en el Model Garden mientras vLLM carga los pesos.
05
Sí, /v1/chat/completions admite streaming SSE exactamente igual que la API de OpenAI. Establezca stream en true y consuma los fragmentos.
06
La inferencia se ejecuta en centros de datos europeos repartidos en varias regiones europeas. HostYourAI proporciona un DPA, publica su lista de subencargados y nunca entrena con datos de clientes.
Del alojamiento de modelos a una API de cara al cliente, está pensado para desarrolladores y empresas que quieren que su IA funcione en una infraestructura que realmente controlan, dentro de la UE.
Alojado en la UE
100%
Sus datos y sus modelos permanecen en GPU europeas. Diseñado para cumplir el RGPD.
Modelos verificados, listos para servir
700+
Llama, Qwen, DeepSeek, Mistral, FLUX y muchos más. Elija uno y estará listo en minutos, sin DevOps por su parte.
Compatible con OpenAI y Anthropic
2 SDK
Apunte su cliente actual al Router y conserve sus herramientas. Sin reescribir nada, sin dependencia.
Sin infraestructura que gestionar. Elija un modelo, obtenga una URL compatible con OpenAI y lance.
01
Elija en el Model Garden o pegue cualquier ID de HuggingFace. Defina la VRAM y elija una GPU europea.
02
Desplegamos vLLM, ejecutamos las comprobaciones de disponibilidad y le entregamos una URL lista, compatible con OpenAI y Anthropic, además de una clave de API.
03
Apunte su cliente al Router. Enruta automáticamente a una instancia arrancada y registra cada solicitud.
El Router habla las API de OpenAI y Anthropic, así que se integra directamente en los clientes y SDK que su equipo ya usa. Solo tiene que cambiar la URL base.
Docker
Anthropic
Hugging Face
LangChain
Python
Node.js
curl
Ollama
JetBrains
Jupyter
Vercel
Zapier
Postman
n8nSi una nube estadounidense no es una opción, HostYourAI le ofrece la misma experiencia de desarrollo en infraestructura europea.
01
Sector público y administraciones
Datos de ciudadanos que legalmente deben permanecer en la UE, con plena capacidad de auditoría.
02
Empresas reguladas
Equipos de finanzas, sanidad y legal sujetos al RGPD, DORA y la AI Act.
03
SaaS y scale-ups europeos
Lance funciones de IA en las que sus clientes confíen, sin un subencargado estadounidense.
04
Agencias e integradores
Ofrezca IA privada a sus clientes en una infraestructura que pueda respaldar.
Sí. HostYourAI ejecuta modelos abiertos con vLLM en GPU de centros de datos europeos. Sus prompts y respuestas se quedan en la UE.
Sí. Todo el procesamiento ocurre dentro de la UE, hay un acuerdo de tratamiento de datos (DPA) disponible y la lista de subencargados es pública. Los pesos abiertos también garantizan que sus datos nunca se usan para entrenar.
Sí. Apunte su cliente de OpenAI o Anthropic actual a nuestro Router (https://hostyourai.com/api/v1) y cambie solo la URL base y la clave de API. Su código se queda como está.
Pago por uso desde un único saldo de crédito prepago: el Router compartido por token o una GPU dedicada facturada por minuto. Gratis para empezar, sin mínimo y sin cuota mensual fija.
Modelos de texto e imagen en GPU europeas dedicadas. Cada modelo se prueba en nuestro propio hardware.
Empiece con una capa y añada las demás cuando el trabajo lo pida. Comparten una clave, un saldo y una vista de Activity.
Su agente de programación con modelos abiertos en Europa, configurado con un solo comando.
AbrirClaves, presupuestos y barreras por equipo, y datos personales detenidos antes de que un modelo los vea.
AbrirGPU privadas en Europa, de H100 a B300, dimensionadas según el tiempo de respuesta, la velocidad de generación y los usuarios simultáneos.
AbrirDescubra más sobre la IA alojada en la UE con HostYourAI.
Plataforma de alojamiento de chatbots
Aloje chatbots de IA en infraestructura europea. Atención al cliente, asistentes internos y más, con cumplimiento del RGPD.
Leer másAI Playground
Chatee con instancias dedicadas y modelos del Router en el Playground. Pruebe prompts, compare modelos y consulte después el uso y la latencia por petición.
Leer másAjuste fino de LLM
Ajuste fino de LLM para su caso de uso concreto. LoRA, QLoRA y ajuste fino completo en GPU dedicadas, con sus datos siempre en la UE.
Leer másEmpiece hoy con una sola clave. Añada GPU dedicadas cuando su carga lo necesite.
