Product

Alojamiento de LLM privado

Su propia infraestructura de LLM privada, sin recursos compartidos.

EU Inference Router

‹ Insight 1 of 28 ›
98.7% ↗ 12%
4,931 of 5,000 requests served warm
EU-hostedModels run on European GPUs
Drop-inOpenAI and Anthropic compatible
Scale to zeroGPUs idle when nobody is online

El alojamiento de LLM privado significa que su modelo se ejecuta en hardware que no sirve a nadie más. En HostYourAI obtiene una instancia de GPU dedicada con su propio proceso vLLM, su propia clave de API cifrada y ninguna capacidad compartida en la capa de servicio. Nada de lo que haga otro cliente puede ralentizar ni afectar su tráfico.

Dónde se encuentra ese hardware importa tanto como con quién se comparte. HostYourAI, una empresa neerlandesa con sede en Groningen, opera todo en centros de datos europeos, de modo que un despliegue privado también mantiene los prompts y las respuestas bajo jurisdicción de la UE desde la primera solicitud.

Por qué alojar un LLM privado en la UE

RGPD sin quebraderos de cabeza por las transferencias

Si los prompts contienen datos personales, enviarlos a una API operada desde EE. UU. crea una transferencia de datos que usted tiene que justificar. Una instancia privada en centros de datos europeos elimina esa cuestión: el tratamiento se realiza dentro de la UE, respaldado por un acuerdo de encargo del tratamiento (DPA) y una lista pública de subencargados.

Fuera del alcance de la CLOUD Act

La legislación estadounidense puede obligar a los proveedores de EE. UU. a entregar datos con independencia de dónde estén los servidores. Un modelo privado alojado por una empresa europea conforme al Derecho europeo no está sujeto a ese mecanismo, lo que con frecuencia es el argumento decisivo para los equipos jurídicos.

Las entradas confidenciales siguen siendo confidenciales

El alojamiento privado se combina de forma natural con una garantía de no entrenamiento. HostYourAI nunca entrena con datos de clientes, cifra los datos en reposo con AES-256 y utiliza TLS en tránsito, de modo que contratos, código fuente o notas de pacientes pueden pasar por el modelo sin acabar en el conjunto de entrenamiento de nadie.

python
from openai import OpenAI
client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...")
client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role":"user","content":"Hallo!"}])

El modelo de aislamiento: qué es suyo y qué se comparte

Una instancia dedicada le da toda la ruta de servicio. La GPU ejecuta únicamente su modelo, vLLM se inicia solo para usted y el endpoint está protegido por una clave de API cifrada generada para esa instancia. Cuando el tráfico se detiene, la instancia entra en reposo para que no pague por una GPU parada. Lo único que sigue compartido es la plataforma que la rodea: el sistema de facturación, el panel y el pipeline de despliegue. En la capa de servicio no se comparte nada.

Compárelo con el EU Inference Router compartido, que agrupa modelos activos entre clientes y factura por token:

AspectoRouter compartidoInstancia dedicada
Capacidad de GPUCompartida entre clientesReservada para usted
Proceso vLLMCompartido por modeloSolo suyo
Clave de APIClave del Router (hyai-)Clave propia cifrada de la instancia
Elección de modeloCatálogo de modelos activosCualquier modelo, cualquier versión
FacturaciónPor tokenPor hora, en reposo cuando no se usa
Perfil de latenciaDepende de la carga del conjuntoPredecible, un solo inquilino

Ambas modalidades se alimentan de un único saldo de crédito prepago; consulte la página de precios para ver cómo funciona el pago por uso.

qwen3-8b vLLM ready
NVIDIA A100 · 40GB · EU marketplace · eu-central
VRAM19.2 / 40 GB
GPU utilisation71%
42 ms
time-to-first-token
128
tokens / sec
62°C
temperature
POST /api/v1/chat/completions200 OK

Cómo empezar

Elija un modelo en el catálogo de modelos, despliegue una instancia y llámela con el SDK de OpenAI. El mismo código funciona también con el Router, así que puede crear prototipos en modo compartido y pasar a privado más adelante sin reescribir nada. O siga la guía de migración si ya tiene un cliente de OpenAI.

from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-your-key",
)

resp = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role": "user", "content": "Resume esta cláusula contractual en lenguaje sencillo."}],
)
print(resp.choices[0].message.content)
One-click deployment
OpenAI-compatible API
4 EU datacenters
End-to-end encryptie
Dedicated GPU instances
Audit logging

Preguntas sobre el alojamiento de LLM privado

¿Se comparte algo con otros clientes?

No en la capa de servicio. La GPU, el proceso vLLM y la clave de API son exclusivamente suyos. Solo se comparten los servicios de plataforma que los rodean, como la facturación y el panel.

¿Pago mientras la instancia está en reposo?

Las instancias entran en reposo automáticamente cuando no se usan, de modo que un endpoint inactivo deja de consumir créditos. La facturación es por hora, con cargo a su saldo prepago, mientras la instancia está activa.

¿Qué modelos puedo alojar de forma privada?

Cualquier modelo abierto: elija entre más de 100 del catálogo o aporte un ID de modelo de HuggingFace. El despliegue aplica un mínimo de VRAM para que la GPU nunca sea demasiado pequeña para el modelo.

¿Puedo adjuntar mis propios documentos?

Sí. Vincule una base de conocimiento a su instancia y el contexto relevante se inyecta automáticamente en las respuestas del chat, con citas de las fuentes en las respuestas sin streaming. Consulte Crear RAG en GPUs de la UE.

¿Dónde residen físicamente mis datos?

En centros de datos europeos de varias regiones europeas. HostYourAI proporciona un DPA, publica su lista de subencargados y nunca entrena con datos de clientes.

¿Qué disponibilidad puedo esperar?

HostYourAI ofrece un SLA de disponibilidad del 99,9%. Las instancias dedicadas además mantienen una latencia predecible porque ningún otro inquilino compite por la GPU.

je vraag
doc-4f2a0.94
doc-9c1e0.91
doc-2b770.88

Todo lo que necesita para la IA

Del alojamiento de modelos a una API de cara al cliente, está pensado para desarrolladores y empresas que quieren que su IA funcione en una infraestructura que realmente controlan, dentro de la UE.

100%
Alojado en la UE

Sus datos y sus modelos permanecen en GPU europeas. Diseñado para cumplir el RGPD.

200+
Modelos verificados, listos para servir

Llama, Qwen, DeepSeek, Mistral, FLUX y muchos más. Elija uno y estará listo en minutos, sin DevOps por su parte.

2 SDK
Compatible con OpenAI y Anthropic

Apunte su cliente actual al Router y conserve sus herramientas. Sin reescribir nada, sin dependencia.

De cero a un endpoint listo en minutos

Sin infraestructura que gestionar. Elija un modelo, obtenga una URL compatible con OpenAI y lance.

1

Elija un modelo

Elija en el Model Garden o pegue cualquier ID de HuggingFace. Defina la VRAM y elija una GPU europea.

2

Obtenga su endpoint

Desplegamos vLLM, ejecutamos las comprobaciones de disponibilidad y le entregamos una URL lista, compatible con OpenAI y Anthropic, además de una clave de API.

3

Enrute y lance

Apunte su cliente al Router. Enruta automáticamente a una instancia arrancada, deja las GPU en reposo cuando nadie está conectado y registra cada solicitud.

Creado para equipos que no pueden enviar sus datos fuera

Si una nube estadounidense no es una opción, HostYourAI le ofrece la misma experiencia de desarrollo en infraestructura europea.

Sector público y administraciones

Datos de ciudadanos que legalmente deben permanecer en la UE, con plena capacidad de auditoría.

Empresas reguladas

Equipos de finanzas, sanidad y legal sujetos al RGPD, DORA y la AI Act.

SaaS y scale-ups europeos

Lance funciones de IA en las que sus clientes confíen, sin un subencargado estadounidense.

Agencias e integradores

Ofrezca IA privada a sus clientes en una infraestructura que pueda respaldar.

Privado por defecto

HostYourAI mantiene sus modelos, prompts y datos en GPU europeas. Está pensado para equipos que se preocupan por el cumplimiento normativo, la fiabilidad y un control real.

EU-hostedGDPR-friendlyOpenAI-compatiblevLLM-poweredNo lock-in
EU
Full data sovereignty

GPUs and data residency inside Europe. Your prompts never leave the EU.

Open
Models you can audit

Run open-weight models with no black boxes or hidden telemetry.

€0
Scale to zero

GPUs idle when nobody is online, so you only pay for what you run.

Yours
No vendor lock-in

Your infra, your keys, your models. Leave whenever you want.

Frequently asked questions

Can I run this in the EU?

Yes. HostYourAI runs open models on GPUs in European datacenters via vLLM. Your prompts and outputs never leave the EU and there is no US cloud provider in the chain.

Is it GDPR-compliant?

Yes. All processing happens inside the EU, a Data Processing Agreement (DPA) is available and the subprocessor list is public. Open weights also mean no training on your data.

Is the API OpenAI-compatible?

Yes. Point your existing OpenAI or Anthropic client at our Router (https://hostyourai.com/api/v1), change only the base URL and API key. No rewrite, no lock-in.

What does it cost?

Pay-as-you-go on one prepaid credit balance: the shared router per token or a dedicated GPU per hour. Free to start, no minimum, no fixed monthly fee.

Model garden

Works with 390+ open models

Text and image models on dedicated EU GPUs. Every model tested on our own hardware.

Related pages

Explore more about EU-hosted AI on HostYourAI.

Aloje. Enrute. Lance.

No se necesita tarjeta de crédito. Pague por uso y cancele cuando quiera.

Empiece hoy a alojar gratis