Llama 3 Hosting
Despliegue los modelos Llama 3.3 de Meta en infraestructura europea dedicada.
La familia Llama de Meta es el caballo de batalla de los LLM abiertos: con licencia permisiva, bien documentada y disponible en tamaños que van desde modelos de bolsillo hasta pesos pesados de 70B. HostYourAI ejecuta las generaciones Llama 3.1, 3.2 y 3.3 con vLLM en GPU europeas, de modo que obtiene la calidad de Llama sin enviar ni un solo prompt fuera de la UE.
Puede llamar a los modelos Llama de dos maneras. El EU Inference Router compartido da acceso inmediato por token, con los tamaños más populares siempre calientes. Para tráfico de producción constante o requisitos estrictos de aislamiento, las instancias GPU dedicadas ejecutan el Llama que elija con su propia clave de API cifrada.
Por qué alojar Llama en la UE
Pesos abiertos, servicio soberano
Los pesos de Llama son públicos, así que nada le obliga a ejecutarlos en infraestructura estadounidense. Alojarlos en GPU europeas convierte un modelo abierto en una pila verdaderamente soberana: los pesos, la capa de servicio vLLM y el hardware quedan fuera del control de cualquier proveedor único.
La protección de datos sigue siendo sencilla
Los prompts a un modelo Llama aquí se procesan en centros de datos europeos y nunca se usan para entrenar. Con un DPA y una lista pública de subencargados, su documentación del RGPD para la función sigue siendo una página, no un proyecto.
Pague por tokens, no por teoría ociosa
En el Router paga por token desde un saldo prepago; una instancia Llama dedicada se factura por hora y pasa a reposo cuando no se usa. Ambas salen de un único saldo, explicado en la página de precios, de modo que experimentar con un Llama más grande es una decisión que puede revertir el mismo día.
from openai import OpenAI client = OpenAI( base_url="https://hostyourai.com/api/v1", api_key="hyai-...") client.chat.completions.create( model="llama-3.3-70b", messages=[{"role":"user","content":"Hallo!"}])
Cómo elegir el tamaño de Llama para su carga de trabajo
Las generaciones de Llama se reparten con claridad por tarea. Los modelos pequeños 3.2 (1B y 3B) están pensados para tareas de alto volumen y bajo riesgo: enrutamiento, etiquetado, extracción, barreras de seguridad. Llama 3.1 8B es la opción por defecto para resúmenes y salida estructurada, lo bastante barata como para llamarla en cada solicitud. En lo más alto, Llama 3.3 70B ofrece aproximadamente la calidad de asistente que se espera de un modelo de chat de frontera, con buen seguimiento de instrucciones y salida multilingüe, incluido el neerlandés.
Un patrón práctico es empezar cada función con 3.3 70B a través del Router, medir la calidad y luego bajar tareas concretas a tamaños más pequeños hasta que la calidad caiga. El Model Garden muestra qué variantes de Llama están calientes en este momento, y cada una puede probarse en el Playground antes de escribir código.
| Variante de Llama | Uso habitual |
|---|---|
| Llama 3.2 1B | Clasificación, enrutamiento y comprobaciones de barreras de seguridad a muy alto volumen |
| Llama 3.2 3B | Resúmenes cortos, extracción de entidades, autocompletado |
| Llama 3.1 8B | Resúmenes generales, salida JSON estructurada, redacción de borradores |
| Llama 3.1 70B | Razonamiento complejo y análisis de contexto largo |
| Llama 3.3 70B | Asistentes de chat en producción, diálogo multilingüe, respuestas RAG |
Cómo empezar
Los modelos Llama están tras el endpoint estándar compatible con OpenAI, por lo que cualquier SDK de OpenAI funciona sin cambios.
from openai import OpenAI
client = OpenAI(
base_url="https://hostyourai.com/api/v1",
api_key="hyai-...",
)
response = client.chat.completions.create(
model="llama-3.3-70b",
messages=[
{"role": "system", "content": "You are a concise Dutch-speaking assistant."},
{"role": "user", "content": "Leg in twee zinnen uit wat vLLM doet."},
],
max_tokens=200,
)
print(response.choices[0].message.content)Preguntas sobre el alojamiento de Llama
¿Qué versiones de Llama están disponibles?
Las generaciones Llama 3.1, 3.2 y 3.3, de 1B a 70B. El Model Garden muestra el estado en vivo de cada una: caliente, calentándose, lista para servir o bajo petición.
¿Llama 3.3 70B se mantiene caliente en el Router?
Los modelos populares se mantienen calientes mediante un warm pool para que las solicitudes empiecen a generar de inmediato. La página de catálogo de cada modelo muestra su estado actual antes de llamarlo.
¿Puede Llama responder en neerlandés?
Sí. Llama 3.1 y 3.3 son multilingües y manejan bien el neerlandés, una de las razones por las que los equipos neerlandeses eligen 70B para el chat de cara al cliente.
¿Cuánta GPU necesita un Llama de 70B?
Una tarjeta grande de la clase de 80 GB o una configuración con varias GPU. No tiene que dimensionarlo usted: el despliegue aplica un VRAM floor, de modo que una instancia dedicada siempre recibe hardware en el que el modelo cabe.
¿Puedo combinar Llama con mis propios documentos?
Sí. Vincule una base de conocimiento al Router o a su instancia y el contexto relevante se inyecta automáticamente en las respuestas. La guía Cree RAG en GPU de la UE muestra la configuración de principio a fin.
Todo lo que necesita para la IA
Del alojamiento de modelos a una API de cara al cliente, está pensado para desarrolladores y empresas que quieren que su IA funcione en una infraestructura que realmente controlan, dentro de la UE.
Sus datos y sus modelos permanecen en GPU europeas. Diseñado para cumplir el RGPD.
Llama, Qwen, DeepSeek, Mistral, FLUX y muchos más. Elija uno y estará listo en minutos, sin DevOps por su parte.
Apunte su cliente actual al Router y conserve sus herramientas. Sin reescribir nada, sin dependencia.
De cero a un endpoint listo en minutos
Sin infraestructura que gestionar. Elija un modelo, obtenga una URL compatible con OpenAI y lance.
Elija un modelo
Elija en el Model Garden o pegue cualquier ID de HuggingFace. Defina la VRAM y elija una GPU europea.
Obtenga su endpoint
Desplegamos vLLM, ejecutamos las comprobaciones de disponibilidad y le entregamos una URL lista, compatible con OpenAI y Anthropic, además de una clave de API.
Enrute y lance
Apunte su cliente al Router. Enruta automáticamente a una instancia arrancada, deja las GPU en reposo cuando nadie está conectado y registra cada solicitud.
Privado por defecto
HostYourAI mantiene sus modelos, prompts y datos en GPU europeas. Está pensado para equipos que se preocupan por el cumplimiento normativo, la fiabilidad y un control real.
GPUs and data residency inside Europe. Your prompts never leave the EU.
Run open-weight models with no black boxes or hidden telemetry.
GPUs idle when nobody is online, so you only pay for what you run.
Your infra, your keys, your models. Leave whenever you want.
Funciona con las herramientas que ya utiliza
El Router habla las API de OpenAI y Anthropic, así que se integra directamente en los clientes y SDK que su equipo ya usa. Solo tiene que cambiar la URL base.
Pruebe HostYourAI gratis
Frequently asked questions
Can I run this in the EU?
Yes. HostYourAI runs open models on GPUs in European datacenters via vLLM. Your prompts and outputs never leave the EU and there is no US cloud provider in the chain.
Is it GDPR-compliant?
Yes. All processing happens inside the EU, a Data Processing Agreement (DPA) is available and the subprocessor list is public. Open weights also mean no training on your data.
Is the API OpenAI-compatible?
Yes. Point your existing OpenAI or Anthropic client at our Router (https://hostyourai.com/api/v1), change only the base URL and API key. No rewrite, no lock-in.
What does it cost?
Pay-as-you-go on one prepaid credit balance: the shared router per token or a dedicated GPU per hour. Free to start, no minimum, no fixed monthly fee.
Works with 390+ open models
Text and image models on dedicated EU GPUs. Every model tested on our own hardware.
Related pages
Explore more about EU-hosted AI on HostYourAI.
Aloje Qwen 2.5 32B en NVIDIA A100 40GB dedicada en centros de datos europeos. Conforme al RGPD, desde €2.50/hora, API compatible con OpenAI.
Read more →Aloje StarCoder2 15B en NVIDIA A10 dedicada en centros de datos europeos. Conforme al RGPD, desde €1.50/hora, API compatible con OpenAI.
Read more →Una alternativa a AWS Bedrock que funciona íntegramente en la UE. Modelos abiertos en GPUs europeas, compatible con OpenAI y Anthropic, sin nube de EE. UU.
Read more →Aloje Codestral 22B en NVIDIA A100 40GB dedicada en centros de datos europeos. Conforme al RGPD, desde €2.50/hora, API compatible con OpenAI.
Read more →Aloje CodeLlama 34B en NVIDIA A100 40GB dedicada en centros de datos europeos. Conforme al RGPD, desde €2.50/hora, API compatible con OpenAI.
Read more →Aloje Vicuna 13B en NVIDIA A10 dedicada en centros de datos europeos. Conforme al RGPD, desde €1.50/hora, API compatible con OpenAI.
Read more →Aloje. Enrute. Lance.
No se necesita tarjeta de crédito. Pague por uso y cancele cuando quiera.
Empiece hoy a alojar gratis