Ir al contenido

Alojamiento de modelos 03 Serve

Llama 3 Hosting

Despliegue los modelos Llama 3.3 de Meta en infraestructura europea dedicada.

  • GLM
  • DeepSeek
  • Qwen
  • Kimi
  • Mistral
  • Llama
  • gpt-oss
  • Gemma
  • Loes
  • Nemotron
  • Claude Code
  • Codex
  • OpenCode
  • Cursor
  • Cline
  • Loes
  • OpenAI SDK
  • Anthropic SDK

Qué hace Alojamiento de modelos

Por qué alojar Llama en la UE

La familia Llama de Meta es el caballo de batalla de los LLM abiertos: con licencia permisiva, bien documentada y disponible en tamaños que van desde modelos de bolsillo hasta pesos pesados de 70B. HostYourAI ejecuta las generaciones Llama 3.1, 3.2 y 3.3 con vLLM en GPU europeas, de modo que obtiene la calidad de Llama sin enviar ni un solo prompt fuera de la UE.

Puede llamar a los modelos Llama de dos maneras. El EU Inference Router compartido da acceso inmediato por token, con los tamaños más populares siempre calientes. Para tráfico de producción constante o requisitos estrictos de aislamiento, las instancias GPU dedicadas ejecutan el Llama que elija con su propia clave de API cifrada.

Leer más

01

Pesos abiertos, servicio soberano

Los pesos de Llama son públicos, así que nada le obliga a ejecutarlos en infraestructura estadounidense. Alojarlos en GPU europeas convierte un modelo abierto en una pila verdaderamente soberana: los pesos, la capa de servicio vLLM y el hardware quedan fuera del control de cualquier proveedor único.

02

La protección de datos sigue siendo sencilla

Los prompts a un modelo Llama aquí se procesan en centros de datos europeos y nunca se usan para entrenar. Con un DPA y una lista pública de subencargados, su documentación del RGPD para la función sigue siendo una página, no un proyecto.

03

Pague por tokens, no por teoría ociosa

En el Router paga por token desde un saldo prepago; una instancia Llama dedicada se factura por minuto hasta que la elimina. Ambas salen de un único saldo, explicado en la página de precios, de modo que experimentar con un Llama más grande es una decisión que puede revertir el mismo día.

02 Alojamiento de modelos

Cómo elegir el tamaño de Llama para su carga de trabajo

Las generaciones de Llama se reparten con claridad por tarea. Los modelos pequeños 3.2 (1B y 3B) están pensados para tareas de alto volumen y bajo riesgo: enrutamiento, etiquetado, extracción, barreras de seguridad. Llama 3.1 8B es la opción por defecto para resúmenes y salida estructurada, lo bastante barata como para llamarla en cada solicitud. En lo más alto, Llama 3.3 70B ofrece aproximadamente la calidad de asistente que se espera de un modelo de chat de frontera, con buen seguimiento de instrucciones y salida multilingüe, incluido el neerlandés.

Un patrón práctico es empezar cada función con 3.3 70B a través del Router, medir la calidad y luego bajar tareas concretas a tamaños más pequeños hasta que la calidad caiga. El Model Garden muestra qué variantes de Llama están calientes en este momento, y cada una puede probarse en el Playground antes de escribir código.

Variante de LlamaUso habitual
Llama 3.2 1BClasificación, enrutamiento y comprobaciones de barreras de seguridad a muy alto volumen
Llama 3.2 3BResúmenes cortos, extracción de entidades, autocompletado
Llama 3.1 8BResúmenes generales, salida JSON estructurada, redacción de borradores
Llama 3.1 70BRazonamiento complejo y análisis de contexto largo
Llama 3.3 70BAsistentes de chat en producción, diálogo multilingüe, respuestas RAG
03 Alojamiento de modelos

Cómo empezar

Los modelos Llama están tras el endpoint estándar compatible con OpenAI, por lo que cualquier SDK de OpenAI funciona sin cambios.

python
from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...",
)

response = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[
        {"role": "system", "content": "You are a concise Dutch-speaking assistant."},
        {"role": "user", "content": "Leg in twee zinnen uit wat vLLM doet."},
    ],
    max_tokens=200,
)
print(response.choices[0].message.content)

04 Alojamiento de modelos

Preguntas sobre el alojamiento de Llama

01

¿Qué versiones de Llama están disponibles?

Las generaciones Llama 3.1, 3.2 y 3.3, de 1B a 70B. El Model Garden muestra el estado en vivo de cada una: caliente, calentándose, lista para servir o bajo petición.

02

¿Llama 3.3 70B se mantiene caliente en el Router?

Los modelos populares se mantienen calientes mediante un warm pool para que las solicitudes empiecen a generar de inmediato. La página de catálogo de cada modelo muestra su estado actual antes de llamarlo.

03

¿Puede Llama responder en neerlandés?

Sí. Llama 3.1 y 3.3 son multilingües y manejan bien el neerlandés, una de las razones por las que los equipos neerlandeses eligen 70B para el chat de cara al cliente.

04

¿Cuánta GPU necesita un Llama de 70B?

Una tarjeta grande de la clase de 80 GB o una configuración con varias GPU. No tiene que dimensionarlo usted: el despliegue aplica un VRAM floor, de modo que una instancia dedicada siempre recibe hardware en el que el modelo cabe.

05

¿Puedo combinar Llama con mis propios documentos?

Sí. Vincule una base de conocimiento al Router o a su instancia y el contexto relevante se inyecta automáticamente en las respuestas. La guía Cree RAG en GPU de la UE muestra la configuración de principio a fin.

Todo lo que necesita para la IA

Del alojamiento de modelos a una API de cara al cliente, está pensado para desarrolladores y empresas que quieren que su IA funcione en una infraestructura que realmente controlan, dentro de la UE.

Alojado en la UE

100%

Sus datos y sus modelos permanecen en GPU europeas. Diseñado para cumplir el RGPD.

Modelos verificados, listos para servir

700+

Llama, Qwen, DeepSeek, Mistral, FLUX y muchos más. Elija uno y estará listo en minutos, sin DevOps por su parte.

Compatible con OpenAI y Anthropic

2 SDK

Apunte su cliente actual al Router y conserve sus herramientas. Sin reescribir nada, sin dependencia.

De cero a un endpoint listo en minutos

Sin infraestructura que gestionar. Elija un modelo, obtenga una URL compatible con OpenAI y lance.

01

Elija un modelo

Elija en el Model Garden o pegue cualquier ID de HuggingFace. Defina la VRAM y elija una GPU europea.

02

Obtenga su endpoint

Desplegamos vLLM, ejecutamos las comprobaciones de disponibilidad y le entregamos una URL lista, compatible con OpenAI y Anthropic, además de una clave de API.

03

Enrute y lance

Apunte su cliente al Router. Enruta automáticamente a una instancia arrancada y registra cada solicitud.

Privado por defecto

HostYourAI mantiene sus modelos, prompts y datos en GPU europeas. Está pensado para equipos que se preocupan por el cumplimiento normativo, la fiabilidad y un control real.

  • Alojado en la UE
  • Compatible con el RGPD
  • Compatible con OpenAI
  • Con vLLM
  • Sin dependencia

Soberanía total de los datos

UE

Las GPU y los datos se quedan en Europa, y sus prompts también.

Modelos que puede auditar

Abierto

Ejecute modelos open-weight y vea exactamente qué se ejecuta.

Sin cuota mensual

0 €

Crédito prepago por token o por minuto, así solo paga lo que usa.

Sus claves, sus modelos

Suyo

Sus claves, sus modelos y sus datos. Cambie cuando quiera.

Funciona con las herramientas que ya utiliza

El Router habla las API de OpenAI y Anthropic, así que se integra directamente en los clientes y SDK que su equipo ya usa. Solo tiene que cambiar la URL base.

  • Docker
  • Anthropic
  • Hugging Face
  • LangChain
  • Python
  • Node.js
  • curl
  • Ollama
  • JetBrains
  • Jupyter
  • Vercel
  • Zapier
  • Postman
  • n8n
Preguntas

Preguntas frecuentes

¿Puedo usarlo en la UE?

Sí. HostYourAI ejecuta modelos abiertos con vLLM en GPU de centros de datos europeos. Sus prompts y respuestas se quedan en la UE.

¿Cumple con el RGPD?

Sí. Todo el procesamiento ocurre dentro de la UE, hay un acuerdo de tratamiento de datos (DPA) disponible y la lista de subencargados es pública. Los pesos abiertos también garantizan que sus datos nunca se usan para entrenar.

¿La API es compatible con OpenAI?

Sí. Apunte su cliente de OpenAI o Anthropic actual a nuestro Router (https://hostyourai.com/api/v1) y cambie solo la URL base y la clave de API. Su código se queda como está.

¿Cuánto cuesta?

Pago por uso desde un único saldo de crédito prepago: el Router compartido por token o una GPU dedicada facturada por minuto. Gratis para empezar, sin mínimo y sin cuota mensual fija.

Model garden

Funciona con más de 700 modelos abiertos

Modelos de texto e imagen en GPU europeas dedicadas. Cada modelo se prueba en nuestro propio hardware.

Explorar todos los modelos

La plataforma

Una plataforma, cuatro capas

Empiece con una capa y añada las demás cuando el trabajo lo pida. Comparten una clave, un saldo y una vista de Activity.

Code

Su agente de programación con modelos abiertos en Europa, configurado con un solo comando.

Abrir

Control

Claves, presupuestos y barreras por equipo, y datos personales detenidos antes de que un modelo los vea.

Abrir

Serve

Compartidos por token, o solo para usted, desde centros de datos europeos.

Abrir

EU compute

GPU privadas en Europa, de H100 a B300, dimensionadas según el tiempo de respuesta, la velocidad de generación y los usuarios simultáneos.

Abrir

Páginas relacionadas

Descubra más sobre la IA alojada en la UE con HostYourAI.

Alojamiento de Llama 3.3 70B en Europa

Aloje Llama 3.3 70B en 1x RTX PRO 6000 (96 GB) dedicada en centros de datos europeos. Conforme al RGPD, desde €1,93/hora, API compatible con OpenAI.

Leer más

Alojamiento de Mistral Small 22B en Europa

Aloje Mistral Small 22B en 1x RTX PRO 6000 (96 GB) dedicada en centros de datos europeos. Conforme al RGPD, desde €1,93/hora, API compatible con OpenAI.

Leer más

Alquiler de servidores GPU en Europa

Alquile servidores GPU en Europa. NVIDIA A100 y H100, facturación por minuto y sin compromiso a largo plazo. Ideal para cargas de trabajo de IA.

Leer más

La infraestructura de IA de Europa.
Construya con nosotros.

Empiece hoy con una sola clave. Añada GPU dedicadas cuando su carga lo necesite.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
El equipo detrás de HostYourAI