Ir al contenido
03 Model garden Serve

Llama 3.1 70B Instruct

Se ejecuta como su propio despliegue de GPU dedicada, listo para lanzar desde el asistente. Los datos permanecen en Europa.

curl
$ curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-70B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Llámelo ahora

Sustituto directo de OpenAI: cambie solo la URL base y la clave de API. También se admite el formato de Anthropic (/v1/messages).

Serve Model garden listo para vLLM
meta-llama/Llama-3.1-70B-Instruct

text->text · meta-llama · soberano en la UE

Funciona en infraestructura de la UE operada por empresas europeas, desde su solicitud hasta la GPU. Ver la cadena completa

Llama 3.1 70B Instruct es un modelo de lenguaje de código abierto de Meta con 71B parámetros, alojado en GPU europeas mediante una API compatible con OpenAI.

Router
Router · bajo petición
Dedicated
Dedicado · disponible
71BParámetros
170GBVRAM mínima
POST /api/v1/chat/completions Bajo petición

Especificaciones

Parámetros71B
VRAM mínima170 GB
ArquitecturaLlamaForCausalLM (vLLM)
Licenciallama3.1
Modalidadtext->text
LanzamientoJuly 2024
Editormeta-llama ↗

Precios

Router compartido · por token

Bajo petición No disponible en el Router compartido. Precio bajo petición como despliegue de GPU dedicada.

GPU dedicada · por hora

desde 4,42 € por horaSu propia instancia de vLLM en una nube europea (170 GB de VRAM), facturada por minuto.

Router europeo compartido, solo paga por token. Los despliegues de GPU dedicada se facturan por minuto, consulte precios.

✓ Funcionamiento verificado el 26-07-2026, respuesta en 153 ms en nuestra infraestructura europea.

Índice Bench

Bench es nuestro índice de calidad para cada modelo, de 0 a 100. Se basa en mediciones públicas (Epoch AI con unos 40 benchmarks, LiveBench, LMArena y más) y se actualiza cada mañana. Donde nadie mide, muestra una estimación con un rango.

43,4 / 100 · Medido

Medido por Epoch AI en 9 benchmarks, con un rango.

Rango de 39,5 a 47,0 · Puesto 177 de 257 en Epoch AI

Fuentes: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Actualizado a diario, última vez el 19-11-2026

LiveBench · 40,5

Razonamiento29,7
Programación19,9
Matemáticas32,5
Análisis de datos53,8
Lenguaje38,4
Seguimiento de instrucciones69,0
Todos los benchmarks (9)
MMLU73,5
MATH level 536,7
DTBench33,3
Balrog27,9
GPQA diamond26,7
LMCA17,5
WeirdML9,0
The Agent Company6,9
OTIS Mock AIME 2024-20253,5
LiveBench · Todas las tareas
Razonamiento
web of lies v334,0
zebra puzzle19,0
spatial36,0
Programación
LCB generation24,0
coding completion15,7
Matemáticas
AMPS Hard41,0
math comp28,9
olympiad27,7
Análisis de datos
cta52,0
tablejoin31,3
tablereformat78,0
Lenguaje
connections20,8
plot unscrambling36,2
typos58,0
Seguimiento de instrucciones
paraphrase72,8
simplify73,4
story generation63,8
summarize66,1
Preguntas

Preguntas frecuentes

¿Puedo ejecutar Llama 3.1 70B Instruct en la UE?

Sí. HostYourAI ejecuta Llama 3.1 70B Instruct en GPU de centros de datos europeos mediante vLLM. Los prompts y las respuestas nunca salen de la UE y en la cadena no interviene ningún proveedor de nube estadounidense.

¿El alojamiento de Llama 3.1 70B Instruct cumple el RGPD?

Sí. Todo el tratamiento se realiza dentro de la UE, hay disponible un acuerdo de encargo del tratamiento (DPA) y la lista de subencargados es pública. Además, los pesos de código abierto significan que no se entrena con sus datos.

¿Cuánto cuesta Llama 3.1 70B Instruct?

Llama 3.1 70B Instruct necesita varias GPU a la vez, por lo que se ejecuta como despliegue dedicado facturado por minuto de GPU y no por token. Indíquenos su volumen y haremos el cálculo con usted.

¿La API es compatible con OpenAI?

Sí. Usted utiliza los SDK estándar de OpenAI con una URL base personalizada (https://hostyourai.com/api/v1). La API Anthropic Messages también se admite como sustituto directo.

La plataforma

Una plataforma, cuatro capas

Empiece con una capa y añada las demás cuando el trabajo lo pida. Comparten una clave, un saldo y una vista Activity.

Code

Su agente de programación con modelos abiertos en Europa, configurado con un solo comando.

Abrir

Control

Claves, presupuestos y barreras por equipo, y datos personales detenidos antes de que un modelo los vea.

Abrir

Serve

Compartidos por token, o solo para usted, desde centros de datos europeos.

Abrir

EU compute

GPU privadas en Europa, de H100 a B300, dimensionadas según el tiempo de respuesta, la velocidad de generación y los usuarios simultáneos.

Abrir

Pruebe Llama 3.1 70B Instruct gratis

Crear una cuenta lleva un minuto. Pruebe Llama 3.1 70B Instruct de inmediato en el Playground.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
El equipo detrás de HostYourAI