Model garden Router · bajo petición Dedicado · disponible

Llama 3.1 70B

Se ejecuta como su propio despliegue de GPU dedicada, listo para lanzar desde el asistente. Los datos permanecen en Europa.

Llama 3.1 70B es un modelo de lenguaje de código abierto de Meta con 71B parámetros, alojado en GPU europeas mediante una API compatible con OpenAI.

meta-llama/Llama-3.1-70B Bajo petición
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
71B
Parámetros
—
Ventana de contexto
170GB
VRAM mínima
POST /api/v1/chat/completions Bajo petición

Especificaciones

Parámetros 71B
VRAM mínima 170 GB
Arquitectura LlamaForCausalLM (vLLM)
Licencia llama3.1
Modalidad text->text
Lanzamiento July 2024

Precios

Router compartido · por token
Bajo petición
No disponible en el Router compartido. Precio bajo petición como despliegue de GPU dedicada.
GPU dedicada · por hora
desde 5,33 € por hora
Su propia instancia de vLLM en una nube europea (170 GB de VRAM), facturada por horas.

Router europeo compartido, pago por token, scale-to-zero. Los despliegues de GPU dedicada se facturan por horas, consulte precios.

Índice Bench

Bench es nuestro índice de calidad para cada modelo, de 0 a 100. Se basa en mediciones públicas (Epoch AI con unos 40 benchmarks, LiveBench, LMArena y más) y se actualiza cada mañana. Donde nadie mide, muestra una estimación con un rango.

~39,0 / 100 · Estimación

Aún sin benchmark público: estimado a partir del tamaño y la fecha de lanzamiento.

Rango de 27,6 a 50,4

Fuentes: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Actualizado a diario, última vez el 19-10-2026

Llámelo ahora

Sustituto directo de OpenAI: cambie solo la URL base y la clave de API. También se admite el formato de Anthropic (/v1/messages).

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-70B",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Preguntas frecuentes

¿Puedo ejecutar Llama 3.1 70B en la UE?

Sí. HostYourAI ejecuta Llama 3.1 70B en GPU de centros de datos europeos mediante vLLM. Los prompts y las respuestas nunca salen de la UE y en la cadena no interviene ningún proveedor de nube estadounidense.

¿El alojamiento de Llama 3.1 70B cumple el RGPD?

Sí. Todo el tratamiento se realiza dentro de la UE, hay disponible un acuerdo de encargo del tratamiento (DPA) y la lista de subencargados es pública. Además, los pesos de código abierto significan que no se entrena con sus datos.

¿Cuánto cuesta Llama 3.1 70B?

Llama 3.1 70B necesita varias GPU a la vez, por lo que se ejecuta como despliegue dedicado facturado por hora de GPU y no por token. Indíquenos su volumen y haremos el cálculo con usted.

¿La API es compatible con OpenAI?

Sí. Usted utiliza los SDK estándar de OpenAI con una URL base personalizada (https://hostyourai.com/api/v1). La API Anthropic Messages también se admite como sustituto directo.

Más modelos de Meta

Pruebe Llama 3.1 70B gratis

Crear una cuenta lleva un minuto. Pruebe Llama 3.1 70B de inmediato en el Playground.

Empezar gratis