Ir al contenido
03 Model garden Serve

Llama 2 70b hf

Se ejecuta como su propio despliegue de GPU dedicada, listo para lanzar desde el asistente. Los datos permanecen en Europa.

curl
$ curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-2-70b-hf",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Llámelo ahora

Sustituto directo de OpenAI: cambie solo la URL base y la clave de API. También se admite el formato de Anthropic (/v1/messages).

Serve Model garden Bajo petición
meta-llama/Llama-2-70b-hf

text->text · meta-llama · soberano en la UE

Funciona en infraestructura de la UE operada por empresas europeas, desde su solicitud hasta la GPU. Ver la cadena completa

Llama 2 70b hf es un modelo de lenguaje de código abierto de Meta con 69B parámetros, alojado en GPU europeas mediante una API compatible con OpenAI.

Router
Router · bajo petición
Dedicated
Dedicado · disponible
69BParámetros
166GBVRAM mínima
POST /api/v1/chat/completions Bajo petición

Especificaciones

Parámetros69B
VRAM mínima166 GB
ArquitecturaLlamaForCausalLM (vLLM)
Licenciallama2
Modalidadtext->text
LanzamientoJuly 2023
Editormeta-llama ↗

Precios

Router compartido · por token

Bajo petición No disponible en el Router compartido. Precio bajo petición como despliegue de GPU dedicada.

GPU dedicada · por hora

desde 4,42 € por horaSu propia instancia de vLLM en una nube europea (166 GB de VRAM), facturada por minuto.

Router europeo compartido, solo paga por token. Los despliegues de GPU dedicada se facturan por minuto, consulte precios.

Índice Bench

Bench es nuestro índice de calidad para cada modelo, de 0 a 100. Se basa en mediciones públicas (Epoch AI con unos 40 benchmarks, LiveBench, LMArena y más) y se actualiza cada mañana. Donde nadie mide, muestra una estimación con un rango.

19,6 / 100 · Medido

Medido por Epoch AI en 14 benchmarks, con un rango.

Rango de 12,0 a 26,1 · Puesto 210 de 257 en Epoch AI

Fuentes: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Actualizado a diario, última vez el 19-11-2026

Todos los benchmarks (14)
TriviaQA87,6
HellaSwag80,4
LAMBADA78,9
ARC AI271,1
GSM8K69,6
PIQA65,6
Winogrande60,4
MMLU59,9
BBH53,2
OpenBookQA46,9
MATH level 53,3
DTBench2,7
GPQA diamond1,8
OTIS Mock AIME 2024-20250,0
Preguntas

Preguntas frecuentes

¿Puedo ejecutar Llama 2 70b hf en la UE?

Sí. HostYourAI ejecuta Llama 2 70b hf en GPU de centros de datos europeos mediante vLLM. Los prompts y las respuestas nunca salen de la UE y en la cadena no interviene ningún proveedor de nube estadounidense.

¿El alojamiento de Llama 2 70b hf cumple el RGPD?

Sí. Todo el tratamiento se realiza dentro de la UE, hay disponible un acuerdo de encargo del tratamiento (DPA) y la lista de subencargados es pública. Además, los pesos de código abierto significan que no se entrena con sus datos.

¿Cuánto cuesta Llama 2 70b hf?

Llama 2 70b hf necesita varias GPU a la vez, por lo que se ejecuta como despliegue dedicado facturado por minuto de GPU y no por token. Indíquenos su volumen y haremos el cálculo con usted.

¿La API es compatible con OpenAI?

Sí. Usted utiliza los SDK estándar de OpenAI con una URL base personalizada (https://hostyourai.com/api/v1). La API Anthropic Messages también se admite como sustituto directo.

La plataforma

Una plataforma, cuatro capas

Empiece con una capa y añada las demás cuando el trabajo lo pida. Comparten una clave, un saldo y una vista Activity.

Code

Su agente de programación con modelos abiertos en Europa, configurado con un solo comando.

Abrir

Control

Claves, presupuestos y barreras por equipo, y datos personales detenidos antes de que un modelo los vea.

Abrir

Serve

Compartidos por token, o solo para usted, desde centros de datos europeos.

Abrir

EU compute

GPU privadas en Europa, de H100 a B300, dimensionadas según el tiempo de respuesta, la velocidad de generación y los usuarios simultáneos.

Abrir

Pruebe Llama 2 70b hf gratis

Crear una cuenta lleva un minuto. Pruebe Llama 2 70b hf de inmediato en el Playground.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
El equipo detrás de HostYourAI