Model garden Router · bajo petición Dedicado · disponible

Llama 3.1 405B

Se ejecuta como su propio despliegue de GPU dedicada, listo para lanzar desde el asistente. Los datos permanecen en Europa.

Llama 3.1 405B es un modelo de lenguaje de código abierto de Meta con 405B parámetros, alojado en GPU europeas mediante una API compatible con OpenAI.

meta-llama/Llama-3.1-405B Bajo petición
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
405B
Parámetros
—
Ventana de contexto
975GB
VRAM mínima
POST /api/v1/chat/completions Bajo petición

Especificaciones

Parámetros 405B
VRAM mínima 975 GB
Arquitectura LlamaForCausalLM (vLLM)
Licencia open-weights
Modalidad text->text
Lanzamiento July 2024

Precios

Router compartido · por token
Bajo petición
No disponible en el Router compartido. Precio bajo petición como despliegue de GPU dedicada.
GPU dedicada · por hora
desde 49,52 € por hora
Su propia instancia de vLLM en una nube europea (975 GB de VRAM), facturada por horas.

Router europeo compartido, pago por token, scale-to-zero. Los despliegues de GPU dedicada se facturan por horas, consulte precios.

Índice Bench

Bench es nuestro índice de calidad para cada modelo, de 0 a 100. Se basa en mediciones públicas (Epoch AI con unos 40 benchmarks, LiveBench, LMArena y más) y se actualiza cada mañana. Donde nadie mide, muestra una estimación con un rango.

48,5 / 100 · Medido

Medido por Epoch AI en 15 benchmarks, con un rango.

Rango de 41,9 a 50,8 · Puesto 169 de 277 en Epoch AI

Fuentes: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Actualizado a diario, última vez el 19-10-2026

Todos los benchmarks (15)
ARC AI2 93,7
HellaSwag 85,6
TriviaQA 82,7
MMLU 79,3
Winogrande 78,4
BBH 77,2
PIQA 71,8
MATH level 5 49,8
DTBench 35,6
GPQA diamond 34,6
WeirdML 21,4
OTIS Mock AIME 2024-2025 9,6
SimpleBench 7,6
Cybench 7,5
The Agent Company 7,4

Llámelo ahora

Sustituto directo de OpenAI: cambie solo la URL base y la clave de API. También se admite el formato de Anthropic (/v1/messages).

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-405B",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Preguntas frecuentes

¿Puedo ejecutar Llama 3.1 405B en la UE?

Sí. HostYourAI ejecuta Llama 3.1 405B en GPU de centros de datos europeos mediante vLLM. Los prompts y las respuestas nunca salen de la UE y en la cadena no interviene ningún proveedor de nube estadounidense.

¿El alojamiento de Llama 3.1 405B cumple el RGPD?

Sí. Todo el tratamiento se realiza dentro de la UE, hay disponible un acuerdo de encargo del tratamiento (DPA) y la lista de subencargados es pública. Además, los pesos de código abierto significan que no se entrena con sus datos.

¿Cuánto cuesta Llama 3.1 405B?

Llama 3.1 405B está disponible bajo petición: a través del Router europeo compartido tras una breve conversación, o como despliegue de GPU dedicada propio facturado por horas. Cuéntenos su caso de uso y lo configuraremos para usted.

¿La API es compatible con OpenAI?

Sí. Usted utiliza los SDK estándar de OpenAI con una URL base personalizada (https://hostyourai.com/api/v1). La API Anthropic Messages también se admite como sustituto directo.

Más modelos de Meta

Pruebe Llama 3.1 405B gratis

Crear una cuenta lleva un minuto. Pruebe Llama 3.1 405B de inmediato en el Playground.

Empezar gratis