Model garden Router · bajo petición Dedicado · disponible

Llama 3.1 405B FP8

Se ejecuta como su propio despliegue de GPU dedicada, listo para lanzar desde el asistente. Los datos permanecen en Europa.

Llama 3.1 405B FP8 es un modelo de lenguaje de código abierto de Meta con 405B parámetros, alojado en GPU europeas mediante una API compatible con OpenAI.

meta-llama/Llama-3.1-405B-FP8 Bajo petición
text->text · meta-llama · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
405B
Parámetros
—
Ventana de contexto
585GB
VRAM mínima
POST /api/v1/chat/completions Bajo petición

Especificaciones

Parámetros 405B
VRAM mínima 585 GB
Arquitectura LlamaForCausalLM (vLLM)
Licencia open-weights
Modalidad text->text
Lanzamiento July 2024

Precios

Router compartido · por token
Bajo petición
No disponible en el Router compartido. Precio bajo petición como despliegue de GPU dedicada.
GPU dedicada · por hora
desde 21,48 € por hora
Su propia instancia de vLLM en una nube europea (585 GB de VRAM), facturada por horas.

Router europeo compartido, pago por token, scale-to-zero. Los despliegues de GPU dedicada se facturan por horas, consulte precios.

Índice Bench

Bench es nuestro índice de calidad para cada modelo, de 0 a 100. Se basa en mediciones públicas (Epoch AI con unos 40 benchmarks, LiveBench, LMArena y más) y se actualiza cada mañana. Donde nadie mide, muestra una estimación con un rango.

48,5 / 100 · Medido

Medido por Epoch AI en 15 benchmarks, con un rango.

Rango de 41,9 a 50,8 · Puesto 169 de 277 en Epoch AI

Fuentes: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Actualizado a diario, última vez el 19-10-2026

Todos los benchmarks (15)
ARC AI2 93,7
HellaSwag 85,6
TriviaQA 82,7
MMLU 79,3
Winogrande 78,4
BBH 77,2
PIQA 71,8
MATH level 5 49,8
DTBench 35,6
GPQA diamond 34,6
WeirdML 21,4
OTIS Mock AIME 2024-2025 9,6
SimpleBench 7,6
Cybench 7,5
The Agent Company 7,4

Llámelo ahora

Sustituto directo de OpenAI: cambie solo la URL base y la clave de API. También se admite el formato de Anthropic (/v1/messages).

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-405B-FP8",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Preguntas frecuentes

¿Puedo ejecutar Llama 3.1 405B FP8 en la UE?

Sí. HostYourAI ejecuta Llama 3.1 405B FP8 en GPU de centros de datos europeos mediante vLLM. Los prompts y las respuestas nunca salen de la UE y en la cadena no interviene ningún proveedor de nube estadounidense.

¿El alojamiento de Llama 3.1 405B FP8 cumple el RGPD?

Sí. Todo el tratamiento se realiza dentro de la UE, hay disponible un acuerdo de encargo del tratamiento (DPA) y la lista de subencargados es pública. Además, los pesos de código abierto significan que no se entrena con sus datos.

¿Cuánto cuesta Llama 3.1 405B FP8?

Llama 3.1 405B FP8 está disponible bajo petición: a través del Router europeo compartido tras una breve conversación, o como despliegue de GPU dedicada propio facturado por horas. Cuéntenos su caso de uso y lo configuraremos para usted.

¿La API es compatible con OpenAI?

Sí. Usted utiliza los SDK estándar de OpenAI con una URL base personalizada (https://hostyourai.com/api/v1). La API Anthropic Messages también se admite como sustituto directo.

Más modelos de Meta

Pruebe Llama 3.1 405B FP8 gratis

Crear una cuenta lleva un minuto. Pruebe Llama 3.1 405B FP8 de inmediato en el Playground.

Empezar gratis