Llama 3.1 405B Instruct FP8 es un modelo de lenguaje de código abierto de Meta con 405B parámetros, alojado en GPU europeas mediante una API compatible con OpenAI.

Empezar gratis ← Todos los modelos

meta-llama/Llama-3.1-405B-Instruct-FP8 Bajo petición

text->text · meta-llama · sovereign EU

Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain

405B

Parámetros

—

Ventana de contexto

585GB

VRAM mínima

POST /api/v1/chat/completions Bajo petición

Especificaciones

Parámetros 405B

VRAM mínima 585 GB

Arquitectura LlamaForCausalLM (vLLM)

Licencia open-weights

Modalidad text->text

Lanzamiento July 2024

Editor meta-llama ↗

Precios

Router compartido · por token

Bajo petición

No disponible en el Router compartido. Precio bajo petición como despliegue de GPU dedicada.

GPU dedicada · por hora

desde 21,48 € por hora

Su propia instancia de vLLM en una nube europea (585 GB de VRAM), facturada por horas.

Router europeo compartido, pago por token, scale-to-zero. Los despliegues de GPU dedicada se facturan por horas, consulte precios.

Índice Bench

Bench es nuestro índice de calidad para cada modelo, de 0 a 100. Se basa en mediciones públicas (Epoch AI con unos 40 benchmarks, LiveBench, LMArena y más) y se actualiza cada mañana. Donde nadie mide, muestra una estimación con un rango.

53,7 / 100 · Vía LiveBench

Convertido a la misma escala a partir de su resultado en LiveBench.

Rango de 47,4 a 60,0

Fuentes: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Actualizado a diario, última vez el 19-10-2026

LiveBench · 47,5

Razonamiento 40,6

Programación 28,8

Matemáticas 40,5

Análisis de datos 55,9

Lenguaje 43,6

Seguimiento de instrucciones 75,9

LiveBench · Todas las tareas

Razonamiento

web of lies v3 42,0

zebra puzzle 33,8

spatial 46,0

Programación

LCB generation 33,3

coding completion 24,3

Matemáticas

AMPS Hard 49,0

math comp 40,9

olympiad 31,6

Análisis de datos

cta 60,0

tablejoin 37,5

tablereformat 70,0

Lenguaje

connections 31,0

plot unscrambling 41,8

typos 58,0

Seguimiento de instrucciones

paraphrase 76,8

simplify 82,3

story generation 74,2

summarize 70,3

Llámelo ahora

Sustituto directo de OpenAI: cambie solo la URL base y la clave de API. También se admite el formato de Anthropic (/v1/messages).

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-405B-Instruct-FP8",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Preguntas frecuentes

¿Puedo ejecutar Llama 3.1 405B Instruct FP8 en la UE?

Sí. HostYourAI ejecuta Llama 3.1 405B Instruct FP8 en GPU de centros de datos europeos mediante vLLM. Los prompts y las respuestas nunca salen de la UE y en la cadena no interviene ningún proveedor de nube estadounidense.

¿El alojamiento de Llama 3.1 405B Instruct FP8 cumple el RGPD?

Sí. Todo el tratamiento se realiza dentro de la UE, hay disponible un acuerdo de encargo del tratamiento (DPA) y la lista de subencargados es pública. Además, los pesos de código abierto significan que no se entrena con sus datos.

¿Cuánto cuesta Llama 3.1 405B Instruct FP8?

Llama 3.1 405B Instruct FP8 está disponible bajo petición: a través del Router europeo compartido tras una breve conversación, o como despliegue de GPU dedicada propio facturado por horas. Cuéntenos su caso de uso y lo configuraremos para usted.

¿La API es compatible con OpenAI?

Sí. Usted utiliza los SDK estándar de OpenAI con una URL base personalizada (https://hostyourai.com/api/v1). La API Anthropic Messages también se admite como sustituto directo.

Más modelos de Meta

Llama Guard 4 12B

Llama Guard 4 12B es un modelo de lenguaje multimodal de Meta con 12B parámetros, alojado en GPU europeas mediante una API compatible con OpenAI.

12B Ver modelo →

Llama 4 Maverick 17B 128E

Llama 4 Maverick 17B 128E es un modelo de lenguaje de código abierto de Meta con 17B parámetros, alojado en GPU europeas mediante una API compatible con OpenAI.

17B Ver modelo →

Llama 4 Scout 17B 16E

Llama 4 Scout 17B 16E es un modelo de lenguaje multimodal de Meta con 109B parámetros, alojado en GPU europeas mediante una API compatible con OpenAI.

109B Ver modelo →

Llama 4 Scout 17B 16E Instruct

Llama 4 Scout 17B 16E Instruct es un modelo de lenguaje multimodal de Meta con 109B parámetros, alojado en GPU europeas mediante una API compatible con OpenAI.

109B Ver modelo →

Llama 4 Maverick 17B 128E Instruct

Llama 4 Maverick 17B 128E Instruct es un modelo de lenguaje de código abierto de Meta con 17B parámetros, alojado en GPU europeas mediante una API compatible con OpenAI.

17B Ver modelo →

Llama 3.3 70B Instruct

Llama 3.3 70B Instruct es un modelo de lenguaje de código abierto de Meta con 71B parámetros y una ventana de contexto de 131K tokens, alojado en GPU europeas mediante una API compatible con OpenAI.

71B 131K contexto Ver modelo →

Pruebe Llama 3.1 405B Instruct FP8 gratis

Crear una cuenta lleva un minuto. Pruebe Llama 3.1 405B Instruct FP8 de inmediato en el Playground.

Empezar gratis