Ir al contenido
03 Model garden Serve

Llama 3.1 405B Instruct FP8

Se ejecuta como su propio despliegue de GPU dedicada, listo para lanzar desde el asistente. Los datos permanecen en Europa.

curl
$ curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.1-405B-Instruct-FP8",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Llámelo ahora

Sustituto directo de OpenAI: cambie solo la URL base y la clave de API. También se admite el formato de Anthropic (/v1/messages).

Serve Model garden Bajo petición
meta-llama/Llama-3.1-405B-Instruct-FP8

text->text · meta-llama · soberano en la UE

Funciona en infraestructura de la UE operada por empresas europeas, desde su solicitud hasta la GPU. Ver la cadena completa

Llama 3.1 405B Instruct FP8 es un modelo de lenguaje de código abierto de Meta con 405B parámetros, alojado en GPU europeas mediante una API compatible con OpenAI.

Router
Router · bajo petición
Dedicated
Dedicado · disponible
405BParámetros
585GBVRAM mínima
POST /api/v1/chat/completions Bajo petición

Especificaciones

Parámetros405B
VRAM mínima585 GB
ArquitecturaLlamaForCausalLM (vLLM)
Licenciaopen-weights
Modalidadtext->text
LanzamientoJuly 2024
Editormeta-llama ↗

Precios

Router compartido · por token

Bajo petición No disponible en el Router compartido. Precio bajo petición como despliegue de GPU dedicada.

GPU dedicada · por hora

desde 23,76 € por horaSu propia instancia de vLLM en una nube europea (585 GB de VRAM), facturada por minuto.

Router europeo compartido, solo paga por token. Los despliegues de GPU dedicada se facturan por minuto, consulte precios.

Índice Bench

Bench es nuestro índice de calidad para cada modelo, de 0 a 100. Se basa en mediciones públicas (Epoch AI con unos 40 benchmarks, LiveBench, LMArena y más) y se actualiza cada mañana. Donde nadie mide, muestra una estimación con un rango.

51,2 / 100 · Vía LiveBench

Convertido a la misma escala a partir de su resultado en LiveBench.

Rango de 44,1 a 58,4

Fuentes: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Actualizado a diario, última vez el 19-11-2026

LiveBench · 47,5

Razonamiento40,6
Programación28,8
Matemáticas40,5
Análisis de datos55,9
Lenguaje43,6
Seguimiento de instrucciones75,9
LiveBench · Todas las tareas
Razonamiento
web of lies v342,0
zebra puzzle33,8
spatial46,0
Programación
LCB generation33,3
coding completion24,3
Matemáticas
AMPS Hard49,0
math comp40,9
olympiad31,6
Análisis de datos
cta60,0
tablejoin37,5
tablereformat70,0
Lenguaje
connections31,0
plot unscrambling41,8
typos58,0
Seguimiento de instrucciones
paraphrase76,8
simplify82,3
story generation74,2
summarize70,3
Preguntas

Preguntas frecuentes

¿Puedo ejecutar Llama 3.1 405B Instruct FP8 en la UE?

Sí. HostYourAI ejecuta Llama 3.1 405B Instruct FP8 en GPU de centros de datos europeos mediante vLLM. Los prompts y las respuestas nunca salen de la UE y en la cadena no interviene ningún proveedor de nube estadounidense.

¿El alojamiento de Llama 3.1 405B Instruct FP8 cumple el RGPD?

Sí. Todo el tratamiento se realiza dentro de la UE, hay disponible un acuerdo de encargo del tratamiento (DPA) y la lista de subencargados es pública. Además, los pesos de código abierto significan que no se entrena con sus datos.

¿Cuánto cuesta Llama 3.1 405B Instruct FP8?

Llama 3.1 405B Instruct FP8 está disponible bajo petición: a través del Router europeo compartido tras una breve conversación, o como despliegue de GPU dedicada propio facturado por minuto. Cuéntenos su caso de uso y lo configuraremos para usted.

¿La API es compatible con OpenAI?

Sí. Usted utiliza los SDK estándar de OpenAI con una URL base personalizada (https://hostyourai.com/api/v1). La API Anthropic Messages también se admite como sustituto directo.

La plataforma

Una plataforma, cuatro capas

Empiece con una capa y añada las demás cuando el trabajo lo pida. Comparten una clave, un saldo y una vista Activity.

Code

Su agente de programación con modelos abiertos en Europa, configurado con un solo comando.

Abrir

Control

Claves, presupuestos y barreras por equipo, y datos personales detenidos antes de que un modelo los vea.

Abrir

Serve

Compartidos por token, o solo para usted, desde centros de datos europeos.

Abrir

EU compute

GPU privadas en Europa, de H100 a B300, dimensionadas según el tiempo de respuesta, la velocidad de generación y los usuarios simultáneos.

Abrir

Pruebe Llama 3.1 405B Instruct FP8 gratis

Crear una cuenta lleva un minuto. Pruebe Llama 3.1 405B Instruct FP8 de inmediato en el Playground.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
El equipo detrás de HostYourAI