Code
Su agente de programación con modelos abiertos en Europa, configurado con un solo comando.
AbrirSe ejecuta como su propio despliegue de GPU dedicada, listo para lanzar desde el asistente. Los datos permanecen en Europa.
$ curl https://hostyourai.com/api/v1/chat/completions \
-H "Authorization: Bearer hyai-..." \
-H "Content-Type: application/json" \
-d '{
"model": "zai-org/LongCite-llama3.1-8b",
"messages": [{"role": "user", "content": "Hello!"}]
}'
Sustituto directo de OpenAI: cambie solo la URL base y la clave de API. También se admite el formato de Anthropic (/v1/messages).
text->text · zai-org · soberano en la UE
Funciona en infraestructura de la UE operada por empresas europeas, desde su solicitud hasta la GPU. Ver la cadena completa
LongCite-llama3.1-8b is trained based on Meta-Llama-3.1-8B, and is capable of generating fine-grained citations in long-context question answering. The model supports a maximum context window of up to 128K tokens.
| Parámetros | 8B |
|---|---|
| Ventana de contexto | 131,072 tokens |
| VRAM mínima | 24 GB |
| Arquitectura | LlamaForCausalLM (vLLM) |
| Modalidad | text->text |
| Lanzamiento | September 2024 |
| Editor | zai-org ↗ |
Router compartido · por token
GPU dedicada · por hora
Router europeo compartido, solo paga por token. Los despliegues de GPU dedicada se facturan por minuto, consulte precios.
Sí. HostYourAI ejecuta LongCite llama3.1 8b en GPU de centros de datos europeos mediante vLLM. Los prompts y las respuestas nunca salen de la UE y en la cadena no interviene ningún proveedor de nube estadounidense.
Sí. Todo el tratamiento se realiza dentro de la UE, hay disponible un acuerdo de encargo del tratamiento (DPA) y la lista de subencargados es pública. Además, los pesos de código abierto significan que no se entrena con sus datos.
LongCite llama3.1 8b está disponible bajo petición: a través del Router europeo compartido tras una breve conversación, o como despliegue de GPU dedicada propio facturado por minuto. Cuéntenos su caso de uso y lo configuraremos para usted.
Sí. Usted utiliza los SDK estándar de OpenAI con una URL base personalizada (https://hostyourai.com/api/v1). La API Anthropic Messages también se admite como sustituto directo.
Empiece con una capa y añada las demás cuando el trabajo lo pida. Comparten una clave, un saldo y una vista Activity.
Su agente de programación con modelos abiertos en Europa, configurado con un solo comando.
AbrirClaves, presupuestos y barreras por equipo, y datos personales detenidos antes de que un modelo los vea.
AbrirGPU privadas en Europa, de H100 a B300, dimensionadas según el tiempo de respuesta, la velocidad de generación y los usuarios simultáneos.
AbrirCrear una cuenta lleva un minuto. Pruebe LongCite llama3.1 8b de inmediato en el Playground.







