Model garden Router · op aanvraag Dedicated · beschikbaar

Llama 3.1 Nemotron Nano 8B v1

Dit model draait als eigen dedicated GPU-deployment, direct te starten via de wizard. Data blijft in Europa.

Llama-3.1-Nemotron-Nano-8B-v1 is a large language model (LLM) which is a derivative of Meta Llama-3.1-8B-Instruct (AKA the reference model). It is a reasoning model that is post trained for reasoning, human chat preferences, and tasks, such as RAG and tool calling.

nvidia/Llama-3.1-Nemotron-Nano-8B-v1 Op aanvraag
text->text · nvidia · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
8B
Parameters
131K
Contextvenster
24GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 8B
Contextvenster 131,072 tokens
Minimale VRAM 24 GB
Architectuur LlamaForCausalLM (vLLM)
Licentie other
Modaliteit text->text
Uitgebracht March 2025
Uitgever nvidia ↗

Prijzen

Gedeelde router · per token
Op aanvraag
Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.
Dedicated GPU · per uur
vanaf €0,70 per uur
Eigen vLLM-instance op Europese cloud (24 GB VRAM), per uur afgerekend.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/Llama-3.1-Nemotron-Nano-8B-v1",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik Llama 3.1 Nemotron Nano 8B v1 in de EU draaien?

Ja. HostYourAI draait Llama 3.1 Nemotron Nano 8B v1 op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Llama 3.1 Nemotron Nano 8B v1 hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Llama 3.1 Nemotron Nano 8B v1?

Llama 3.1 Nemotron Nano 8B v1 is beschikbaar op aanvraag: via de gedeelde EU-router na kort overleg, of als eigen dedicated GPU-deployment per uur. Vertel ons je use case, dan zetten we het voor je klaar.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van NVIDIA

Ising Calibration 1.5 31B NVFP4

GOVERNING TERMS: Use of this model is governed by the OpenMDW License Agreement, version 1.1. ADDITIONAL INFORMATION: Apache License, Version 2.0.

31B 262K context Bekijk model →
Ising Calibration 1.5 31B BF16

GOVERNING TERMS: Use of this model is governed by the OpenMDW License Agreement, version 1.1. ADDITIONAL INFORMATION: Apache License, Version 2.0.

31B 262K context Bekijk model →
Cosmos3 Super Text2Image 4Step

Cosmos3-Super-Text2Image-4Step is a 4-step distilled version of the base Cosmos3-Super-Text2Image model. Given a text prompt, it generates a high-fidelity image.

64B 262K context Bekijk model →
Qwen Image Flash

The NVIDIA Qwen-Image-Flash model generates images from text prompts using a four-step, DMD2-distilled version of Qwen/Qwen-Image. The distillation used DMD2 from NVIDIA FastGen, NVIDIA Model Optimizer, and NVIDIA AutoModel while retaining the base model architecture. The packaged scheduler is configured for the four-step, shift-3 trajectory.

20B Bekijk model →
NVIDIA Nemotron Labs 3 Puzzle 75B A9B NVFP4

The model employs a hybrid MoE architecture with interleaved Mamba, MoE, and Attention layers. Like Nemotron-3-Super, it supports Multi-Token Prediction (MTP) for faster text generation. Compared to its parent, Puzzle-75B-A9B reduces the model from 120.7B total / 12.8B active parameters to 75.3B total / 9.3B active parameters.

45B 262K context Bekijk model →
NVIDIA Nemotron 3 Ultra 550B A55B NVFP4

For more details on how to deploy and use the model - see the Quick Start Guide below!

550B 262K context Bekijk model →

Probeer Llama 3.1 Nemotron Nano 8B v1 gratis

Account aanmaken duurt een minuut. Test Llama 3.1 Nemotron Nano 8B v1 direct in de playground.

Start gratis