Model garden Op aanvraag

Nemotron Mini 4B Instruct

Dit model draait als dedicated deployment op grote GPU's en staat niet standaard in de gedeelde playground. Neem contact op, dan zetten we het voor je klaar.

Nemotron-Mini-4B-Instruct is a model for generating responses for roleplaying, retrieval augmented generation, and function calling. It is a small language model (SLM) optimized through distillation, pruning and quantization for speed and on-device deployment. It is a fine-tuned...

nvidia/Nemotron-Mini-4B-Instruct Op aanvraag
text->text · nvidia · EU-hosted
4B
Parameters
4K
Contextvenster
10GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 4B
Contextvenster 4,096 tokens
Minimale VRAM 10 GB
Architectuur NemotronForCausalLM (vLLM)
Licentie other
Modaliteit text->text
Uitgebracht September 2024
Uitgever nvidia ↗

Prijzen

€0.03
Input (per 1M tokens)
€0.08
Output (per 1M tokens)

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/Nemotron-Mini-4B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik Nemotron Mini 4B Instruct in de EU draaien?

Ja. HostYourAI draait Nemotron Mini 4B Instruct op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Nemotron Mini 4B Instruct hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Nemotron Mini 4B Instruct?

Via de gedeelde EU-router betaal je €0.03 per miljoen input-tokens en €0.08 per miljoen output-tokens, zonder vaste kosten. Voor hoge volumes of isolatie kun je Nemotron Mini 4B Instruct ook als dedicated GPU-instance per uur draaien.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van NVIDIA

Vraag toegang aan

Nemotron Mini 4B Instruct is nog niet standaard beschikbaar. Laat je gegevens achter, dan regelen we een dedicated deployment.

Vraag toegang aan