Model garden Router · auf Anfrage Dedicated · verfügbar

NVIDIA Nemotron 3.5 Bolt 74B A9B 24GB

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

NVIDIA Nemotron 3.5 Bolt 74B-A9B 24GB is a vision-language model (VLM) designed to run everyday agentic tasks locally, using a native 2-bit quantization to fit in 24GB of memory and run alongside other applications. It optimizes intelligence and speed per GB. It aims to achieve t...

nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB Auf Anfrage
text+image->text · nvidia · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
22B
Parameter
—
Kontextfenster
32GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 22B
Minimaler VRAM 32 GB
Architektur NemotronH_Omni_Reasoning_V3 (vLLM)
Lizenz other
Modalität text+image->text
Veröffentlicht October 2026
Anbieter nvidia ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €2,03 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (32 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich NVIDIA Nemotron 3.5 Bolt 74B A9B 24GB in der EU betreiben?

Ja. HostYourAI betreibt NVIDIA Nemotron 3.5 Bolt 74B A9B 24GB auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von NVIDIA Nemotron 3.5 Bolt 74B A9B 24GB DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet NVIDIA Nemotron 3.5 Bolt 74B A9B 24GB?

NVIDIA Nemotron 3.5 Bolt 74B A9B 24GB ist auf Anfrage verfügbar: über den gemeinsamen EU-Router nach kurzer Abstimmung oder als dediziertes GPU-Deployment, das pro Stunde abgerechnet wird. Nennen Sie uns Ihren Anwendungsfall, dann richten wir es für Sie ein.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von NVIDIA

Muse Spark Open 816B A42B DFlash2

This model is ready for commercial or non-commercial use. <br

4.4B 1M Kontext Modell ansehen →
NVIDIA Nemotron 3.5 Super VL 120B A12B NVFP4

NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4 is the quantized release of NVIDIA Nemotron 3.5 Super VL, a vision-language model for reasoning, coding, tool use, document understanding, and video understanding. It uses NVFP4 quantization to reduce memory requirements, with quantization-aware distillation from the BF16 model.

66B Modell ansehen →
NVIDIA Nemotron 3.5 Super VL 120B A12B BF16

NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 is the full-precision release of NVIDIA Nemotron 3.5 Super VL, a vision-language model for reasoning, coding, tool use, document understanding, and video understanding. The BF16 weights support customization, domain adaptation, and full-precision evaluation. For optimized deployment, see the NVFP4 release.

124B Modell ansehen →
NVIDIA Nemotron 3.5 Super VL 120B A12B Base BF16

Looking for a post-trained model? See the BF16 release for customization or the NVFP4 release for optimized deployment.

124B Modell ansehen →
NVIDIA Nemotron 3.5 Bolt 74B A9B BF16

NVIDIA Nemotron 3.5 Bolt 74B-A9B is a vision-language model (VLM) designed to run everyday agentic tasks locally. This is the full-precision (BF16) release of this model, intended primarily for customization and post-training rather than direct production inference.

75B Modell ansehen →
Qwen3.8 Flash Next FP4 Local

IMPORTANT: the NVFP4 scale factors in this checkpoint are in a new lossless compression format, but upstream vLLM support for this format has not yet landed. You must use one of the containers provided below.

96B 262K Kontext Modell ansehen →

Testen Sie NVIDIA Nemotron 3.5 Bolt 74B A9B 24GB kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie NVIDIA Nemotron 3.5 Bolt 74B A9B 24GB direkt im Playground.

Kostenlos starten