Model garden Router · warm Dedicated · verfügbar

NVIDIA Nemotron 3.5 Lightning 30B A3B BF16

Sofort über den EU-Router oder als dediziertes GPU-Deployment. Ihre Daten bleiben in Europa.

The pre-training data has a cutoff date of September 2025. The post-training data has a cutoff date of May 2026.

nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16
text->text · nvidia · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
32B
Parameter
1,049K
Kontextfenster
80GB
Minimaler VRAM
POST /api/v1/chat/completions 200 OK

Spezifikationen

Parameter 32B
Kontextfenster 1,048,576 tokens
Minimaler VRAM 80 GB
Architektur NemotronHForCausalLM (vLLM)
Lizenz other
Modalität text->text
Veröffentlicht August 2026
Anbieter nvidia ↗

Preise

Gemeinsamer Router · pro Token
€0.07
Input (pro 1M Tokens)
€0.28
Output (pro 1M Tokens)
Dediziertes GPU · pro Stunde
ab €2,56 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (80 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

~58,9 / 100 · Schätzung

Noch kein öffentlicher Benchmark: geschätzt aus Größe und Veröffentlichungsdatum.

Bandbreite 47,5 bis 70,3

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 08-10-2026

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 in der EU betreiben?

Ja. HostYourAI betreibt NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet NVIDIA Nemotron 3.5 Lightning 30B A3B BF16?

Über den gemeinsamen EU-Router zahlen Sie €0.07 pro Million Input-Tokens und €0.28 pro Million Output-Tokens, ohne Fixkosten. Für hohe Volumen oder Isolation können Sie NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 auch als dedizierte GPU-Instanz stundenweise betreiben.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von NVIDIA

Testen Sie NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 direkt im Playground.

Kostenlos starten