Model garden Router · auf Anfrage Dedicated · verfügbar

Llama 3.1 Nemotron Nano VL 8B V1 FP4 QAD

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

Llama-3.1-Nemotron-Nano-VL-8B-V1-FP4-QAD is the quantized version of the NVIDIA Llama Nemotron Nano VL model, which is an auto-regressive vision language model that uses an optimized transformer architecture. For more information, please check here. The NVIDIA Llama Nemotron Nano...

nvidia/Llama-3.1-Nemotron-Nano-VL-8B-V1-FP4-QAD Auf Anfrage
text+image->text · nvidia · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
5.7B
Parameter
Kontextfenster
16GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 5.7B
Minimaler VRAM 16 GB
Architektur Llama_Nemotron_Nano_VL (vLLM)
Lizenz other
Modalität text+image->text
Veröffentlicht October 2025
Anbieter nvidia ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €0,79 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (16 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/Llama-3.1-Nemotron-Nano-VL-8B-V1-FP4-QAD",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Llama 3.1 Nemotron Nano VL 8B V1 FP4 QAD in der EU betreiben?

Ja. HostYourAI betreibt Llama 3.1 Nemotron Nano VL 8B V1 FP4 QAD auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Llama 3.1 Nemotron Nano VL 8B V1 FP4 QAD DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Llama 3.1 Nemotron Nano VL 8B V1 FP4 QAD?

Llama 3.1 Nemotron Nano VL 8B V1 FP4 QAD ist auf Anfrage verfügbar: über den gemeinsamen EU-Router nach kurzer Abstimmung oder als dediziertes GPU-Deployment, das pro Stunde abgerechnet wird. Nennen Sie uns Ihren Anwendungsfall, dann richten wir es für Sie ein.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von NVIDIA

Testen Sie Llama 3.1 Nemotron Nano VL 8B V1 FP4 QAD kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Llama 3.1 Nemotron Nano VL 8B V1 FP4 QAD direkt im Playground.

Kostenlos starten