Model garden Router · auf Anfrage Dedicated · verfügbar

llama embed nemotron 8b

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

This model achieves state-of-the-art performance on the multilingual MTEB leaderboard as of October 21, 2025.

nvidia/llama-embed-nemotron-8b Auf Anfrage
text->embedding · nvidia · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
7.5B
Parameter
131K
Kontextfenster
24GB
Minimaler VRAM
POST /api/v1/embeddings Auf Anfrage

Spezifikationen

Parameter 7.5B
Kontextfenster 131,072 tokens
Minimaler VRAM 24 GB
Architektur LlamaBidirectionalModel (vLLM)
Lizenz other
Modalität text->embedding
Veröffentlicht October 2025
Anbieter nvidia ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €1,95 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (24 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/embeddings \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/llama-embed-nemotron-8b",
    "input": "The quick brown fox"
  }'

Häufig gestellte Fragen

Kann ich llama embed nemotron 8b in der EU betreiben?

Ja. HostYourAI betreibt llama embed nemotron 8b auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von llama embed nemotron 8b DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet llama embed nemotron 8b?

llama embed nemotron 8b braucht mehrere GPUs gleichzeitig und läuft deshalb als dediziertes Deployment, das nach GPU-Stunden abgerechnet wird, nicht pro Token. Nennen Sie uns Ihr Volumen, dann rechnen wir es für Sie durch.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von NVIDIA

Ising Calibration 1.5 31B NVFP4

GOVERNING TERMS: Use of this model is governed by the OpenMDW License Agreement, version 1.1. ADDITIONAL INFORMATION: Apache License, Version 2.0.

31B 262K Kontext Modell ansehen →
Ising Calibration 1.5 31B BF16

GOVERNING TERMS: Use of this model is governed by the OpenMDW License Agreement, version 1.1. ADDITIONAL INFORMATION: Apache License, Version 2.0.

31B 262K Kontext Modell ansehen →
Cosmos3 Super Text2Image 4Step

Cosmos3-Super-Text2Image-4Step is a 4-step distilled version of the base Cosmos3-Super-Text2Image model. Given a text prompt, it generates a high-fidelity image.

64B 262K Kontext Modell ansehen →
Qwen Image Flash

The NVIDIA Qwen-Image-Flash model generates images from text prompts using a four-step, DMD2-distilled version of Qwen/Qwen-Image. The distillation used DMD2 from NVIDIA FastGen, NVIDIA Model Optimizer, and NVIDIA AutoModel while retaining the base model architecture. The packaged scheduler is configured for the four-step, shift-3 trajectory.

20B Modell ansehen →
NVIDIA Nemotron Labs 3 Puzzle 75B A9B NVFP4

The model employs a hybrid MoE architecture with interleaved Mamba, MoE, and Attention layers. Like Nemotron-3-Super, it supports Multi-Token Prediction (MTP) for faster text generation. Compared to its parent, Puzzle-75B-A9B reduces the model from 120.7B total / 12.8B active parameters to 75.3B total / 9.3B active parameters.

45B 262K Kontext Modell ansehen →
NVIDIA Nemotron 3 Ultra 550B A55B NVFP4

For more details on how to deploy and use the model - see the Quick Start Guide below!

550B 262K Kontext Modell ansehen →

Testen Sie llama embed nemotron 8b kostenlos

Die Kontoerstellung dauert eine Minute. Ihr API-Key funktioniert sofort mit llama embed nemotron 8b.

Kostenlos starten