Model garden Router · auf Anfrage Dedicated · auf Anfrage

dragon multiturn query encoder

Dieses Modell läuft als dediziertes Deployment auf großen GPUs und ist nicht standardmäßig im gemeinsamen Playground verfügbar. Kontaktieren Sie uns, wir richten es für Sie ein.

tokenizer = AutoTokenizer.frompretrained('nvidia/dragon-multiturn-query-encoder') queryencoder = AutoModel.frompretrained('nvidia/dragon-multiturn-query-encoder') contextencoder = AutoModel.frompretrained('nvidia/dragon-multiturn-context-encoder')

nvidia/dragon-multiturn-query-encoder Auf Anfrage
text->embedding · nvidia · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
Parameter
1K
Kontextfenster
Minimaler VRAM
POST /api/v1/embeddings Auf Anfrage

Spezifikationen

Kontextfenster 512 tokens
Architektur BertModel (vLLM)
Lizenz other
Modalität text->embedding
Veröffentlicht April 2024
Anbieter nvidia ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
Auf Anfrage
Dediziertes Deployment, ab — GB VRAM. Abrechnung nach GPU-Stunden.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/embeddings \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/dragon-multiturn-query-encoder",
    "input": "The quick brown fox"
  }'

Häufig gestellte Fragen

Kann ich dragon multiturn query encoder in der EU betreiben?

Ja. HostYourAI betreibt dragon multiturn query encoder auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von dragon multiturn query encoder DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet dragon multiturn query encoder?

dragon multiturn query encoder braucht mehrere GPUs gleichzeitig und läuft deshalb als dediziertes Deployment, das nach GPU-Stunden abgerechnet wird, nicht pro Token. Nennen Sie uns Ihr Volumen, dann rechnen wir es für Sie durch.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von NVIDIA

Zugang anfragen

dragon multiturn query encoder ist noch nicht standardmäßig verfügbar. Hinterlassen Sie Ihre Kontaktdaten, wir kümmern uns um ein dediziertes Deployment.

Zugang anfragen