Model garden Router · auf Anfrage Dedicated · verfügbar

Kimi K2 Thinking NVFP4

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

This model is ready for commercial/non-commercial use. <br

nvidia/Kimi-K2-Thinking-NVFP4 Auf Anfrage
text->text · nvidia · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
519B
Parameter
262K
Kontextfenster
714GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 519B
Kontextfenster 262,144 tokens
Minimaler VRAM 714 GB
Architektur DeepseekV3ForCausalLM (vLLM)
Lizenz other
Modalität text->text
Veröffentlicht December 2025
Anbieter nvidia ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €23,76 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (714 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

65,2 / 100 · Über LiveBench

Aus dem LiveBench-Ergebnis auf dieselbe Skala umgerechnet.

Bandbreite 58,9 bis 71,5

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 29-10-2026

LiveBench · 61,6
Reasoning 63,5
Coding 67,4
Agentisches Coding 38,3
Mathematik 81,1
Datenanalyse 52,3
Sprache 66,5
Anweisungen befolgen 62,0
LiveBench · Alle Aufgaben
Reasoning
theory of mind 57,7
zebra puzzle 46,3
spatial 92,0
logic with navigation 58,0
Coding
code generation 71,8
code completion 63,0
Agentisches Coding
javascript 40,0
typescript 20,0
python 55,0
Mathematik
AMPS Hard 96,0
integrals with game 52,0
math comp 96,1
olympiad 80,3
Datenanalyse
consecutive events 15,7
tablejoin 45,1
tablereformat 96,1
Sprache
connections 88,0
plot unscrambling 43,4
typos 68,0
Anweisungen befolgen
paraphrase 63,4
simplify 50,9
story generation 67,4
summarize 66,5

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "nvidia/Kimi-K2-Thinking-NVFP4",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Kimi K2 Thinking NVFP4 in der EU betreiben?

Ja. HostYourAI betreibt Kimi K2 Thinking NVFP4 auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Kimi K2 Thinking NVFP4 DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Kimi K2 Thinking NVFP4?

Kimi K2 Thinking NVFP4 braucht mehrere GPUs gleichzeitig und läuft deshalb als dediziertes Deployment, das nach GPU-Stunden abgerechnet wird, nicht pro Token. Nennen Sie uns Ihr Volumen, dann rechnen wir es für Sie durch.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von NVIDIA

Muse Spark Open 816B A42B DFlash2

This model is ready for commercial or non-commercial use. <br

4.4B 1M Kontext Modell ansehen →
NVIDIA Nemotron 3.5 Super VL 120B A12B BF16

NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16 is the full-precision release of NVIDIA Nemotron 3.5 Super VL, a vision-language model for reasoning, coding, tool use, document understanding, and video understanding. The BF16 weights support customization, domain adaptation, and full-precision evaluation. For optimized deployment, see the NVFP4 release.

124B Modell ansehen →
NVIDIA Nemotron 3.5 Super VL 120B A12B Base BF16

Looking for a post-trained model? See the BF16 release for customization or the NVFP4 release for optimized deployment.

124B Modell ansehen →
NVIDIA Nemotron 3.5 Bolt 74B A9B BF16

NVIDIA Nemotron 3.5 Bolt 74B-A9B is a vision-language model (VLM) designed to run everyday agentic tasks locally. This is the full-precision (BF16) release of this model, intended primarily for customization and post-training rather than direct production inference.

75B Modell ansehen →
Qwen3.8 Flash Next FP4 Local

IMPORTANT: the NVFP4 scale factors in this checkpoint are in a new lossless compression format, but upstream vLLM support for this format has not yet landed. You must use one of the containers provided below.

96B 262K Kontext Modell ansehen →
GLM 5.3 Flash FP4 Local

IMPORTANT: the NVFP4 scale factors in this checkpoint are in a new lossless compression format, but upstream vLLM support for this format has not yet landed. You must use one of the containers provided below.

175B 1M Kontext Modell ansehen →

Testen Sie Kimi K2 Thinking NVFP4 kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Kimi K2 Thinking NVFP4 direkt im Playground.

Kostenlos starten