Model garden Router · verfügbar Dedicated · verfügbar

Voxtral Small 24B

Sofort über den EU-Router oder als dediziertes GPU-Deployment. Ihre Daten bleiben in Europa.

Voxtral Small 24B ist ein quelloffenes Sprachmodell von Voxtral-small-24b-2507 mit einem Kontextfenster von 33K Tokens, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.

voxtral-small-24b-2507 vLLM ready
text->text · open weights · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
Parameter
33K
Kontextfenster
55GB
Minimaler VRAM
POST /api/v1/chat/completions 200 OK

Spezifikationen

Kontextfenster 32,768 tokens
Minimaler VRAM 55 GB
Architektur VoxtralForConditionalGeneration (vLLM)
Modalität text->text

Preise

Gemeinsamer Router · pro Token
€0.17
Input (pro 1M Tokens)
€0.40
Output (pro 1M Tokens)
Dediziertes GPU · pro Stunde
ab €3,04 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (55 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

✓ Funktionsfähig verifiziert am 03-08-2026, Antwort in ms auf unserer EU-Infrastruktur.

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "voxtral-small-24b-2507",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Voxtral Small 24B in der EU betreiben?

Ja. HostYourAI betreibt Voxtral Small 24B auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Voxtral Small 24B DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Voxtral Small 24B?

Über den gemeinsamen EU-Router zahlen Sie €0.17 pro Million Input-Tokens und €0.40 pro Million Output-Tokens, ohne Fixkosten. Für hohe Volumen oder Isolation können Sie Voxtral Small 24B auch als dedizierte GPU-Instanz stundenweise betreiben.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Holo2-30b-a3b

Testen Sie Voxtral Small 24B kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Voxtral Small 24B direkt im Playground.

Kostenlos starten