Model hosting

Mistral Hosting in Deutschland

Europäische Modelle auf europäischer Infrastruktur: die Mistral-Familie, serviert über vLLM in EU-Rechenzentren.

qwen3-8b vLLM ready
NVIDIA A100 · 40GB · EU marketplace · eu-central
VRAM19.2 / 40 GB
GPU utilisation71%
42 ms
time-to-first-token
128
tokens / sec
62°C
temperature
POST /api/v1/chat/completions200 OK

Mistral AI aus Paris hat bewiesen, dass Spitzenmodelle nicht aus dem Silicon Valley kommen müssen. Die Modelle des Unternehmens gehören zu den effizientesten ihrer Größenklassen und sind in weiten Teilen offen verfügbar. Für deutsche Unternehmen, die Wert auf eine europäische KI-Lieferkette legen, ist Mistral damit die naheliegendste Wahl.

Bei HostYourAI wird diese Kette vollständig: europäische Modelle, betrieben von einem europäischen Anbieter, auf GPUs in europäischen Rechenzentren. Vom Modellhersteller bis zur Hardware bleibt alles unter EU-Recht.

Warum Mistral-Modelle?

Mistral-Modelle sind für ihre Effizienz bekannt: Sie liefern im Verhältnis zu ihrer Größe außergewöhnlich gute Ergebnisse und laufen dadurch auf günstigerer Hardware als vergleichbar starke Konkurrenz. Das älteste Argument für Mistral ist zugleich das aktuellste: ein starkes Preis-Leistungs-Verhältnis pro Token.

Dazu kommt der europäische Kontext. Wer öffentliche Aufträge bedient oder in regulierten Branchen arbeitet, kann mit einer durchgehend europäischen KI-Kette argumentieren, vom Trainingsanbieter bis zum Inference-Hoster. In Ausschreibungen und Datenschutz-Folgenabschätzungen ist das ein Argument, das sich in einem Satz erklären lässt.

Und schließlich die Vielseitigkeit: Die Familie deckt vom 7B-Arbeitstier über Mixture-of-Experts-Architekturen bis zum Code-Spezialisten alle typischen Aufgabenprofile ab. Wer auf Mistral standardisiert, kommt mit einer Modelllinie erstaunlich weit.

python
from openai import OpenAI
client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...")
client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role":"user","content":"Hallo!"}])

Welche Mistral-Modelle Sie hosten können

Mistral 7B

Der Klassiker unter den kompakten Modellen: schnell, genügsam und unter Apache-2.0-Lizenz frei nutzbar. Ideal für Klassifikation, Extraktion und einfache Assistenzaufgaben mit hohem Volumen.

Mistral Nemo 12B

Die modernere Mittelklasse mit größerem Kontextfenster und besserer Mehrsprachigkeit, ein guter Standard für Chat-Anwendungen auf Deutsch.

Mistral Small

Deutlich mehr Leistung bei weiterhin moderaten GPU-Anforderungen, geeignet als Arbeitspferd für anspruchsvollere Textaufgaben.

Mixtral 8x7B und 8x22B

Die Mixture-of-Experts-Modelle aktivieren pro Anfrage nur einen Teil ihrer Parameter und verbinden so hohe Qualität mit vergleichsweise niedriger Latenz. Stark bei Analyse und längeren Texten.

Codestral

Das Code-Modell der Familie für Vervollständigung und Generierung. Beachten Sie hier die besondere Lizenz des Herstellers; die Bedingungen je Modell sind im Model Garden verlinkt.

qwen3-8b vLLM ready
NVIDIA A100 · 40GB · EU marketplace · eu-central
VRAM19.2 / 40 GB
GPU utilisation71%
42 ms
time-to-first-token
128
tokens / sec
62°C
temperature
POST /api/v1/chat/completions200 OK

Europäisches Modell, europäische Infrastruktur

Ein Mistral-Modell bei einem US-Hyperscaler zu betreiben verschenkt die Hälfte des Arguments. Erst wenn auch Hosting und Vertragspartner in Europa sitzen, entsteht eine Kette ohne Drittlandübermittlung: Verarbeitung in EU-Rechenzentren, Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, öffentliche Subprozessoren-Liste und keinerlei Training auf Ihren Daten.

Für Ihre Datenschutz-Dokumentation ist das der einfachste Fall: kein CLOUD-Act-Risiko, keine Transfer-Folgenabschätzung, keine Zusatzmaßnahmen.

One-click deployment
OpenAI-compatible API
4 EU datacenters
End-to-end encryptie
Dedicated GPU instances
Audit logging

Deployment in wenigen Minuten

Im Model Garden wählen Sie die gewünschte Mistral-Variante, die VRAM-Prüfung schlägt passende GPUs vor, und nach rund zehn Minuten steht Ihre dedizierte Instanz bereit. Wer ohne eigene Instanz starten will, ruft die Modelle über den Router auf und zahlt pro Token. In beiden Fällen sprechen Sie eine OpenAI-kompatible API, zusätzlich wird das Anthropic-Format unterstützt.

Abgerechnet wird nach Verbrauch aus einem Prepaid-Guthaben: GPU-Stunden für die Instanz, Tokens im Router. Es gibt keine Grundgebühr und keine Mindestlaufzeit, und gestoppte Instanzen verursachen keine GPU-Kosten. Für den Betrieb gilt ein SLA von 99,9 % Verfügbarkeit.

je vraag
doc-4f2a0.94
doc-9c1e0.91
doc-2b770.88

Alles, was Sie für KI brauchen

Vom Model-Hosting bis zur kundenseitigen API: gebaut für Entwickler und Unternehmen, die ihre KI auf Infrastruktur betreiben wollen, die sie wirklich kontrollieren, innerhalb der EU.

100%
In der EU gehostet

Ihre Daten und Modelle bleiben auf europäischen GPUs. DSGVO-freundlich von Grund auf.

200+
Verifizierte Modelle, sofort einsatzbereit

Llama, Qwen, DeepSeek, Mistral, FLUX und viele mehr. Modell wählen und in Minuten warm, ohne DevOps auf Ihrer Seite.

2 SDK
OpenAI- und Anthropic-kompatibel

Richten Sie Ihren bestehenden Client auf den Router und behalten Sie Ihre Tools. Kein Umschreiben, kein Lock-in.

Von null zum warmen Endpoint in Minuten

Keine Infrastruktur zu verwalten. Modell wählen, OpenAI-kompatible URL erhalten, ausliefern.

1

Modell wählen

Wählen Sie aus dem Model Garden oder fügen Sie eine beliebige HuggingFace-ID ein. VRAM festlegen und eine EU-GPU wählen.

2

Endpoint erhalten

Wir deployen vLLM, führen Readiness-Checks aus und übergeben Ihnen eine warme OpenAI- und Anthropic-kompatible URL plus API-Key.

3

Routen und ausliefern

Richten Sie Ihren Client auf den Router. Er routet automatisch zu einer warmen Instanz, legt GPUs bei Inaktivität schlafen und protokolliert jeden Request.

Funktioniert mit den Tools, die Sie bereits nutzen

Der Router spricht die OpenAI- und die Anthropic-API und passt damit direkt in die Clients und SDKs, die Ihr Team bereits einsetzt. Nur die Base-URL ändern.

HostYourAI kostenlos testen
docker
anthropic
huggingface
langchain
python
nodedotjs
curl
ollama
jetbrains
jupyter
vercel
zapier
postman
n8n

Gebaut für Teams, die Daten nicht aus der Hand geben dürfen

Wenn eine US-Cloud nicht infrage kommt, bietet HostYourAI dieselbe Developer Experience auf europäischer Infrastruktur.

Öffentlicher Sektor und Verwaltung

Bürgerdaten, die rechtlich in der EU bleiben müssen, mit voller Nachvollziehbarkeit.

Regulierte Unternehmen

Finanz-, Gesundheits- und Rechtsteams unter DSGVO, DORA und AI Act.

EU-SaaS und Scale-ups

Liefern Sie KI-Funktionen, denen Ihre Kunden vertrauen, ohne US-Unterauftragsverarbeiter.

Agenturen und Integratoren

Private KI für Ihre Kunden auf Infrastruktur, hinter der Sie stehen können.

Häufige Fragen

Läuft das komplett in der EU?

Ja. HostYourAI betreibt offene Modelle über vLLM auf GPUs in europäischen Rechenzentren. Ihre Prompts und Antworten verlassen die EU nicht und es steckt kein US-Cloudanbieter in der Kette.

Ist das DSGVO-konform?

Ja. Die gesamte Verarbeitung findet in der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Subprozessoren-Liste ist öffentlich. Offene Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Ist die API OpenAI-kompatibel?

Ja. Richten Sie Ihren bestehenden OpenAI- oder Anthropic-Client auf unseren Router (https://hostyourai.com/api/v1), nur Basis-URL und API-Key ändern sich. Kein Rewrite, kein Lock-in.

Was kostet das?

Pay-as-you-go mit einem Prepaid-Guthaben: der geteilte Router pro Token oder eine dedizierte GPU pro Stunde. Kostenlos zu starten, kein Minimum, keine monatliche Grundgebühr.

Model garden

Funktioniert mit über 390 offenen Modellen

Text- und Bildmodelle auf dedizierten EU-GPUs. Jedes Modell auf unserer eigenen Hardware getestet.

Ebenfalls interessant

Mehr über EU-gehostete KI auf HostYourAI.

Hosten. Routen. Ausliefern.

Keine Kreditkarte nötig. Pay as you go, jederzeit kündbar.

Heute kostenlos starten