Zum Inhalt

Modell-Hosting 04 EU compute

LLM Hosting für Deutschland

Betreiben Sie offene Sprachmodelle auf europäischen GPUs: DSGVO-konform, OpenAI-kompatibel und in wenigen Minuten startklar.

  • GLM
  • DeepSeek
  • Qwen
  • Kimi
  • Mistral
  • Llama
  • gpt-oss
  • Gemma
  • Loes
  • Nemotron
  • Claude Code
  • Codex
  • OpenCode
  • Cursor
  • Cline
  • Loes
  • OpenAI SDK
  • Anthropic SDK

Was es tut Modell-Hosting

Was bedeutet LLM Hosting?

Immer mehr deutsche Unternehmen wollen große Sprachmodelle in ihre Produkte und Prozesse einbauen, ohne dabei die Kontrolle über ihre Daten abzugeben. Genau dafür gibt es HostYourAI: offene Modelle wie Llama, Mistral, Qwen und DeepSeek laufen auf GPUs in europäischen Rechenzentren, buchbar im Self-Service und abgerechnet nach Verbrauch.

Kein Ticket beim Vertrieb, kein Rahmenvertrag, kein US-Hyperscaler im Hintergrund. Sie registrieren sich, wählen ein Modell und erhalten einen API-Endpunkt, der sich exakt wie die OpenAI-API verhält.

LLM Hosting ist der Betrieb großer Sprachmodelle auf spezialisierter GPU-Infrastruktur. Modelle wie Llama 3.3 oder DeepSeek R1 bestehen aus vielen Milliarden Parametern und brauchen Grafikprozessoren mit viel Speicher, um Antworten in akzeptabler Geschwindigkeit zu liefern. Wer ein solches Modell produktiv einsetzen will, hat drei Möglichkeiten: die API eines US-Anbieters, eigene Hardware im Serverraum oder gemietete GPUs bei einem spezialisierten Anbieter.

HostYourAI ist der dritte Weg. Wir betreiben die Modelle über vLLM, einen der schnellsten Open-Source-Inference-Server, und stellen Ihnen eine OpenAI-kompatible Schnittstelle bereit. Sie bekommen die Leistung aktueller Modelle, ohne Hardware zu kaufen oder Daten in die USA zu schicken.

Weiterlesen

02 Modell-Hosting

Warum Hosting in der EU für deutsche Unternehmen zählt

01

DSGVO und Auftragsverarbeitung

Sobald personenbezogene Daten durch Ihre Prompts fließen, brauchen Sie einen Auftragsverarbeitungsvertrag mit Ihrem Hosting-Anbieter. Bei HostYourAI schließen Sie den AVV direkt ab, die Subprozessoren-Liste ist öffentlich und die gesamte Verarbeitung bleibt in der EU.

02

Schrems II und der US CLOUD Act

US-Anbieter unterliegen dem CLOUD Act, unabhängig davon, wo ihre Server stehen. Seit dem Schrems-II-Urteil müssen Sie jede Übermittlung in Drittländer begründen und absichern. Bleibt die Inferenz vollständig in Europa, entfällt diese Baustelle komplett.

03

Keine Trainingsnutzung Ihrer Daten

Wir trainieren grundsätzlich nicht mit Ihren Eingaben. Offene Modellgewichte machen das nachvollziehbar: Das Modell gehört nicht uns, es läuft nur für Sie.

03 Modell-Hosting

Zwei Betriebsmodelle: Router oder dedizierte GPU

Für den Einstieg nutzen Sie den Router: einen gemeinsam genutzten Pool warmer Modelle, abgerechnet pro Token, mit Scale-to-zero im Hintergrund. Sie zahlen nur, was Sie tatsächlich verbrauchen, ideal für Prototypen und schwankende Last.

Wächst Ihr Volumen oder brauchen Sie garantierte Kapazität, wechseln Sie auf eine dedizierte GPU-Instanz. Dort läuft Ihr Modell exklusiv für Sie, mit eigenem Endpunkt und stundenbasierter Abrechnung. Beide Wege nutzen dieselbe API, der Wechsel erfordert keine Codeänderung.

04 Modell-Hosting

Welche Modelle können Sie hosten?

04Modell-Hosting

Unser Katalog umfasst hunderte offene Modelle, darunter:

  • Llama 3.3 70B: der Allrounder von Meta für Chat, Analyse und Textgenerierung
  • Mistral und Mixtral: europäische Modelle mit starkem Verhältnis von Qualität zu Geschwindigkeit
  • Qwen 2.5 und Qwen 3: hervorragend in mehrsprachigen Aufgaben, auch auf Deutsch
  • DeepSeek R1: Reasoning-Spezialist für komplexe, mehrstufige Aufgaben
  • Coder-Modelle: Qwen Coder, DeepSeek Coder und weitere für die Softwareentwicklung

Jedes Modell im Model Garden zeigt an, ob es sofort startklar ist. Eigene feinjustierte Modelle lassen sich ebenfalls deployen.

05 Modell-Hosting

So funktioniert der Einstieg

Sie legen ein Konto an, laden Guthaben auf und wählen ein Modell aus dem Katalog. Der Router antwortet sofort; eine dedizierte Instanz ist typischerweise in rund zehn Minuten einsatzbereit. Danach richten Sie Ihren bestehenden OpenAI-Client einfach auf unseren Endpunkt:

python
from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-ihr-api-key"
)

antwort = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role": "user", "content": "Fasse dieses Dokument zusammen."}]
)

Auch Anthropic-SDKs werden unterstützt: Der Router spricht zusätzlich das Messages-Format, sodass bestehende Claude-Integrationen ohne Umbau weiterlaufen.

Fragen

Häufige Fragen zum LLM Hosting in Deutschland

Stehen die Server in Deutschland?

Die GPUs stehen in europäischen Rechenzentren. Entscheidend für die DSGVO ist, dass die Verarbeitung die EU nicht verlässt und kein US-Anbieter Zugriff hat. Genau das sichern wir vertraglich im AVV zu.

Gibt es eine Mindestlaufzeit oder Grundgebühr?

Nein. Sie zahlen pro Token im Router oder pro Stunde für dedizierte Instanzen, aus einem Prepaid-Guthaben. Es gibt kein Minimum und keine monatliche Grundgebühr.

Wie sicher sind meine Daten?

Daten werden bei der Übertragung per TLS und im Ruhezustand mit AES-256 verschlüsselt. Wir trainieren nicht mit Ihren Eingaben und bieten ein SLA von 99,9 % Verfügbarkeit.

Kann ich von OpenAI migrieren?

Ja. Die API ist OpenAI-kompatibel, in der Regel ändern Sie nur Basis-URL und API-Key. Bestehende Bibliotheken, Frameworks und Tools funktionieren weiter.

Was passiert, wenn mein Guthaben aufgebraucht ist?

Ihre Instanzen werden pausiert, nicht gelöscht. Sobald Sie Guthaben nachladen, starten Sie sie wieder. Konfiguration und Modellwahl bleiben erhalten.

Alles, was Sie für KI brauchen

Vom Model-Hosting bis zur kundenseitigen API: gebaut für Entwickler und Unternehmen, die ihre KI auf Infrastruktur betreiben wollen, die sie wirklich kontrollieren, innerhalb der EU.

In der EU gehostet

100%

Ihre Daten und Modelle bleiben auf europäischen GPUs. DSGVO-freundlich von Grund auf.

Verifizierte Modelle, sofort einsatzbereit

700+

Llama, Qwen, DeepSeek, Mistral, FLUX und viele mehr. Modell wählen und in Minuten warm, ohne DevOps auf Ihrer Seite.

OpenAI- und Anthropic-kompatibel

2 SDK

Richten Sie Ihren bestehenden Client auf den Router und behalten Sie Ihre Tools. Kein Umschreiben, kein Lock-in.

Von null zum warmen Endpoint in Minuten

Keine Infrastruktur zu verwalten. Modell wählen, OpenAI-kompatible URL erhalten, ausliefern.

01

Modell wählen

Wählen Sie aus dem Model Garden oder fügen Sie eine beliebige HuggingFace-ID ein. VRAM festlegen und eine EU-GPU wählen.

02

Endpoint erhalten

Wir deployen vLLM, führen Readiness-Checks aus und übergeben Ihnen eine warme OpenAI- und Anthropic-kompatible URL plus API-Key.

03

Routen und ausliefern

Richten Sie Ihren Client auf den Router. Er routet automatisch zu einer warmen Instanz und protokolliert jeden Request.

Funktioniert mit den Tools, die Sie bereits nutzen

Der Router spricht die OpenAI- und die Anthropic-API und passt damit direkt in die Clients und SDKs, die Ihr Team bereits einsetzt. Nur die Base-URL ändern.

  • Docker
  • Anthropic
  • Hugging Face
  • LangChain
  • Python
  • Node.js
  • curl
  • Ollama
  • JetBrains
  • Jupyter
  • Vercel
  • Zapier
  • Postman
  • n8n

Gebaut für Teams, die Daten nicht aus der Hand geben dürfen

Wenn eine US-Cloud nicht infrage kommt, bietet HostYourAI dieselbe Developer Experience auf europäischer Infrastruktur.

01

Öffentlicher Sektor und Verwaltung

Bürgerdaten, die rechtlich in der EU bleiben müssen, mit voller Nachvollziehbarkeit.

02

Regulierte Unternehmen

Finanz-, Gesundheits- und Rechtsteams unter DSGVO, DORA und AI Act.

03

EU-SaaS und Scale-ups

Liefern Sie KI-Funktionen, denen Ihre Kunden vertrauen, ohne US-Unterauftragsverarbeiter.

04

Agenturen und Integratoren

Private KI für Ihre Kunden auf Infrastruktur, hinter der Sie stehen können.

Model garden

Funktioniert mit über 700 offenen Modellen

Text- und Bildmodelle auf dedizierten EU-GPUs. Jedes Modell auf unserer eigenen Hardware getestet.

Alle Modelle ansehen

Die Plattform

Eine Plattform, vier Ebenen

Beginnen Sie mit einer Ebene und nehmen Sie die anderen dazu, wenn die Arbeit es verlangt. Sie teilen einen Key, ein Guthaben und eine Activity-Ansicht.

Code

Ihr Coding-Agent auf offenen Modellen in Europa, eingerichtet mit einem Befehl.

Öffnen

Control

Schlüssel, Budgets und Guardrails pro Team, und personenbezogene Daten gestoppt, bevor ein Modell sie sieht.

Öffnen

Serve

Gemeinsam genutzt pro Token oder nur für Sie, aus europäischen Rechenzentren.

Öffnen

EU compute

Private GPUs in Europa, von H100 bis B300, ausgelegt auf Antwortzeit, Generierungsgeschwindigkeit und gleichzeitige Nutzer.

Öffnen

Ebenfalls interessant

Mehr über EU-gehostete KI auf HostYourAI.

vLLM Hosting in Deutschland

Managed vLLM Hosting auf europäischen GPUs: offene Modelle in Minuten deployen, OpenAI-kompatible API, keine eigene Infrastruktur. DSGVO-konform mit AVV.

Mehr lesen

DeepSeek Hosting in Deutschland

DeepSeek R1 auf GPUs in europäischen Rechenzentren: offene Gewichte statt Datenfluss nach China, OpenAI-kompatible API, AVV, Abrechnung nach Verbrauch.

Mehr lesen

Qwen Hosting in Deutschland

Qwen 2.5 und Qwen 3 auf europäischen GPUs: offene Gewichte, stark auf Deutsch, OpenAI-kompatible API. DSGVO-konform, ohne Datenfluss nach China.

Mehr lesen

Europas KI-Infrastruktur.
Bauen Sie mit uns.

Starten Sie heute mit einem Key. Ergänzen Sie dedizierte GPUs, wenn Ihre Last es verlangt.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
Das Team hinter HostYourAI