LLM Hosting für Deutschland

LLM Hosting ist der Betrieb großer Sprachmodelle auf spezialisierter GPU-Infrastruktur. Modelle wie Llama 3.3 oder DeepSeek R1 bestehen aus vielen Milliarden Parametern und brauchen Grafikprozessoren mit viel Speicher, um Antworten in akzeptabler Geschwindigkeit zu liefern. Wer ein solches Modell produktiv einsetzen will, hat drei Möglichkeiten: die API eines US-Anbieters, eigene Hardware im Serverraum oder gemietete GPUs bei einem spezialisierten Anbieter.

HostYourAI ist der dritte Weg. Wir betreiben die Modelle über vLLM, einen der schnellsten Open-Source-Inference-Server, und stellen Ihnen eine OpenAI-kompatible Schnittstelle bereit. Sie bekommen die Leistung aktueller Modelle, ohne Hardware zu kaufen oder Daten in die USA zu schicken.

Für den Einstieg nutzen Sie den Router: einen gemeinsam genutzten Pool warmer Modelle, abgerechnet pro Token, mit Scale-to-zero im Hintergrund. Sie zahlen nur, was Sie tatsächlich verbrauchen, ideal für Prototypen und schwankende Last.

Wächst Ihr Volumen oder brauchen Sie garantierte Kapazität, wechseln Sie auf eine dedizierte GPU-Instanz. Dort läuft Ihr Modell exklusiv für Sie, mit eigenem Endpunkt und stundenbasierter Abrechnung. Beide Wege nutzen dieselbe API, der Wechsel erfordert keine Codeänderung.

Sie legen ein Konto an, laden Guthaben auf und wählen ein Modell aus dem Katalog. Der Router antwortet sofort; eine dedizierte Instanz ist typischerweise in rund zehn Minuten einsatzbereit. Danach richten Sie Ihren bestehenden OpenAI-Client einfach auf unseren Endpunkt:

from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-ihr-api-key"
)

antwort = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role": "user", "content": "Fasse dieses Dokument zusammen."}]
)

Auch Anthropic-SDKs werden unterstützt: Der Router spricht zusätzlich das Messages-Format, sodass bestehende Claude-Integrationen ohne Umbau weiterlaufen.