Model hosting

Qwen Hosting in Deutschland

Die mehrsprachig stärkste offene Modellfamilie, betrieben auf GPUs in europäischen Rechenzentren.

qwen3-8b vLLM ready
NVIDIA A100 · 40GB · EU marketplace · eu-central
VRAM19.2 / 40 GB
GPU utilisation71%
42 ms
time-to-first-token
128
tokens / sec
62°C
temperature
POST /api/v1/chat/completions200 OK

Die Qwen-Familie von Alibaba gehört zu den leistungsfähigsten offenen Modellreihen überhaupt und ist in Benchmarks regelmäßig ganz vorn dabei. Besonders bemerkenswert ist ihre Mehrsprachigkeit: Qwen liefert auf Deutsch Antworten, die viele westliche Modelle alt aussehen lassen.

Was deutsche Unternehmen zögern lässt, ist verständlicherweise die Herkunft. Die Lösung ist dieselbe wie bei allen offenen Modellen: Sie nutzen die frei veröffentlichten Gewichte, nicht den Dienst des Herstellers. Bei HostYourAI läuft Qwen auf GPUs in europäischen Rechenzentren, und keine einzige Anfrage verlässt die EU.

Warum Qwen?

Qwen-Modelle überzeugen in drei Punkten. Erstens die Qualität pro Parameter: Schon die mittleren Größen erledigen Aufgaben, für die andernorts deutlich größere Modelle nötig sind. Zweitens die Bandbreite: Vom kompakten Modell für einfache Automatisierung bis zur 72B-Variante für anspruchsvolle Analysen deckt die Familie alles ab. Drittens die Lizenz: Die meisten Varianten stehen unter Apache 2.0 und sind damit ohne Einschränkung kommerziell nutzbar.

In der Praxis ist Qwen für viele unserer Kunden das Standardmodell für mehrsprachige Anwendungen geworden, gerade wenn Deutsch, Englisch und weitere Sprachen gemischt vorkommen.

EU Inference Router

‹ Insight 1 of 28 ›
98.7% ↗ 12%
4,931 of 5,000 requests served warm
EU-hostedModels run on European GPUs
Drop-inOpenAI and Anthropic compatible
Scale to zeroGPUs idle when nobody is online

Offene Gewichte statt Datenfluss nach China

Ein Modell zu nutzen und einem Anbieter Daten zu schicken sind zwei verschiedene Dinge. Qwen-Gewichte sind öffentlich herunterladbare Dateien; sie enthalten Rechenvorschriften, keinen Rückkanal. Auf unserer Infrastruktur ausgeführt, verarbeitet Qwen Ihre Prompts ausschließlich in der EU, unter einem Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und ohne dass der Modellhersteller irgendetwas davon sieht.

Damit können Sie die Stärken chinesischer Modellforschung nutzen und gleichzeitig jede Frage Ihres Datenschutzteams sauber beantworten: Verarbeitung in der EU, europäischer Vertragspartner, kein Training auf Ihren Daten.

python
from openai import OpenAI
client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...")
client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role":"user","content":"Hallo!"}])

Qwen-Varianten für jeden Einsatz

Qwen Chat- und Instruct-Modelle

Die Instruct-Varianten von Qwen 2.5 und Qwen 3 sind die Allrounder der Familie: Zusammenfassen, Beantworten, Umformulieren und strukturierte Ausgaben, auch bei längeren Kontexten. Die 32B-Größe trifft für die meisten Anwendungen den besten Punkt aus Qualität und GPU-Kosten.

Qwen Coder

Qwen Coder zählt zu den stärksten offenen Code-Modellen: Vervollständigung, Refactoring, Testgenerierung und Code-Erklärung über viele Programmiersprachen hinweg. Auf einer dedizierten Instanz bleibt Ihr Quellcode dabei vollständig in Ihrer Kontrolle.

Kompakte Varianten

Die kleinen Qwen-Modelle eignen sich für Klassifikation, Routing und einfache Extraktion mit sehr hohem Volumen, wo jeder Cent pro tausend Anfragen zählt.

EU Inference Router

‹ Insight 1 of 28 ›
98.7% ↗ 12%
4,931 of 5,000 requests served warm
EU-hostedModels run on European GPUs
Drop-inOpenAI and Anthropic compatible
Scale to zeroGPUs idle when nobody is online

Deutsch in Produktionsqualität

Qwen wurde massiv mehrsprachig trainiert und beherrscht deutsche Grammatik, Fachvokabular und Tonalität auffallend sicher. Für Kundenservice-Antworten, Dokumentzusammenfassungen oder deutschsprachige Produkttexte gehört die Familie zur ersten Wahl unter den offenen Modellen. Vergleichen Sie es selbst: Im Playground testen Sie Qwen gegen Llama und Mistral mit Ihren eigenen Prompts, bevor Sie sich festlegen.

One-click deployment
OpenAI-compatible API
4 EU datacenters
End-to-end encryptie
Dedicated GPU instances
Audit logging

Betrieb auf europäischen GPUs

Sie haben zwei Wege: Über den Router rufen Sie Qwen sofort auf und zahlen pro Token; als dedizierte Instanz läuft Ihr Wunschmodell exklusiv auf einer eigenen GPU mit stundenbasierter Abrechnung. Beide Wege nutzen dieselbe OpenAI-kompatible API, zusätzlich wird das Anthropic-Format unterstützt. Übertragung per TLS, Speicherung mit AES-256, Verfügbarkeit mit 99,9 % SLA.

qwen3-8b vLLM ready
NVIDIA A100 · 40GB · EU marketplace · eu-central
VRAM19.2 / 40 GB
GPU utilisation71%
42 ms
time-to-first-token
128
tokens / sec
62°C
temperature
POST /api/v1/chat/completions200 OK

Alles, was Sie für KI brauchen

Vom Model-Hosting bis zur kundenseitigen API: gebaut für Entwickler und Unternehmen, die ihre KI auf Infrastruktur betreiben wollen, die sie wirklich kontrollieren, innerhalb der EU.

100%
In der EU gehostet

Ihre Daten und Modelle bleiben auf europäischen GPUs. DSGVO-freundlich von Grund auf.

200+
Verifizierte Modelle, sofort einsatzbereit

Llama, Qwen, DeepSeek, Mistral, FLUX und viele mehr. Modell wählen und in Minuten warm, ohne DevOps auf Ihrer Seite.

2 SDK
OpenAI- und Anthropic-kompatibel

Richten Sie Ihren bestehenden Client auf den Router und behalten Sie Ihre Tools. Kein Umschreiben, kein Lock-in.

Von null zum warmen Endpoint in Minuten

Keine Infrastruktur zu verwalten. Modell wählen, OpenAI-kompatible URL erhalten, ausliefern.

1

Modell wählen

Wählen Sie aus dem Model Garden oder fügen Sie eine beliebige HuggingFace-ID ein. VRAM festlegen und eine EU-GPU wählen.

2

Endpoint erhalten

Wir deployen vLLM, führen Readiness-Checks aus und übergeben Ihnen eine warme OpenAI- und Anthropic-kompatible URL plus API-Key.

3

Routen und ausliefern

Richten Sie Ihren Client auf den Router. Er routet automatisch zu einer warmen Instanz, legt GPUs bei Inaktivität schlafen und protokolliert jeden Request.

Funktioniert mit den Tools, die Sie bereits nutzen

Der Router spricht die OpenAI- und die Anthropic-API und passt damit direkt in die Clients und SDKs, die Ihr Team bereits einsetzt. Nur die Base-URL ändern.

HostYourAI kostenlos testen
docker
anthropic
huggingface
langchain
python
nodedotjs
curl
ollama
jetbrains
jupyter
vercel
zapier
postman
n8n

Gebaut für Teams, die Daten nicht aus der Hand geben dürfen

Wenn eine US-Cloud nicht infrage kommt, bietet HostYourAI dieselbe Developer Experience auf europäischer Infrastruktur.

Öffentlicher Sektor und Verwaltung

Bürgerdaten, die rechtlich in der EU bleiben müssen, mit voller Nachvollziehbarkeit.

Regulierte Unternehmen

Finanz-, Gesundheits- und Rechtsteams unter DSGVO, DORA und AI Act.

EU-SaaS und Scale-ups

Liefern Sie KI-Funktionen, denen Ihre Kunden vertrauen, ohne US-Unterauftragsverarbeiter.

Agenturen und Integratoren

Private KI für Ihre Kunden auf Infrastruktur, hinter der Sie stehen können.

Häufige Fragen

Läuft das komplett in der EU?

Ja. HostYourAI betreibt offene Modelle über vLLM auf GPUs in europäischen Rechenzentren. Ihre Prompts und Antworten verlassen die EU nicht und es steckt kein US-Cloudanbieter in der Kette.

Ist das DSGVO-konform?

Ja. Die gesamte Verarbeitung findet in der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Subprozessoren-Liste ist öffentlich. Offene Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Ist die API OpenAI-kompatibel?

Ja. Richten Sie Ihren bestehenden OpenAI- oder Anthropic-Client auf unseren Router (https://hostyourai.com/api/v1), nur Basis-URL und API-Key ändern sich. Kein Rewrite, kein Lock-in.

Was kostet das?

Pay-as-you-go mit einem Prepaid-Guthaben: der geteilte Router pro Token oder eine dedizierte GPU pro Stunde. Kostenlos zu starten, kein Minimum, keine monatliche Grundgebühr.

Model garden

Funktioniert mit über 390 offenen Modellen

Text- und Bildmodelle auf dedizierten EU-GPUs. Jedes Modell auf unserer eigenen Hardware getestet.

Ebenfalls interessant

Mehr über EU-gehostete KI auf HostYourAI.

Hosten. Routen. Ausliefern.

Keine Kreditkarte nötig. Pay as you go, jederzeit kündbar.

Heute kostenlos starten