Zum Inhalt

03 Serve $ hyai models

Jedes offene Modell.
Ein Key.

Gemeinsam genutzt pro Token oder nur für Sie, aus europäischen Rechenzentren.

  • GLM
  • DeepSeek
  • Qwen
  • Kimi
  • Mistral
  • Llama
  • gpt-oss
  • Gemma
  • Loes
  • Nemotron
  • Claude Code
  • Codex
  • OpenCode
  • Cursor
  • Cline
  • Loes
  • OpenAI SDK
  • Anthropic SDK

Was es leistet

Geteilt pro Token,
oder eine eigene GPU.

Der Model Garden listet die offenen Modelle, die Sie jetzt aufrufen können. Geteilte Modelle laufen pro Token auf GPUs in Europa: Sie zahlen, was Sie nutzen, und müssen keine Maschine verwalten. Jedes Modell hat eine eigene Seite mit Kontextlänge, Preis pro Million Tokens und Qualitätswert.

Wenn ein Modell nur für Sie arbeiten soll, betreiben Sie es auf einer dedizierten GPU. Sie erstellen und löschen sie selbst, im Dashboard oder über die API, und zahlen pro GPU-Minute, solange sie läuft. Mit einer privaten Verbindung bleibt ihr Port für das öffentliche Internet geschlossen.

Hinter einem Modellnamen können mehrere Quellen stehen. Der Router schickt jede Anfrage an eine Quelle, die gesund und schnell ist, hält eine Unterhaltung auf der Maschine mit ihrem Cache und wechselt, wenn eine Maschine langsamer wird.

Weiterlesen

Warum Teams es nutzen

Gebaut für
Produktions-Traffic.

Eine API für jedes Modell

Chat Completions, die Anthropic Messages API und die Responses API, dazu Embeddings und Transkription, alles mit demselben Key.

Gecachte Tokens kosten weniger

Wiederholte Prompt-Präfixe werden automatisch zu einem niedrigeren Satz abgerechnet. Sie müssen nichts zusätzlich senden.

Ein Bench-Wert für jedes Modell

Jedes Modell trägt einen Bench-Wert aus öffentlichen Benchmarks, gekennzeichnet als gemessen oder geschätzt, und die Rankings zeigen die gemessene Geschwindigkeit pro Modell.

Auch Ihr eigenes Modell

Betreiben Sie ein Modell von Hugging Face oder Ihr eigenes Finetune auf einer dedizierten GPU, gestartet mit dem offiziellen vLLM-Rezept für dieses Modell.

Screenshot eines Diagramms der Tokens pro Tag und Modell in der letzten Woche
Fragen

Fragen, die wir oft hören

Welche Modelle kann ich nutzen?

Jedes Modell im Model Garden, das als verfügbar angezeigt wird. Neue offene Modelle nehmen wir auf, nachdem wir sie getestet haben.

Wann lohnt sich eine dedizierte GPU?

Wenn die Arbeit ein Modell braucht, das sonst niemand betreibt, eine garantierte Geschwindigkeit oder vollständige Isolation. Für die meisten Teams bleibt geteilt pro Token günstiger, bis das Volumen sehr groß wird.

Funktioniert es mit dem OpenAI SDK?

Ja. Setzen Sie die Base-URL auf https://hostyourai.com/api/v1 und verwenden Sie Ihren HostYourAI-Key. Das Anthropic SDK funktioniert genauso.

Die Plattform

Eine Plattform, vier Ebenen

Starten Sie mit einer Ebene und ergänzen Sie die anderen, wenn die Arbeit es verlangt. Alle teilen sich einen Key, ein Guthaben und eine Activity-Ansicht.

Code

Ihr Coding-Agent auf offenen Modellen in Europa, eingerichtet mit einem Befehl.

Öffnen

Control

Schlüssel, Budgets und Guardrails pro Team, und personenbezogene Daten gestoppt, bevor ein Modell sie sieht.

Öffnen

Serve

Gemeinsam genutzt pro Token oder nur für Sie, aus europäischen Rechenzentren.

Öffnen

EU compute

Private GPUs in Europa, von H100 bis B300, ausgelegt auf Antwortzeit, Generierungsgeschwindigkeit und gleichzeitige Nutzer.

Öffnen

Rufen Sie Ihr erstes
offenes Modell auf.

Ein Key gibt Ihnen jedes Modell im Garden. Laden Sie Guthaben auf und zahlen Sie pro Token, ohne Abonnement.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
Das Team hinter HostYourAI