Eén API voor elk model
Chat Completions, de Anthropic Messages API en de Responses API, plus embeddings en transcriptie, allemaal met dezelfde key.
03 Serve $ hyai models
Gedeeld per token, of alleen voor jou, vanuit Europese datacenters.
Wat het doet
De modellentuin laat de open modellen zien die je nu kunt aanroepen. Gedeelde modellen draaien per token op GPU's in Europa: je betaalt voor wat je gebruikt en er is geen machine om te beheren. Elk model heeft een eigen pagina met de contextlengte, de prijs per miljoen tokens en een kwaliteitsscore.
Moet een model alleen voor jou werken, draai het dan op een dedicated GPU. Je maakt hem zelf aan en verwijdert hem zelf, in het dashboard of via de API, en je betaalt per GPU-minuut zolang hij draait. Met een private verbinding blijft de poort dicht voor het publieke internet.
Achter één modelnaam kunnen meerdere bronnen zitten. De router stuurt elk verzoek naar een bron die gezond en snel is, houdt een gesprek op de machine die de cache heeft, en schuift door als een machine trager wordt.
Lees verder
Chat Completions, de Anthropic Messages API en de Responses API, plus embeddings en transcriptie, allemaal met dezelfde key.
Herhaalde stukken prompt worden vanzelf tegen een lager tarief gerekend. Je hoeft niets extra mee te sturen.
Elk model heeft een Bench-score uit publieke benchmarks, gemarkeerd als gemeten of geschat, en de ranglijsten laten de gemeten snelheid per model zien.
Serveer een model van Hugging Face of je eigen finetune op een dedicated GPU, gestart met het officiële vLLM-recept voor dat model.
Elk model in de modellentuin dat als beschikbaar staat. Nieuwe open modellen zetten we erbij nadat we ze getest hebben.
Als het werk een model nodig heeft dat niemand anders draait, een gegarandeerde snelheid of volledige isolatie. Voor de meeste teams blijft gedeeld per token goedkoper tot het volume heel groot wordt.
Ja. Zet de base-URL op https://hostyourai.com/api/v1 en gebruik je HostYourAI-key. De Anthropic SDK werkt op dezelfde manier.
Begin met één laag en voeg de andere toe als het werk erom vraagt. Ze delen één key, één saldo en één Activity-overzicht.
Met één key heb je elk model in de tuin. Laad credits op en betaal per token, zonder abonnement.







