Model garden Router · auf Anfrage Dedicated · verfügbar

japanese stablelm instruct beta 70b

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

A cute robot wearing a kimono writes calligraphy with one single brush — Stable Diffusion XL

stabilityai/japanese-stablelm-instruct-beta-70b Auf Anfrage
text->text · stabilityai · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
69B
Parameter
4K
Kontextfenster
166GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 69B
Kontextfenster 4,096 tokens
Minimaler VRAM 166 GB
Architektur LlamaForCausalLM (vLLM)
Lizenz llama2
Modalität text->text
Veröffentlicht October 2023
Anbieter stabilityai ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €3,91 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (166 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "stabilityai/japanese-stablelm-instruct-beta-70b",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich japanese stablelm instruct beta 70b in der EU betreiben?

Ja. HostYourAI betreibt japanese stablelm instruct beta 70b auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von japanese stablelm instruct beta 70b DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet japanese stablelm instruct beta 70b?

japanese stablelm instruct beta 70b braucht mehrere GPUs gleichzeitig und läuft deshalb als dediziertes Deployment, das nach GPU-Stunden abgerechnet wird, nicht pro Token. Nennen Sie uns Ihr Volumen, dann rechnen wir es für Sie durch.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Stabilityai

Testen Sie japanese stablelm instruct beta 70b kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie japanese stablelm instruct beta 70b direkt im Playground.

Kostenlos starten