Zum Inhalt
03 Model garden Serve

Phi 3.5 MoE instruct

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

curl
$ curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "microsoft/Phi-3.5-MoE-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

Serve Model garden bereit für vLLM
microsoft/Phi-3.5-MoE-instruct

text->text · microsoft · souverän in der EU

Läuft auf EU-Infrastruktur europäischer Unternehmen, von Ihrer Anfrage bis zur GPU. Die vollständige Kette ansehen

Phi-3.5-MoE is a lightweight, state-of-the-art open model built upon datasets used for Phi-3 - synthetic data and filtered publicly available documents - with a focus on very high-quality, reasoning dense data. The model supports multilingual and comes with 128K context length (i...

Router
Router · auf Anfrage
Dedicated
Dedicated · verfügbar
42BParameter
131KKontextfenster
160GBMinimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter42B
Kontextfenster131,072 tokens
Minimaler VRAM160 GB
ArchitekturPhiMoEForCausalLM (vLLM)
Lizenzmit
Modalitättext->text
VeröffentlichtAugust 2024
Anbietermicrosoft ↗

Preise

Gemeinsamer Router · pro Token

Auf Anfrage Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.

Dediziertes GPU · pro Stunde

ab €6,60 pro StundeEigene vLLM-Instanz in europäischer Cloud (160 GB VRAM), pro Minute abgerechnet.

Gemeinsamer EU-Router, Sie zahlen nur pro Token. Dedizierte GPU-Deployments werden pro Minute abgerechnet, siehe Preise.

✓ Funktionsfähig verifiziert am 30-07-2026, Antwort in 33818 ms auf unserer EU-Infrastruktur.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

38,2 / 100 · Über LiveBench

Aus dem LiveBench-Ergebnis auf dieselbe Skala umgerechnet.

Bandbreite 31,1 bis 45,4

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 21-11-2026

LiveBench · 34,1

Reasoning38,7
Coding21,7
Mathematik26,8
Datenanalyse40,5
Sprache17,1
Anweisungen befolgen59,7
LiveBench · Alle Aufgaben
Reasoning
web of lies v248,0
zebra puzzle34,0
spatial34,0
Coding
LCB generation29,5
coding completion14,0
Mathematik
AMPS Hard39,0
math comp21,9
olympiad19,5
Datenanalyse
cta60,0
tablejoin3,4
tablereformat58,0
Sprache
connections11,0
plot unscrambling14,2
typos26,0
Anweisungen befolgen
paraphrase66,3
simplify63,3
story generation57,8
summarize51,6
Fragen

Häufig gestellte Fragen

Kann ich Phi 3.5 MoE instruct in der EU betreiben?

Ja. HostYourAI betreibt Phi 3.5 MoE instruct auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Phi 3.5 MoE instruct DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Phi 3.5 MoE instruct?

Phi 3.5 MoE instruct braucht mehrere GPUs gleichzeitig und läuft deshalb als dediziertes Deployment, das pro GPU-Minute abgerechnet wird, nicht pro Token. Nennen Sie uns Ihr Volumen, dann rechnen wir es für Sie durch.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Microsoft

Die Plattform

Eine Plattform, vier Ebenen

Starten Sie mit einer Ebene und ergänzen Sie die anderen, wenn die Arbeit es verlangt. Alle teilen sich einen Key, ein Guthaben und eine Activity-Ansicht.

Code

Ihr Coding-Agent auf offenen Modellen in Europa, eingerichtet mit einem Befehl.

Öffnen

Control

Schlüssel, Budgets und Guardrails pro Team, und personenbezogene Daten gestoppt, bevor ein Modell sie sieht.

Öffnen

Serve

Gemeinsam genutzt pro Token oder nur für Sie, aus europäischen Rechenzentren.

Öffnen

EU compute

Private GPUs in Europa, von H100 bis B300, ausgelegt auf Antwortzeit, Generierungsgeschwindigkeit und gleichzeitige Nutzer.

Öffnen

Testen Sie Phi 3.5 MoE instruct kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Phi 3.5 MoE instruct direkt im Playground.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
Das Team hinter HostYourAI