Zum Inhalt
03 Model garden Serve

Phi 3 small 8k instruct

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

curl
$ curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "microsoft/Phi-3-small-8k-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

Serve Model garden Auf Anfrage
microsoft/Phi-3-small-8k-instruct

text->text · microsoft · souverän in der EU

Läuft auf EU-Infrastruktur europäischer Unternehmen, von Ihrer Anfrage bis zur GPU. Die vollständige Kette ansehen

Phi 3 small 8k instruct ist ein quelloffenes Sprachmodell von Microsoft mit 7.4B Parametern und einem Kontextfenster von 8K Tokens, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.

Router
Router · auf Anfrage
Dedicated
Dedicated · verfügbar
7.4BParameter
8KKontextfenster
24GBMinimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter7.4B
Kontextfenster8,192 tokens
Minimaler VRAM24 GB
ArchitekturPhi3SmallForCausalLM (vLLM)
Lizenzmit
Modalitättext->text
VeröffentlichtMay 2024
Anbietermicrosoft ↗

Preise

Gemeinsamer Router · pro Token

Auf Anfrage Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.

Dediziertes GPU · pro Stunde

ab €2,21 pro StundeEigene vLLM-Instanz in europäischer Cloud (24 GB VRAM), pro Minute abgerechnet.

Gemeinsamer EU-Router, Sie zahlen nur pro Token. Dedizierte GPU-Deployments werden pro Minute abgerechnet, siehe Preise.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

32,8 / 100 · Gemessen

Gemessen von Epoch AI über 8 Benchmarks, mit Bandbreite.

Bandbreite 25,3 bis 39,8 · Platz 193 von 257 bei Epoch AI

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 19-11-2026

LiveBench · 24,0

Reasoning15,9
Coding20,3
Mathematik17,6
Datenanalyse30,3
Sprache12,9
Anweisungen befolgen47,2
Alle Benchmarks (8)
ARC AI287,6
OpenBookQA84,0
BBH72,1
HellaSwag69,3
MMLU67,6
Winogrande63,0
TriviaQA58,1
ANLI37,1
LiveBench · Alle Aufgaben
Reasoning
web of lies v218,0
zebra puzzle17,8
spatial12,0
Coding
LCB generation24,5
coding completion16,0
Mathematik
AMPS Hard18,0
math comp16,7
olympiad18,1
Datenanalyse
cta44,0
tablejoin2,9
tablereformat44,0
Sprache
plot unscrambling15,9
typos10,0
Anweisungen befolgen
paraphrase44,2
simplify54,6
story generation48,8
summarize41,3
Fragen

Häufig gestellte Fragen

Kann ich Phi 3 small 8k instruct in der EU betreiben?

Ja. HostYourAI betreibt Phi 3 small 8k instruct auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Phi 3 small 8k instruct DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Phi 3 small 8k instruct?

Phi 3 small 8k instruct ist auf Anfrage verfügbar: über den gemeinsamen EU-Router nach kurzer Abstimmung oder als dediziertes GPU-Deployment, das pro Minute abgerechnet wird. Nennen Sie uns Ihren Anwendungsfall, dann richten wir es für Sie ein.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Microsoft

Die Plattform

Eine Plattform, vier Ebenen

Starten Sie mit einer Ebene und ergänzen Sie die anderen, wenn die Arbeit es verlangt. Alle teilen sich einen Key, ein Guthaben und eine Activity-Ansicht.

Code

Ihr Coding-Agent auf offenen Modellen in Europa, eingerichtet mit einem Befehl.

Öffnen

Control

Schlüssel, Budgets und Guardrails pro Team, und personenbezogene Daten gestoppt, bevor ein Modell sie sieht.

Öffnen

Serve

Gemeinsam genutzt pro Token oder nur für Sie, aus europäischen Rechenzentren.

Öffnen

EU compute

Private GPUs in Europa, von H100 bis B300, ausgelegt auf Antwortzeit, Generierungsgeschwindigkeit und gleichzeitige Nutzer.

Öffnen

Testen Sie Phi 3 small 8k instruct kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Phi 3 small 8k instruct direkt im Playground.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
Das Team hinter HostYourAI