Model garden Router · auf Anfrage Dedicated · verfügbar

Phi 3 small 8k instruct

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

🎉 Phi-3.5: [[mini-instruct]](https://huggingface.co/microsoft/Phi-3.5-mini-instruct); [[MoE-instruct]](https://huggingface.co/microsoft/Phi-3.5-MoE-instruct) ; [[vision-instruct]](https://huggingface.co/microsoft/Phi-3.5-vision-instruct)

microsoft/Phi-3-small-8k-instruct Auf Anfrage
text->text · microsoft · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
7.4B
Parameter
8K
Kontextfenster
24GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 7.4B
Kontextfenster 8,192 tokens
Minimaler VRAM 24 GB
Architektur Phi3SmallForCausalLM (vLLM)
Lizenz mit
Modalität text->text
Veröffentlicht May 2024
Anbieter microsoft ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €0,77 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (24 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

39,8 / 100 · Gemessen

Gemessen von Epoch AI über 8 Benchmarks, mit Bandbreite.

Bandbreite 30,7 bis 43,2 · Platz 189 von 270 bei Epoch AI

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 05-10-2026

LiveBench · 24,0
Reasoning 15,9
Coding 20,3
Mathematik 17,6
Datenanalyse 30,3
Sprache 12,9
Anweisungen befolgen 47,2
Alle Benchmarks (8)
ARC AI2 87,6
OpenBookQA 84,0
BBH 72,1
HellaSwag 69,3
MMLU 67,6
Winogrande 63,0
TriviaQA 58,1
ANLI 37,2
LiveBench · Alle Aufgaben
Reasoning
web of lies v2 18,0
zebra puzzle 17,8
spatial 12,0
Coding
LCB generation 24,5
coding completion 16,0
Mathematik
AMPS Hard 18,0
math comp 16,7
olympiad 18,1
Datenanalyse
cta 44,0
tablejoin 2,9
tablereformat 44,0
Sprache
plot unscrambling 15,9
typos 10,0
Anweisungen befolgen
paraphrase 44,2
simplify 54,6
story generation 48,8
summarize 41,3

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "microsoft/Phi-3-small-8k-instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Phi 3 small 8k instruct in der EU betreiben?

Ja. HostYourAI betreibt Phi 3 small 8k instruct auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Phi 3 small 8k instruct DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Phi 3 small 8k instruct?

Phi 3 small 8k instruct ist auf Anfrage verfügbar: über den gemeinsamen EU-Router nach kurzer Abstimmung oder als dediziertes GPU-Deployment, das pro Stunde abgerechnet wird. Nennen Sie uns Ihren Anwendungsfall, dann richten wir es für Sie ein.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Microsoft

Fara1.5 27B

Fara1.5-27B is a multimodal computer use agent (CUA) for web browsers, from Microsoft Research AI Frontiers. It observes the browser through screenshots and acts on the user's behalf by emitting structured tool calls — click, type, scroll, visit URL, web search, and so on — to complete tasks end-to-end.

27B 262K Kontext Modell ansehen →
Fara1.5 4B

Fara1.5-4B is a multimodal computer use agent (CUA) for web browsers, from Microsoft Research AI Frontiers. It observes the browser through screenshots and acts on the user's behalf by emitting structured tool calls — click, type, scroll, visit URL, web search, and so on — to complete tasks end-to-end.

4.5B 262K Kontext Modell ansehen →
GELab Zero 4B preview Sico Evolution

GELab Zero 4B preview Sico Evolution ist ein multimodales Sprachmodell von Microsoft mit 4.4B Parametern, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.

4.4B Modell ansehen →
Fara1.5 9B

Fara1.5-9B is a multimodal computer use agent (CUA) for web browsers, from Microsoft Research AI Frontiers. It observes the browser through screenshots and acts on the user's behalf by emitting structured tool calls — click, type, scroll, visit URL, web search, and so on — to complete tasks end-to-end.

9.4B 262K Kontext Modell ansehen →
harrier oss v1 27b

harrier-oss-v1 is a family of multilingual text embedding models developed by Microsoft. The models use decoder-only architectures with last-token pooling and L2 normalization to produce dense text embeddings. They can be applied to a wide range of tasks, including but not limited to retrieval, clustering, semantic similarity, classification, bitext mining, and reranking. The models achieve state-of-the-art results on the Multilingual MTEB v2 benchmark as of the release date.

27B 131K Kontext Modell ansehen →
harrier oss v1 270m

harrier-oss-v1 is a family of multilingual text embedding models developed by Microsoft. The models use decoder-only architectures with last-token pooling and L2 normalization to produce dense text embeddings. They can be applied to a wide range of tasks, including but not limited to retrieval, clustering, semantic similarity, classification, bitext mining, and reranking. The models achieve state-of-the-art results on the Multilingual MTEB v2 benchmark as of the release date.

0.3B 33K Kontext Modell ansehen →

Testen Sie Phi 3 small 8k instruct kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Phi 3 small 8k instruct direkt im Playground.

Kostenlos starten