HostYourAI

phi 2 hosten in de EU — OpenAI-compatibele API

Direct via de EU-router of als dedicated GPU-deployment. Data blijft in Europa.

Phi-2 is a Transformer with 2.7 billion parameters. It was trained using the same data sources as Phi-1.5, augmented with a new data source that consists of various NLP synthetic texts and filtered websites (for safety and educational value). When assessed against benchmarks testing common sense, language understanding, and logical reasoning, Phi-2 showcased a nearly state-of-the-art performance a...

Specificaties

Parameters2.8B
Contextvenster2,048 tokens
Minimale VRAM8 GB
ArchitectuurPhiForCausalLM (vLLM)
Licentiemit
Modaliteittext->text
UitgebrachtDecember 2023
Uitgevermicrosoft (Hugging Face)

Prijzen

Input (per 1M tokens)€ 0.03
Output (per 1M tokens)€ 0.06

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend — zie prijzen.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "microsoft/phi-2",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik phi 2 in de EU draaien?

Ja. HostYourAI draait phi 2 op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is phi 2 hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost phi 2?

Via de gedeelde EU-router betaal je €0.03 per miljoen input-tokens en €0.06 per miljoen output-tokens, zonder vaste kosten. Voor hoge volumes of isolatie kun je phi 2 ook als dedicated GPU-instance per uur draaien.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Probeer phi 2 gratis

Account aanmaken duurt een minuut. Test phi 2 direct in de playground.

Start gratis

← Alle modellen