Model garden Router · op aanvraag Dedicated · beschikbaar

Infinity Instruct 3M 0625 Qwen2 7B

Dit model draait als eigen dedicated GPU-deployment, direct te starten via de wizard. Data blijft in Europa.

Infinity-Instruct-3M-0625-Qwen2-7B is an opensource supervised instruction tuning model without reinforcement learning from human feedback (RLHF). This model is just finetuned on Infinity-Instruct-3M and Infinity-Instruct-0625 and showing favorable results on AlpacaEval 2.0 and M...

BAAI/Infinity-Instruct-3M-0625-Qwen2-7B Op aanvraag
text->text · BAAI · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
7.6B
Parameters
131K
Contextvenster
24GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 7.6B
Contextvenster 131,072 tokens
Minimale VRAM 24 GB
Architectuur Qwen2ForCausalLM (vLLM)
Licentie apache-2.0
Modaliteit text->text
Uitgebracht July 2024
Uitgever BAAI ↗

Prijzen

Gedeelde router · per token
Op aanvraag
Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.
Dedicated GPU · per uur
vanaf €1,95 per uur
Eigen vLLM-instance op Europese cloud (24 GB VRAM), per uur afgerekend.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "BAAI/Infinity-Instruct-3M-0625-Qwen2-7B",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik Infinity Instruct 3M 0625 Qwen2 7B in de EU draaien?

Ja. HostYourAI draait Infinity Instruct 3M 0625 Qwen2 7B op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Infinity Instruct 3M 0625 Qwen2 7B hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Infinity Instruct 3M 0625 Qwen2 7B?

Infinity Instruct 3M 0625 Qwen2 7B is beschikbaar op aanvraag: via de gedeelde EU-router na kort overleg, of als eigen dedicated GPU-deployment per uur. Vertel ons je use case, dan zetten we het voor je klaar.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van BAAI

Probeer Infinity Instruct 3M 0625 Qwen2 7B gratis

Account aanmaken duurt een minuut. Test Infinity Instruct 3M 0625 Qwen2 7B direct in de playground.

Start gratis