Model garden Router · op aanvraag Dedicated · beschikbaar

AquilaChat2 70B Expr

Dit model draait als eigen dedicated GPU-deployment, direct te starten via de wizard. Data blijft in Europa.

We opensource our Aquila2 series, now including Aquila2, the base language models, namely Aquila2-7B, Aquila2-34B and Aquila2-70B-Expr , as well as AquilaChat2, the chat models, namely AquilaChat2-7B, AquilaChat2-34B and AquilaChat2-70B-Expr, as well as the long-text chat models,...

BAAI/AquilaChat2-70B-Expr Op aanvraag
text->text · BAAI · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
70B
Parameters
4K
Contextvenster
161GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 70B
Contextvenster 4,096 tokens
Minimale VRAM 161 GB
Architectuur AquilaForCausalLM (vLLM)
Licentie other
Modaliteit text->text
Uitgebracht November 2023
Uitgever BAAI ↗

Prijzen

Gedeelde router · per token
Op aanvraag
Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.
Dedicated GPU · per uur
vanaf €3,91 per uur
Eigen vLLM-instance op Europese cloud (161 GB VRAM), per uur afgerekend.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "BAAI/AquilaChat2-70B-Expr",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik AquilaChat2 70B Expr in de EU draaien?

Ja. HostYourAI draait AquilaChat2 70B Expr op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is AquilaChat2 70B Expr hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost AquilaChat2 70B Expr?

AquilaChat2 70B Expr heeft meerdere GPU's tegelijk nodig en draait daarom als dedicated deployment. Je betaalt dan per GPU-uur en niet per token. Vertel ons je volume, dan rekenen we het voor je door.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van BAAI

Probeer AquilaChat2 70B Expr gratis

Account aanmaken duurt een minuut. Test AquilaChat2 70B Expr direct in de playground.

Start gratis