Model garden Router · op aanvraag Dedicated · beschikbaar

LLARA document

Dit model draait als eigen dedicated GPU-deployment, direct te starten via de wizard. Data blijft in Europa.

For more details please refer to our github repo: https://github.com/FlagOpen/FlagEmbedding

BAAI/LLARA-document Op aanvraag
text->embedding · BAAI · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
6.7B
Parameters
4K
Contextvenster
48GB
Minimale VRAM
POST /api/v1/embeddings Op aanvraag

Specificaties

Parameters 6.7B
Contextvenster 4,096 tokens
Minimale VRAM 48 GB
Architectuur LlamaForCausalLM (vLLM)
Licentie mit
Modaliteit text->embedding
Uitgebracht May 2024
Uitgever BAAI ↗

Prijzen

Gedeelde router · per token
Op aanvraag
Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.
Dedicated GPU · per uur
vanaf €1,95 per uur
Eigen vLLM-instance op Europese cloud (48 GB VRAM), per uur afgerekend.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/embeddings \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "BAAI/LLARA-document",
    "input": "The quick brown fox"
  }'

Veelgestelde vragen

Kan ik LLARA document in de EU draaien?

Ja. HostYourAI draait LLARA document op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is LLARA document hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost LLARA document?

LLARA document heeft meerdere GPU's tegelijk nodig en draait daarom als dedicated deployment. Je betaalt dan per GPU-uur en niet per token. Vertel ons je volume, dan rekenen we het voor je door.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van BAAI

Probeer LLARA document gratis

Account aanmaken duurt een minuut. Je API-key werkt direct met LLARA document.

Start gratis