Model garden Router · auf Anfrage Dedicated · verfügbar

LLARA passage

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

For more details please refer to our github repo: https://github.com/FlagOpen/FlagEmbedding

BAAI/LLARA-passage Auf Anfrage
text->embedding · BAAI · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
6.7B
Parameter
4K
Kontextfenster
48GB
Minimaler VRAM
POST /api/v1/embeddings Auf Anfrage

Spezifikationen

Parameter 6.7B
Kontextfenster 4,096 tokens
Minimaler VRAM 48 GB
Architektur LlamaForCausalLM (vLLM)
Lizenz mit
Modalität text->embedding
Veröffentlicht May 2024
Anbieter BAAI ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €1,95 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (48 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/embeddings \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "BAAI/LLARA-passage",
    "input": "The quick brown fox"
  }'

Häufig gestellte Fragen

Kann ich LLARA passage in der EU betreiben?

Ja. HostYourAI betreibt LLARA passage auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von LLARA passage DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet LLARA passage?

LLARA passage braucht mehrere GPUs gleichzeitig und läuft deshalb als dediziertes Deployment, das nach GPU-Stunden abgerechnet wird, nicht pro Token. Nennen Sie uns Ihr Volumen, dann rechnen wir es für Sie durch.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von BAAI

Testen Sie LLARA passage kostenlos

Die Kontoerstellung dauert eine Minute. Ihr API-Key funktioniert sofort mit LLARA passage.

Kostenlos starten