Model garden Router · auf Anfrage Dedicated · verfügbar

llm embedder

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

More details please refer to our Github: FlagEmbedding.

BAAI/llm-embedder Auf Anfrage
text->embedding · BAAI · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
0.1B
Parameter
1K
Kontextfenster
8GB
Minimaler VRAM
POST /api/v1/embeddings Auf Anfrage

Spezifikationen

Parameter 0.1B
Kontextfenster 512 tokens
Minimaler VRAM 8 GB
Architektur BertModel (vLLM)
Lizenz mit
Modalität text->embedding
Veröffentlicht October 2023
Anbieter BAAI ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €1,95 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (8 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/embeddings \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "BAAI/llm-embedder",
    "input": "The quick brown fox"
  }'

Häufig gestellte Fragen

Kann ich llm embedder in der EU betreiben?

Ja. HostYourAI betreibt llm embedder auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von llm embedder DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet llm embedder?

llm embedder braucht mehrere GPUs gleichzeitig und läuft deshalb als dediziertes Deployment, das nach GPU-Stunden abgerechnet wird, nicht pro Token. Nennen Sie uns Ihr Volumen, dann rechnen wir es für Sie durch.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von BAAI

Testen Sie llm embedder kostenlos

Die Kontoerstellung dauert eine Minute. Ihr API-Key funktioniert sofort mit llm embedder.

Kostenlos starten