Model garden Router · auf Anfrage Dedicated · verfügbar

Flor 6.3B Instruct 4096

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

--- license: apache-2.0 language: - en - ca - es basemodel: - projecte-aina/FLOR-6.3B pipelinetag: text-generation libraryname: transformers ---

BSC-LT/Flor-6.3B-Instruct-4096 vLLM ready
text->text · BSC-LT · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
6.2B
Parameter
Kontextfenster
16GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 6.2B
Minimaler VRAM 16 GB
Architektur BloomForCausalLM (vLLM)
Lizenz apache-2.0
Modalität text->text
Veröffentlicht September 2024
Anbieter BSC-LT ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €2,16 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (16 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

✓ Funktionsfähig verifiziert am 01-08-2026, Antwort in 81 ms auf unserer EU-Infrastruktur.

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "BSC-LT/Flor-6.3B-Instruct-4096",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Flor 6.3B Instruct 4096 in der EU betreiben?

Ja. HostYourAI betreibt Flor 6.3B Instruct 4096 auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Flor 6.3B Instruct 4096 DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Flor 6.3B Instruct 4096?

Flor 6.3B Instruct 4096 ist auf Anfrage verfügbar: über den gemeinsamen EU-Router nach kurzer Abstimmung oder als dediziertes GPU-Deployment, das pro Stunde abgerechnet wird. Nennen Sie uns Ihren Anwendungsfall, dann richten wir es für Sie ein.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von BSC-LT

salamandra 7b fc 2607

salamandra 7b fc 2607 ist ein quelloffenes Sprachmodell von BSC-LT mit 7.8B Parametern, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.

7.8B Modell ansehen →
ALIA 40b fc 2607

ALIA 40b fc 2607 ist ein quelloffenes Sprachmodell von BSC-LT mit 40B Parametern, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.

40B Modell ansehen →
salamandra 7b instruct 2606

[!NOTE] WARNING: Although this model has undergone safety and value alignment, it may still occasionally generate unintended or undesired outputs. Sampling Parameters: For optimal performance, we recommend using temperatures close to zero (0 - 0.2). Additionally, we advise against using any type of repetition penalty, as from our experience, it negatively impacts instructed model's responses.

7.8B 164K Kontext Modell ansehen →
ALIA 40b instruct 2606

[!NOTE] WARNING: Although this model has undergone safety and value alignment, it may still occasionally generate unintended or undesired outputs. Sampling Parameters: For optimal performance, we recommend using temperatures close to zero (0 - 0.2). Additionally, we advise against using any type of repetition penalty, as from our experience, it negatively impacts instructed model's responses.

40B 164K Kontext Modell ansehen →
ALIA 40b fc 2606

[!NOTE] WARNING: This model has been trained on instructions but has not undergone safety or value alignment. Work In Progress: New versions will be released over the coming months.

40B 164K Kontext Modell ansehen →
ALIA 40b fc 2605

[!NOTE] WARNING: This model has been trained on instructions but has not undergone safety or value alignment. Work In Progress: New versions will be released over the coming months.

40B 164K Kontext Modell ansehen →

Testen Sie Flor 6.3B Instruct 4096 kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Flor 6.3B Instruct 4096 direkt im Playground.

Kostenlos starten