Model garden Router · op aanvraag Dedicated · beschikbaar

ALIA 40b

Dit model draait als eigen dedicated GPU-deployment, direct te starten via de wizard. Data blijft in Europa.

[!WARNING] WARNING: This is a base language model that has not undergone instruction tuning or alignment with human preferences. As a result, it may generate outputs that are inappropriate, misleading, biased, or unsafe. These risks can be mitigated through additional post-traini...

BSC-LT/ALIA-40b Op aanvraag
text->text · BSC-LT · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
40B
Parameters
33K
Contextvenster
160GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 40B
Contextvenster 32,768 tokens
Minimale VRAM 160 GB
Architectuur LlamaForCausalLM (vLLM)
Licentie apache-2.0
Modaliteit text->text
Uitgebracht December 2024
Uitgever BSC-LT ↗

Prijzen

Gedeelde router · per token
Op aanvraag
Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.
Dedicated GPU · per uur
vanaf €6,97 per uur
Eigen vLLM-instance op Europese cloud (160 GB VRAM), per uur afgerekend.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "BSC-LT/ALIA-40b",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik ALIA 40b in de EU draaien?

Ja. HostYourAI draait ALIA 40b op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is ALIA 40b hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost ALIA 40b?

ALIA 40b heeft meerdere GPU's tegelijk nodig en draait daarom als dedicated deployment. Je betaalt dan per GPU-uur en niet per token. Vertel ons je volume, dan rekenen we het voor je door.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van BSC-LT

salamandra 7b fc 2607

salamandra 7b fc 2607 is een open-source taalmodel van BSC-LT met 7.8B parameters, gehost op Europese GPU's via een OpenAI-compatibele API.

7.8B Bekijk model →
ALIA 40b fc 2607

ALIA 40b fc 2607 is een open-source taalmodel van BSC-LT met 40B parameters, gehost op Europese GPU's via een OpenAI-compatibele API.

40B Bekijk model →
salamandra 7b instruct 2606

[!NOTE] WARNING: Although this model has undergone safety and value alignment, it may still occasionally generate unintended or undesired outputs. Sampling Parameters: For optimal performance, we recommend using temperatures close to zero (0 - 0.2). Additionally, we advise against using any type of repetition penalty, as from our experience, it negatively impacts instructed model's responses.

7.8B 164K context Bekijk model →
ALIA 40b instruct 2606

[!NOTE] WARNING: Although this model has undergone safety and value alignment, it may still occasionally generate unintended or undesired outputs. Sampling Parameters: For optimal performance, we recommend using temperatures close to zero (0 - 0.2). Additionally, we advise against using any type of repetition penalty, as from our experience, it negatively impacts instructed model's responses.

40B 164K context Bekijk model →
ALIA 40b fc 2606

[!NOTE] WARNING: This model has been trained on instructions but has not undergone safety or value alignment. Work In Progress: New versions will be released over the coming months.

40B 164K context Bekijk model →
ALIA 40b fc 2605

[!NOTE] WARNING: This model has been trained on instructions but has not undergone safety or value alignment. Work In Progress: New versions will be released over the coming months.

40B 164K context Bekijk model →

Probeer ALIA 40b gratis

Account aanmaken duurt een minuut. Test ALIA 40b direct in de playground.

Start gratis