HostYourAI
Product
EU RouterOpenAI-compatible APIAnthropic-compatible APIModel GardenDedicated InstancesPlaygroundFine-tuning (Loes)Connect je GPU-pool
Oplossingen
Use cases
LLM InferenceRAG pipelinesChatbotsAI agentsFine-tuning
Sectoren
OverheidZorgFinanceJuridisch
Modellen
Llama 3.3 70BMistralDeepSeek R1Qwen 2.5 72BGemma 2 27BCodestral 22BAlle modellen →
Vergelijk
Azure OpenAIAWS BedrockClaude APIChatGPTOpenAI
Resources
DocumentatieGids: migreren naar de EU RouterGids: eigen LLM deployen (vLLM)Gids: RAG bouwen op EU-GPUsModelcatalogus
Prijzen
NL EN DE
Inloggen Demo plannen Aan de slag
Model garden Op aanvraag

Poro 34B chat

Dit model draait als dedicated deployment op grote GPU's en staat niet standaard in de gedeelde playground. Neem contact op, dan zetten we het voor je klaar.

Poro 34b chat is a chat-tuned version of Poro 34B trained to follow instructions in both Finnish and English. Quantized versions are available on Poro 34B-chat-GGUF.

Vraag toegang aan ← Alle modellen
LumiOpen/Poro-34B-chat Op aanvraag
text->text · LumiOpen · EU-hosted
34B
Parameters
—
Contextvenster
160GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 34B
Minimale VRAM 160 GB
Architectuur BloomForCausalLM (vLLM)
Licentie apache-2.0
Modaliteit text->text
Uitgebracht April 2024
Uitgever LumiOpen ↗

Prijzen

Op aanvraag
Dedicated deployment, vanaf 160 GB VRAM. Afgerekend per GPU-uur.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "LumiOpen/Poro-34B-chat",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik Poro 34B chat in de EU draaien?

Ja. HostYourAI draait Poro 34B chat op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Poro 34B chat hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Poro 34B chat?

Poro 34B chat heeft meerdere GPU's tegelijk nodig en draait daarom als dedicated deployment. Je betaalt dan per GPU-uur en niet per token. Vertel ons je volume, dan rekenen we het voor je door.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van LumiOpen

Llama Poro 2 70B SFT

Note for most users: This is an intermediate checkpoint from our post-training pipeline. Most users should use Poro 2 70B Instruct instead, which includes an additional round of Direct Preference Optimization (DPO) for improved response quality and alignment. This SFT-only model is primarily intended for researchers interested in studying the effects of different post-training techniques.

71B 8K context Bekijk model →
Llama Poro 2 8B SFT

Note for most users: This is an intermediate checkpoint from our post-training pipeline. Most users should use Poro 2 8B Instruct instead, which includes an additional round of Direct Preference Optimization (DPO) for improved response quality and alignment. This SFT-only model is primarily intended for researchers interested in studying the effects of different post-training techniques.

8B 8K context Bekijk model →
Llama Poro 2 70B base

Poro 2 70B Base is a 70B parameter decoder-only transformer created through continued pretraining of Llama 3.1 70B to add Finnish language capabilities. It was trained on 165B tokens using a carefully balanced mix of Finnish, English, code, and math data. Poro 2 is a fully open source model and is made available under the Llama 3.1 Community License.

71B 8K context Bekijk model →
Llama Poro 2 8B base

Poro 2 8B Base is an 8B parameter decoder-only transformer created through continued pretraining of Llama 3.1 8B to add Finnish language capabilities. It was trained on 165B tokens using a carefully balanced mix of Finnish, English, code, and math data. Poro 2 is a fully open source model and is made available under the Llama 3.1 Community License.

8B 8K context Bekijk model →
Llama Poro 2 70B Instruct

Poro 2 70B Instruct is an instruction-following chatbot model created through supervised fine-tuning (SFT) and Direct Preference Optimization (DPO) of the Poro 2 70B Base model. This model is designed for conversational AI applications and instruction following in both Finnish and English. It was trained on a carefully curated mix of English and Finnish instruction data, followed by preference tuning to improve response quality.

71B 8K context Bekijk model →
Llama Poro 2 8B Instruct

Poro 2 8B Instruct is an instruction-following chatbot model created through supervised fine-tuning (SFT) and Direct Preference Optimization (DPO) of the Poro 2 8B Base model. This model is designed for conversational AI applications and instruction following in both Finnish and English. It was trained on a carefully curated mix of English and Finnish instruction data, followed by preference tuning to improve response quality.

8B 8K context Bekijk model →

Vraag toegang aan

Poro 34B chat is nog niet standaard beschikbaar. Laat je gegevens achter, dan regelen we een dedicated deployment.

Vraag toegang aan