HostYourAI
Product
EU RouterOpenAI-compatible APIAnthropic-compatible APIModel GardenDedicated InstancesPlaygroundFine-tuning (Loes)Connect je GPU-pool
Oplossingen
Use cases
LLM InferenceRAG pipelinesChatbotsAI agentsFine-tuning
Sectoren
OverheidZorgFinanceJuridisch
Modellen
Llama 3.3 70BMistralDeepSeek R1Qwen 2.5 72BGemma 2 27BCodestral 22BAlle modellen →
Vergelijk
Azure OpenAIAWS BedrockClaude APIChatGPTOpenAI
Resources
DocumentatieGids: migreren naar de EU RouterGids: eigen LLM deployen (vLLM)Gids: RAG bouwen op EU-GPUsModelcatalogus
Prijzen
NL EN DE
Inloggen Demo plannen Aan de slag
Model garden Op aanvraag

Llama Poro 2 70B Instruct

Dit model draait als dedicated deployment op grote GPU's en staat niet standaard in de gedeelde playground. Neem contact op, dan zetten we het voor je klaar.

Poro 2 70B Instruct is an instruction-following chatbot model created through supervised fine-tuning (SFT) and Direct Preference Optimization (DPO) of the Poro 2 70B Base model. This model is designed for conversational AI applications and instruction following in both Finnish an...

Vraag toegang aan ← Alle modellen
LumiOpen/Llama-Poro-2-70B-Instruct Op aanvraag
text->text · LumiOpen · EU-hosted
71B
Parameters
8K
Contextvenster
170GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 71B
Contextvenster 8,192 tokens
Minimale VRAM 170 GB
Architectuur LlamaForCausalLM (vLLM)
Licentie llama3.3
Modaliteit text->text
Uitgebracht May 2025
Uitgever LumiOpen ↗

Prijzen

Op aanvraag
Dedicated deployment, vanaf 170 GB VRAM. Afgerekend per GPU-uur.

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "LumiOpen/Llama-Poro-2-70B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik Llama Poro 2 70B Instruct in de EU draaien?

Ja. HostYourAI draait Llama Poro 2 70B Instruct op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Llama Poro 2 70B Instruct hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Llama Poro 2 70B Instruct?

Llama Poro 2 70B Instruct heeft meerdere GPU's tegelijk nodig en draait daarom als dedicated deployment. Je betaalt dan per GPU-uur en niet per token. Vertel ons je volume, dan rekenen we het voor je door.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van LumiOpen

Llama Poro 2 70B SFT

Note for most users: This is an intermediate checkpoint from our post-training pipeline. Most users should use Poro 2 70B Instruct instead, which includes an additional round of Direct Preference Optimization (DPO) for improved response quality and alignment. This SFT-only model is primarily intended for researchers interested in studying the effects of different post-training techniques.

71B 8K context Bekijk model →
Llama Poro 2 8B SFT

Note for most users: This is an intermediate checkpoint from our post-training pipeline. Most users should use Poro 2 8B Instruct instead, which includes an additional round of Direct Preference Optimization (DPO) for improved response quality and alignment. This SFT-only model is primarily intended for researchers interested in studying the effects of different post-training techniques.

8B 8K context Bekijk model →
Llama Poro 2 70B base

Poro 2 70B Base is a 70B parameter decoder-only transformer created through continued pretraining of Llama 3.1 70B to add Finnish language capabilities. It was trained on 165B tokens using a carefully balanced mix of Finnish, English, code, and math data. Poro 2 is a fully open source model and is made available under the Llama 3.1 Community License.

71B 8K context Bekijk model →
Llama Poro 2 8B base

Poro 2 8B Base is an 8B parameter decoder-only transformer created through continued pretraining of Llama 3.1 8B to add Finnish language capabilities. It was trained on 165B tokens using a carefully balanced mix of Finnish, English, code, and math data. Poro 2 is a fully open source model and is made available under the Llama 3.1 Community License.

8B 8K context Bekijk model →
Llama Poro 2 8B Instruct

Poro 2 8B Instruct is an instruction-following chatbot model created through supervised fine-tuning (SFT) and Direct Preference Optimization (DPO) of the Poro 2 8B Base model. This model is designed for conversational AI applications and instruction following in both Finnish and English. It was trained on a carefully curated mix of English and Finnish instruction data, followed by preference tuning to improve response quality.

8B 8K context Bekijk model →
Poro 34B chat

Poro 34b chat is a chat-tuned version of Poro 34B trained to follow instructions in both Finnish and English. Quantized versions are available on Poro 34B-chat-GGUF.

34B Bekijk model →

Vraag toegang aan

Llama Poro 2 70B Instruct is nog niet standaard beschikbaar. Laat je gegevens achter, dan regelen we een dedicated deployment.

Vraag toegang aan