HostYourAI
Product
EU RouterOpenAI-compatible APIAnthropic-compatible APIModel GardenDedicated InstancesPlaygroundFine-tuning (Loes)GPU-Pool anbinden
Lösungen
Anwendungsfälle
LLM InferenceRAG pipelinesChatbotsAI agentsFine-tuning
Branchen
BehördenGesundheitswesenFinanzenRecht
Modelle
Llama 3.3 70BMistralDeepSeek R1Qwen 2.5 72BGemma 2 27BCodestral 22BAlle Modelle →
Vergleichen
Azure OpenAIAWS BedrockClaude APIChatGPTOpenAI
Ressourcen
DokumentationLeitfaden: Migration zum EU-RouterLeitfaden: eigenes LLM deployen (vLLM)Leitfaden: RAG auf EU-GPUs aufbauenModellkatalog
Preise
NL EN DE
Anmelden Demo buchen Jetzt starten
Model garden Auf Anfrage

Llama Poro 2 70B Instruct

Dieses Modell läuft als dediziertes Deployment auf großen GPUs und ist nicht standardmäßig im gemeinsamen Playground verfügbar. Kontaktieren Sie uns, wir richten es für Sie ein.

Poro 2 70B Instruct is an instruction-following chatbot model created through supervised fine-tuning (SFT) and Direct Preference Optimization (DPO) of the Poro 2 70B Base model. This model is designed for conversational AI applications and instruction following in both Finnish an...

Zugang anfragen ← Alle Modelle
LumiOpen/Llama-Poro-2-70B-Instruct Auf Anfrage
text->text · LumiOpen · EU-hosted
71B
Parameter
8K
Kontextfenster
170GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 71B
Kontextfenster 8,192 tokens
Minimaler VRAM 170 GB
Architektur LlamaForCausalLM (vLLM)
Lizenz llama3.3
Modalität text->text
Veröffentlicht May 2025
Anbieter LumiOpen ↗

Preise

Auf Anfrage
Dediziertes Deployment, ab 170 GB VRAM. Abrechnung nach GPU-Stunden.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "LumiOpen/Llama-Poro-2-70B-Instruct",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Llama Poro 2 70B Instruct in der EU betreiben?

Ja. HostYourAI betreibt Llama Poro 2 70B Instruct auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Llama Poro 2 70B Instruct DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Llama Poro 2 70B Instruct?

Llama Poro 2 70B Instruct braucht mehrere GPUs gleichzeitig und läuft deshalb als dediziertes Deployment, das nach GPU-Stunden abgerechnet wird, nicht pro Token. Nennen Sie uns Ihr Volumen, dann rechnen wir es für Sie durch.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von LumiOpen

Llama Poro 2 70B SFT

Note for most users: This is an intermediate checkpoint from our post-training pipeline. Most users should use Poro 2 70B Instruct instead, which includes an additional round of Direct Preference Optimization (DPO) for improved response quality and alignment. This SFT-only model is primarily intended for researchers interested in studying the effects of different post-training techniques.

71B 8K Kontext Modell ansehen →
Llama Poro 2 8B SFT

Note for most users: This is an intermediate checkpoint from our post-training pipeline. Most users should use Poro 2 8B Instruct instead, which includes an additional round of Direct Preference Optimization (DPO) for improved response quality and alignment. This SFT-only model is primarily intended for researchers interested in studying the effects of different post-training techniques.

8B 8K Kontext Modell ansehen →
Llama Poro 2 70B base

Poro 2 70B Base is a 70B parameter decoder-only transformer created through continued pretraining of Llama 3.1 70B to add Finnish language capabilities. It was trained on 165B tokens using a carefully balanced mix of Finnish, English, code, and math data. Poro 2 is a fully open source model and is made available under the Llama 3.1 Community License.

71B 8K Kontext Modell ansehen →
Llama Poro 2 8B base

Poro 2 8B Base is an 8B parameter decoder-only transformer created through continued pretraining of Llama 3.1 8B to add Finnish language capabilities. It was trained on 165B tokens using a carefully balanced mix of Finnish, English, code, and math data. Poro 2 is a fully open source model and is made available under the Llama 3.1 Community License.

8B 8K Kontext Modell ansehen →
Llama Poro 2 8B Instruct

Poro 2 8B Instruct is an instruction-following chatbot model created through supervised fine-tuning (SFT) and Direct Preference Optimization (DPO) of the Poro 2 8B Base model. This model is designed for conversational AI applications and instruction following in both Finnish and English. It was trained on a carefully curated mix of English and Finnish instruction data, followed by preference tuning to improve response quality.

8B 8K Kontext Modell ansehen →
Poro 34B chat

Poro 34b chat is a chat-tuned version of Poro 34B trained to follow instructions in both Finnish and English. Quantized versions are available on Poro 34B-chat-GGUF.

34B Modell ansehen →

Zugang anfragen

Llama Poro 2 70B Instruct ist noch nicht standardmäßig verfügbar. Hinterlassen Sie Ihre Kontaktdaten, wir kümmern uns um ein dediziertes Deployment.

Zugang anfragen