Model garden Router · auf Anfrage Dedicated · verfügbar

Infinity Instruct 7M Gen Llama3 1 70B

Läuft als eigenes dediziertes GPU-Deployment, direkt über den Wizard startbar. Daten bleiben in Europa.

Infinity-Instruct-7M-Gen-Llama3.1-70B is an opensource supervised instruction tuning model without reinforcement learning from human feedback (RLHF). This model is just finetuned on Infinity-Instruct-7M and Infinity-Instruct-Gen and showing favorable results on AlpacaEval 2.0 and...

BAAI/Infinity-Instruct-7M-Gen-Llama3_1-70B Auf Anfrage
text->text · BAAI · sovereign EU
Runs on EU infrastructure operated by European companies; US marketplace capacity is never part of this chain. Full chain
71B
Parameter
8K
Kontextfenster
170GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 71B
Kontextfenster 8,192 tokens
Minimaler VRAM 170 GB
Architektur LlamaForCausalLM (vLLM)
Lizenz llama3.1
Modalität text->text
Veröffentlicht July 2024
Anbieter BAAI ↗

Preise

Gemeinsamer Router · pro Token
Auf Anfrage
Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.
Dediziertes GPU · pro Stunde
ab €4,06 pro Stunde
Eigene vLLM-Instanz in europäischer Cloud (170 GB VRAM), stundenweise abgerechnet.

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Bench-Index

Bench ist unser Qualitätsindex für jedes Modell, 0 bis 100. Er stützt sich auf öffentliche Messungen (Epoch AI mit rund 40 Benchmarks, LiveBench, LMArena und weitere) und wird jeden Morgen aktualisiert. Wo niemand misst, steht eine Schätzung mit Bandbreite.

~38,9 / 100 · Schätzung

Noch kein öffentlicher Benchmark: geschätzt aus Größe und Veröffentlichungsdatum.

Bandbreite 27,4 bis 50,4

Quellen: Epoch AI ↗ · LiveBench ↗ · LMArena ↗ · Täglich aktualisiert, zuletzt am 04-11-2026

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "BAAI/Infinity-Instruct-7M-Gen-Llama3_1-70B",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Infinity Instruct 7M Gen Llama3 1 70B in der EU betreiben?

Ja. HostYourAI betreibt Infinity Instruct 7M Gen Llama3 1 70B auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Infinity Instruct 7M Gen Llama3 1 70B DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Infinity Instruct 7M Gen Llama3 1 70B?

Infinity Instruct 7M Gen Llama3 1 70B braucht mehrere GPUs gleichzeitig und läuft deshalb als dediziertes Deployment, das nach GPU-Stunden abgerechnet wird, nicht pro Token. Nennen Sie uns Ihr Volumen, dann rechnen wir es für Sie durch.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von BAAI

AREX 2

AREX-2 is a 27B-parameter long-horizon agent model from the Beijing Academy of Artificial Intelligence (BAAI). It learns to improve a solution over multiple test-time rounds: propose, measure, reflect, and revise.

27B 262K Kontext Modell ansehen →
Recon2Reason Reasoning 4B

Recon2Reason Reasoning 4B is a 4B-scale vision-language model specialized for spatial reasoning in indoor and embodied scenes. It is fine-tuned from Qwen3-VL-4B and improves reasoning about metric distance, relative position, object configuration, and spatial relations from visual inputs.

4.4B 262K Kontext Modell ansehen →
AREX Base

AREX is a family of deep research agents developed by the Beijing Academy of Artificial Intelligence (BAAI). It is designed for long-horizon tasks in which an agent must search across sources, assemble candidate answers, verify multiple constraints, and revise its research plan when the available evidence is incomplete.

123B 262K Kontext Modell ansehen →
AREX Turbo

AREX is a family of deep research agents developed by the Beijing Academy of Artificial Intelligence (BAAI). It is designed for long-horizon tasks in which an agent must search across sources, assemble candidate answers, verify multiple constraints, and revise its research plan when the available evidence is incomplete.

4.5B 262K Kontext Modell ansehen →
URSA 1.7B IBQ512

Using the 🤗's Diffusers library to run URSA in a simple and efficient manner.

2.3B Modell ansehen →
URSA 0.6B FSQ320

Using the 🤗's Diffusers library to run URSA in a simple and efficient manner.

0.7B Modell ansehen →

Testen Sie Infinity Instruct 7M Gen Llama3 1 70B kostenlos

Die Kontoerstellung dauert eine Minute. Testen Sie Infinity Instruct 7M Gen Llama3 1 70B direkt im Playground.

Kostenlos starten