Model garden Op aanvraag

Teuken 7B base v0.6

Dit model draait als dedicated deployment op grote GPU's en staat niet standaard in de gedeelde playground. Neem contact op, dan zetten we het voor je klaar.

- Developed by: Fraunhofer, Forschungszentrum Jülich, TU Dresden, DFKI - Funded by: German Federal Ministry of Economics and Climate Protection (BMWK) in the context of the OpenGPT-X project - Model type: Transformer based decoder-only model - Language(s) (NLP): bg, cs, da, de, e...

openGPT-X/Teuken-7B-base-v0.6 Op aanvraag
text->text · openGPT-X · EU-hosted
7.5B
Parameters
4K
Contextvenster
24GB
Minimale VRAM
POST /api/v1/chat/completions Op aanvraag

Specificaties

Parameters 7.5B
Contextvenster 4,096 tokens
Minimale VRAM 24 GB
Architectuur LlamaForCausalLM (vLLM)
Licentie cc-by-nc-4.0
Modaliteit text->text
Uitgebracht December 2024
Uitgever openGPT-X ↗

Prijzen

€0.05
Input (per 1M tokens)
€0.12
Output (per 1M tokens)

Gedeelde EU-router, pay-per-token, scale-to-zero. Dedicated GPU-deployments worden per uur afgerekend, zie prijzen.

Niet beschikbaar op de gedeelde router. Prijs op aanvraag als dedicated GPU-deployment.

Direct aanroepen

Drop-in vervanger voor OpenAI: wijzig alleen de base-URL en de API-key. Ook het Anthropic-formaat (/v1/messages) wordt ondersteund.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "openGPT-X/Teuken-7B-base-v0.6",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Veelgestelde vragen

Kan ik Teuken 7B base v0.6 in de EU draaien?

Ja. HostYourAI draait Teuken 7B base v0.6 op GPU's in Europese datacenters via vLLM. Prompts en outputs verlaten de EU niet en er is geen Amerikaanse cloudprovider in de keten.

Is Teuken 7B base v0.6 hosten AVG/GDPR-compliant?

Ja. Alle verwerking vindt plaats binnen de EU, er is een verwerkersovereenkomst (DPA) beschikbaar en de subprocessor-lijst is openbaar. Open-source gewichten betekenen ook: geen training op jouw data.

Wat kost Teuken 7B base v0.6?

Via de gedeelde EU-router betaal je €0.05 per miljoen input-tokens en €0.12 per miljoen output-tokens, zonder vaste kosten. Voor hoge volumes of isolatie kun je Teuken 7B base v0.6 ook als dedicated GPU-instance per uur draaien.

Is de API compatibel met OpenAI?

Ja. Je gebruikt de standaard OpenAI-SDK's met een aangepaste base-URL (https://hostyourai.com/api/v1). Ook de Anthropic Messages API wordt ondersteund als drop-in.

Andere modellen van OpenGPT-X

Vraag toegang aan

Teuken 7B base v0.6 is nog niet standaard beschikbaar. Laat je gegevens achter, dan regelen we een dedicated deployment.

Vraag toegang aan