Model garden Auf Anfrage

Llama 3.2 11B Vision

Dieses Modell läuft als dediziertes Deployment auf großen GPUs und ist nicht standardmäßig im gemeinsamen Playground verfügbar. Kontaktieren Sie uns, wir richten es für Sie ein.

Llama 3.2 11B Vision ist ein multimodales Sprachmodell von Meta mit 11B Parametern, gehostet auf europäischen GPUs über eine OpenAI-kompatible API.

meta-llama/Llama-3.2-11B-Vision Auf Anfrage
text+image->text · meta-llama · EU-hosted
11B
Parameter
Kontextfenster
25GB
Minimaler VRAM
POST /api/v1/chat/completions Auf Anfrage

Spezifikationen

Parameter 11B
Minimaler VRAM 25 GB
Architektur MllamaForConditionalGeneration (vLLM)
Lizenz llama3.2
Modalität text+image->text
Veröffentlicht September 2024
Anbieter meta-llama ↗

Preise

€0.10
Input (pro 1M Tokens)
€0.18
Output (pro 1M Tokens)

Gemeinsamer EU-Router, Pay-per-Token, Scale-to-Zero. Dedizierte GPU-Deployments werden stundenweise abgerechnet, siehe Preise.

Nicht über den gemeinsamen Router verfügbar. Preis auf Anfrage als dediziertes GPU-Deployment.

Direkt aufrufen

Drop-in-Ersatz für OpenAI: Ändern Sie nur die Base-URL und den API-Key. Auch das Anthropic-Format (/v1/messages) wird unterstützt.

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "meta-llama/Llama-3.2-11B-Vision",
    "messages": [{"role": "user", "content": "Hello!"}]
  }'

Häufig gestellte Fragen

Kann ich Llama 3.2 11B Vision in der EU betreiben?

Ja. HostYourAI betreibt Llama 3.2 11B Vision auf GPUs in europäischen Rechenzentren über vLLM. Prompts und Outputs verlassen die EU nicht und es ist kein US-Cloud-Anbieter in der Kette.

Ist das Hosting von Llama 3.2 11B Vision DSGVO-konform?

Ja. Die gesamte Verarbeitung findet innerhalb der EU statt, ein Auftragsverarbeitungsvertrag (AVV) ist verfügbar und die Liste der Subprozessoren ist öffentlich. Open-Source-Gewichte bedeuten außerdem: kein Training mit Ihren Daten.

Was kostet Llama 3.2 11B Vision?

Über den gemeinsamen EU-Router zahlen Sie €0.10 pro Million Input-Tokens und €0.18 pro Million Output-Tokens, ohne Fixkosten. Für hohe Volumen oder Isolation können Sie Llama 3.2 11B Vision auch als dedizierte GPU-Instanz stundenweise betreiben.

Ist die API OpenAI-kompatibel?

Ja. Sie verwenden die Standard-OpenAI-SDKs mit einer angepassten Base-URL (https://hostyourai.com/api/v1). Auch die Anthropic Messages API wird als Drop-in unterstützt.

Weitere Modelle von Meta

Zugang anfragen

Llama 3.2 11B Vision ist noch nicht standardmäßig verfügbar. Hinterlassen Sie Ihre Kontaktdaten, wir kümmern uns um ein dediziertes Deployment.

Zugang anfragen