Migrer OpenAI vers le Router UE

• Un compte HostYourAI avec un peu de crédit
• Une clé API au format hyai-..., créée sous Router dans votre tableau de bord
• Votre SDK OpenAI ou Anthropic actuel, aucune nouvelle bibliothèque à installer

Dans votre tableau de bord, allez dans Router et créez une nouvelle clé. Copiez immédiatement la clé hyai- ; vous ne la voyez qu'une seule fois. Cette clé remplace votre clé OpenAI.

Définissez l'URL de base sur https://hostyourai.com/api/v1 et utilisez votre clé HostYourAI. En Python avec le SDK OpenAI, le reste de votre code reste inchangé :

from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...",   # your HostYourAI key
)

resp = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role": "user", "content": "Summarise this contract."}],
)
print(resp.choices[0].message.content)

En Node.js avec le même SDK :

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://hostyourai.com/api/v1",
  apiKey: process.env.HOSTYOURAI_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "llama-3.3-70b",
  messages: [{ role: "user", content: "Summarise this contract." }],
});
console.log(resp.choices[0].message.content);

Ou directement avec curl pour un test rapide :

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{"model":"llama-3.3-70b","messages":[{"role":"user","content":"Hello"}]}'

Là où vous utiliseriez gpt-4o chez OpenAI, choisissez ici un modèle ouvert du Model Garden, par exemple une variante de Llama, Qwen, Mistral ou DeepSeek. Utilisez le slug du modèle exactement tel qu'il apparaît dans le Model Garden comme valeur de model. Le streaming fonctionne à l'identique : définissez stream=True et vous recevez des server-sent events.

Cela fonctionne aussi. Le Router expose une couche de compatibilité /v1/messages. Définissez l'URL de base sur https://hostyourai.com et transmettez votre clé hyai- dans x-api-key :

from anthropic import Anthropic

client = Anthropic(
    base_url="https://hostyourai.com",
    api_key="hyai-...",
)

msg = client.messages.create(
    model="llama-3.3-70b",
    max_tokens=512,
    messages=[{"role": "user", "content": "Hello"}],
)
print(msg.content[0].text)

Testez votre première requête dans le Playground ou depuis votre code, et suivez l'usage, les tokens et la latence par requête dans votre journal d'activité. Deux points de vigilance lors de la migration : les noms de modèles diffèrent (utilisez des slugs de modèles ouverts, pas gpt-*), et vous payez au token plutôt que via un abonnement OpenAI.

Le Router partagé est idéal pour commencer. Si vous souhaitez de l'isolation ou une capacité garantie, faites passer un modèle sur une instance dédiée, sur votre propre GPU dans l'UE. Votre code reste identique, seuls le slug du modèle ou le point de terminaison changent.

Ce tableau met les paramètres côte à côte. Pour plus de contexte sur la passerelle elle-même, consultez la page EU Inference Router.