Migrar OpenAI al Router de la UE

• Una cuenta de HostYourAI con algo de crédito
• Una clave de API con el formato hyai-..., creada en Router dentro de su panel
• Su SDK actual de OpenAI o Anthropic, sin instalar ninguna biblioteca nueva

En su panel, vaya a Router y cree una clave nueva. Copie la clave hyai- enseguida; solo se muestra una vez. Esta clave sustituye a su clave de OpenAI.

Configure la URL base como https://hostyourai.com/api/v1 y utilice su clave de HostYourAI. En Python con el SDK de OpenAI, el resto de su código no cambia:

from openai import OpenAI

client = OpenAI(
    base_url="https://hostyourai.com/api/v1",
    api_key="hyai-...",   # your HostYourAI key
)

resp = client.chat.completions.create(
    model="llama-3.3-70b",
    messages=[{"role": "user", "content": "Resume este contrato."}],
)
print(resp.choices[0].message.content)

En Node.js con el mismo SDK:

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://hostyourai.com/api/v1",
  apiKey: process.env.HOSTYOURAI_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "llama-3.3-70b",
  messages: [{ role: "user", content: "Resume este contrato." }],
});
console.log(resp.choices[0].message.content);

O directamente desde curl para una prueba rápida:

curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{"model":"llama-3.3-70b","messages":[{"role":"user","content":"Hola"}]}'

Donde usaría gpt-4o en OpenAI, elija aquí un modelo abierto del Model Garden, por ejemplo una variante de Llama, Qwen, Mistral o DeepSeek. Utilice el slug del modelo exactamente como aparece en el Model Garden como valor de model. El streaming funciona igual: establezca stream=True y recibirá eventos enviados por el servidor (SSE).

También funciona. El Router expone una capa de compatibilidad en /v1/messages. Configure la URL base como https://hostyourai.com y pase su clave hyai- como x-api-key:

from anthropic import Anthropic

client = Anthropic(
    base_url="https://hostyourai.com",
    api_key="hyai-...",
)

msg = client.messages.create(
    model="llama-3.3-70b",
    max_tokens=512,
    messages=[{"role": "user", "content": "Hola"}],
)
print(msg.content[0].text)

Pruebe su primera solicitud en el Playground o desde su código y siga el uso, los tokens y la latencia de cada solicitud en su registro de actividad. Hay dos cosas a tener en cuenta al migrar: los nombres de los modelos son distintos (use slugs de modelos abiertos, no gpt-*), y se paga por token en lugar de mediante una suscripción de OpenAI.

El Router compartido es ideal para empezar. Si desea aislamiento o capacidad garantizada, promueva un modelo a una instancia dedicada en su propia GPU de la UE. Su código sigue siendo el mismo, solo cambia el slug del modelo o el endpoint.

Esta tabla pone los ajustes uno al lado del otro. Para más información sobre la propia pasarela, consulte la página EU Inference Router.