Ir al contenido

Guía 04 EU compute

Crear RAG en GPUs de la UE

Vincule su base de conocimiento al Router y dé a sus modelos contexto de sus propios documentos.

  • GLM
  • DeepSeek
  • Qwen
  • Kimi
  • Mistral
  • Llama
  • gpt-oss
  • Gemma
  • Loes
  • Nemotron
  • Claude Code
  • Codex
  • OpenCode
  • Cursor
  • Cline
  • Loes
  • OpenAI SDK
  • Anthropic SDK

01 Guía

Qué hace RAG por usted

Con la generación aumentada por recuperación (RAG, por sus siglas en inglés) basa las respuestas en sus propios documentos en lugar de solo en el conocimiento de entrenamiento del modelo. HostYourAI aporta los modelos abiertos y la infraestructura de GPUs de la UE; usted decide qué conocimiento se incorpora. Los documentos, los prompts y las respuestas permanecen en Europa de principio a fin.

02 Guía

Paso 1: cree una base de conocimiento

Suba documentos (PDF, TXT, CSV, MD o DOCX) o rastree una URL o un sitemap. Su contenido se divide en fragmentos de unos 1000 caracteres con 100 caracteres de solapamiento, respetando los límites de las frases. Cada fragmento recibe un embedding (de 384 dimensiones). Los archivos pequeños (< 50MB) se incrustan por completo de antemano para una recuperación rápida; los archivos grandes utilizan un modo híbrido con FULLTEXT más embedding bajo demanda.

03 Guía

Paso 2: vincule la base de conocimiento

Hay tres formas de asociar una base de conocimiento a sus solicitudes de chat:

  • Vincularla a una instancia (recomendado): POST /api/kb/{kbId}/link/{instanceId}. Cada solicitud de chat a esa instancia recibe entonces contexto automáticamente, también mediante una clave hyai- externa.
  • Vincularla a un agente: establezca knowledge_base_id en el agente; el chat público lo utiliza automáticamente.
  • De forma explícita en cada solicitud: pase knowledge_base_id en el cuerpo de su chat completion.
04 Guía

Paso 3: pregunte con contexto

shell
curl https://hostyourai.com/api/v1/chat/completions \
  -H "Authorization: Bearer hyai-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "llama-3.3-70b",
    "messages": [{"role":"user","content":"¿Cuál es nuestra política de devoluciones?"}],
    "knowledge_base_id": 42
  }'

El Router recupera los fragmentos más relevantes mediante similitud del coseno (umbral mínimo de 0.3), inyecta los 5 primeros en el prompt y genera una respuesta basada en sus documentos.

05 Guía

Citas de las fuentes

Las respuestas sin streaming incluyen un array sources adicional con el nombre del documento, la puntuación, el índice del fragmento y un extracto, de modo que puede rastrear cada respuesta hasta su fuente. Con streaming, el contexto se inyecta igualmente, pero las fuentes no pueden devolverse en los fragmentos SSE.

06 Guía

Robusto y conforme a la normativa

Los fallos de recuperación se gestionan con elegancia: si la recuperación falla, el chat continúa sin contexto en lugar de devolver un error. Y como todo se ejecuta en GPUs de la UE, todo su pipeline RAG, desde los documentos hasta la respuesta, permanece en Europa.

07 Guía

Referencia: los ajustes del pipeline de un vistazo

Estos valores determinan cómo se procesan y se recuperan sus documentos. Son fijos, de modo que la calidad es predecible en todas sus bases de conocimiento.

AjusteValor
Tamaño del fragmentoUnos 1000 caracteres, divididos en los límites de las frases
Solapamiento100 caracteres entre fragmentos consecutivos
EmbeddingsVectores de 384 dimensiones por fragmento
SimilitudSimilitud del coseno, umbral mínimo de 0.3
Contexto por solicitudLos 5 fragmentos más relevantes
Modo de procesamientoIncrustación previa completa por debajo de 50MB, híbrido por encima

08 Guía

Solución de problemas

01

Mis respuestas no contienen un array sources

Las citas de las fuentes solo funcionan en respuestas sin streaming. Desactive stream en las solicitudes en las que necesite las fuentes; con streaming, el contexto se inyecta igualmente, pero las fuentes no caben en los fragmentos SSE.

02

El modelo parece ignorar mis documentos

Compruebe primero que la base de conocimiento está realmente vinculada: a la instancia, al agente o mediante knowledge_base_id en el cuerpo de la solicitud. Después, compruebe que sus documentos han terminado de procesarse; justo después de una subida, el procesamiento todavía está en curso en la cola.

03

Recibo 401 Unauthorized

Su clave de API debe empezar por hyai- y estar copiada completa, y la URL base debe ser exactamente https://hostyourai.com/api/v1. Una clave de otro proveedor no funciona.

04

La primera respuesta tarda mucho

Probablemente el modelo elegido aún no esté activo. El Model Garden muestra si un modelo está activo ("warm") o todavía se está calentando; después, las solicitudes siguientes responden rápidamente.

09 Guía

Preguntas sobre esta guía

01

¿Qué formatos de archivo puedo subir?

PDF, TXT, CSV, MD y DOCX. También puede rastrear una URL o un sitemap completo; las páginas pasan por el mismo pipeline de procesamiento.

02

¿Funciona RAG también en una instancia dedicada?

Sí. Vincule la base de conocimiento a su instancia de GPU dedicada y cada solicitud de chat recibe contexto automáticamente, también mediante una clave de API externa.

03

¿Cuánto cuesta RAG?

Usted paga por la inferencia en sí: pago por uso por token a través del Router, o por minuto en su propia instancia. Consulte la página de precios.

04

¿Qué modelo debo elegir para RAG?

Los modelos abiertos como Llama, Qwen y Mistral funcionan bien en preguntas y respuestas sobre documentos. Compare las opciones en el Model Garden y pruebe en el Playground.

05

¿Mis documentos permanecen en la UE?

Sí. El almacenamiento, los embeddings y la inferencia se ejecutan en centros de datos europeos; los documentos, los prompts y las respuestas nunca salen de la UE.

Todo lo que necesita para la IA

Del alojamiento de modelos a una API de cara al cliente, está pensado para desarrolladores y empresas que quieren que su IA funcione en una infraestructura que realmente controlan, dentro de la UE.

Alojado en la UE

100%

Sus datos y sus modelos permanecen en GPU europeas. Diseñado para cumplir el RGPD.

Modelos verificados, listos para servir

700+

Llama, Qwen, DeepSeek, Mistral, FLUX y muchos más. Elija uno y estará listo en minutos, sin DevOps por su parte.

Compatible con OpenAI y Anthropic

2 SDK

Apunte su cliente actual al Router y conserve sus herramientas. Sin reescribir nada, sin dependencia.

De cero a un endpoint listo en minutos

Sin infraestructura que gestionar. Elija un modelo, obtenga una URL compatible con OpenAI y lance.

01

Elija un modelo

Elija en el Model Garden o pegue cualquier ID de HuggingFace. Defina la VRAM y elija una GPU europea.

02

Obtenga su endpoint

Desplegamos vLLM, ejecutamos las comprobaciones de disponibilidad y le entregamos una URL lista, compatible con OpenAI y Anthropic, además de una clave de API.

03

Enrute y lance

Apunte su cliente al Router. Enruta automáticamente a una instancia arrancada y registra cada solicitud.

Privado por defecto

HostYourAI mantiene sus modelos, prompts y datos en GPU europeas. Está pensado para equipos que se preocupan por el cumplimiento normativo, la fiabilidad y un control real.

  • Alojado en la UE
  • Compatible con el RGPD
  • Compatible con OpenAI
  • Con vLLM
  • Sin dependencia

Soberanía total de los datos

UE

Las GPU y los datos se quedan en Europa, y sus prompts también.

Modelos que puede auditar

Abierto

Ejecute modelos open-weight y vea exactamente qué se ejecuta.

Sin cuota mensual

0 €

Crédito prepago por token o por minuto, así solo paga lo que usa.

Sus claves, sus modelos

Suyo

Sus claves, sus modelos y sus datos. Cambie cuando quiera.

Funciona con las herramientas que ya utiliza

El Router habla las API de OpenAI y Anthropic, así que se integra directamente en los clientes y SDK que su equipo ya usa. Solo tiene que cambiar la URL base.

  • Docker
  • Anthropic
  • Hugging Face
  • LangChain
  • Python
  • Node.js
  • curl
  • Ollama
  • JetBrains
  • Jupyter
  • Vercel
  • Zapier
  • Postman
  • n8n
Preguntas

Preguntas frecuentes

¿Puedo usarlo en la UE?

Sí. HostYourAI ejecuta modelos abiertos con vLLM en GPU de centros de datos europeos. Sus prompts y respuestas se quedan en la UE.

¿Cumple con el RGPD?

Sí. Todo el procesamiento ocurre dentro de la UE, hay un acuerdo de tratamiento de datos (DPA) disponible y la lista de subencargados es pública. Los pesos abiertos también garantizan que sus datos nunca se usan para entrenar.

¿La API es compatible con OpenAI?

Sí. Apunte su cliente de OpenAI o Anthropic actual a nuestro Router (https://hostyourai.com/api/v1) y cambie solo la URL base y la clave de API. Su código se queda como está.

¿Cuánto cuesta?

Pago por uso desde un único saldo de crédito prepago: el Router compartido por token o una GPU dedicada facturada por minuto. Gratis para empezar, sin mínimo y sin cuota mensual fija.

Model garden

Funciona con más de 700 modelos abiertos

Modelos de texto e imagen en GPU europeas dedicadas. Cada modelo se prueba en nuestro propio hardware.

Explorar todos los modelos

La plataforma

Una plataforma, cuatro capas

Empiece con una capa y añada las demás cuando el trabajo lo pida. Comparten una clave, un saldo y una vista de Activity.

Code

Su agente de programación con modelos abiertos en Europa, configurado con un solo comando.

Abrir

Control

Claves, presupuestos y barreras por equipo, y datos personales detenidos antes de que un modelo los vea.

Abrir

Serve

Compartidos por token, o solo para usted, desde centros de datos europeos.

Abrir

EU compute

GPU privadas en Europa, de H100 a B300, dimensionadas según el tiempo de respuesta, la velocidad de generación y los usuarios simultáneos.

Abrir

Páginas relacionadas

Descubra más sobre la IA alojada en la UE con HostYourAI.

Migrar OpenAI al Router de la UE

Guía paso a paso para migrar su integración de OpenAI al Router de la UE. Cambie la URL base y la clave de API y ejecute modelos abiertos en GPUs europeas.

Leer más

Desplegar su propio LLM con vLLM

Aprenda a desplegar un LLM abierto en una GPU europea con vLLM. De un ID de HuggingFace a un endpoint activo y compatible con OpenAI.

Leer más

La infraestructura de IA de Europa.
Construya con nosotros.

Empiece hoy con una sola clave. Añada GPU dedicadas cuando su carga lo necesite.

  • Jantine
  • Hans
  • Sander
  • Jos
  • Daan
  • Kyra
  • Margriet
  • Stan
El equipo detrás de HostYourAI