- Elija un modelo del Model Garden o un ID de HuggingFace
- Configure la VRAM y elija una GPU europea
- Desplegamos vLLM y ejecutamos sondas de disponibilidad automáticas
- Obtiene un endpoint activo más una clave de API
Las instancias nuevas ejecutan vLLM con su propia clave upstream cifrada, de modo que su endpoint permanece privado.







