Cómo desplegar y servir LLMs con vLLM
Una guía práctica con Docker, GPU NVIDIA y una API compatible con OpenAI Hola a tod@s, Hoy voy a hablar de inteligencia artificial aplicada a infraestructura. En esta ocasión vamos…
Una guía práctica con Docker, GPU NVIDIA y una API compatible con OpenAI Hola a tod@s, Hoy voy a hablar de inteligencia artificial aplicada a infraestructura. En esta ocasión vamos…