Del Laboratorio a una plataforma de organizacion
David Rivera Hola a tod@s, En el artículo anterior vimos cómo desplegar y servir un LLM con vLLM en un Dell Pro Max GB10. La idea era sencilla y muy útil para…
IA; Linux
Cómo desplegar y servir LLMs con vLLM
Una guía práctica con Docker, GPU NVIDIA y una API compatible con OpenAI Hola a tod@s, Hoy voy a hablar de inteligencia artificial aplicada a infraestructura. En esta ocasión vamos…