Hugging Face TGI: text generation inference tgi llm en Docker y Kubernetes (Guía Homelab 2026)
text generation inference tgi llm con Hugging Face TGI: Docker, GPU, shm, APIs OpenAI y observabilidad. Modo mantenimiento, riesgos y…
vllm
Modelos Open Source 2025: Top 10 LLMs para Homelab con Benchmarks Reales
Top 10 modelos LLM open source 2025 para homelab. Benchmarks reales RTX 4090/5090, requisitos VRAM, velocidad tokens/seg. Guía completa ➜
GPU Scheduling en Kubernetes: Deploy AI Workloads a Escala (Guía Completa 2025)
Guía técnica avanzada sobre GPU scheduling en Kubernetes: NVIDIA GPU Operator, MIG vs Time-Slicing, deployments vLLM/Ollama/ComfyUI, monitoreo con Prometheus. Optimiza…