태그별 기사: vllm

vLLM Production Stack: K8s에서 기본 실행

Production Stack을 사용한 Kubernetes에서의 vLLM 배포. GPU/CPU 설정, tool-calling, multimodal models. 중급/시니어 devops를 위한 YAML 구성 및 메모리 최적화.