tag: Vllm · 1건
- 근거: AI/LLM 관심 분야 — DeepSeek·Qwen 자체 호스팅 추론(vLLM TP=2)과 Unsloth QLoRA 파인튜닝을 NVIDIA DGX Spark 위에서 구성하는 실전 레포
- 액션: git clone https://github.com/zorost/sparkduet 후 configs/ 및 finetune/ 구조와 install.sh를 읽어 DGX Spark 없이도 단일 GPU 환경에 적용 가능한 설정 패턴 파악