Daily OSS

즉시조치 대기

로컬 GPU로 321B MoE 모델 자체 호스팅 — Project Maya

2026-10-14 01:23 · GitHub Trending (topic:self-hosted) · 원문 보기 ↗ #llm-inference#self-hosted-ai#openai-compatible-api
  • 근거: 로컬 GPU에서 321B MoE LLM을 자체 호스팅할 수 있는 엔진+서버+대시보드 올인원 — AI/LLM 인프라 관심 분야에 직접 해당하며 완성도 높음
  • 액션: git clone https://github.com/mw00/project-maya && bash setup.sh 후 GLM-5.3-Flash 로컬 추론 기동 확인