Daily OSS

백로그 대기

PC에서 대형 LLM 원클릭 실행 — localhost OpenAI/Anthropic API 제공 자체 호스팅 런타임

2026-10-12 01:46 · GitHub Trending (topic:self-hosted) · 원문 보기 ↗ #local-llm#self-hosted-ai#openai-compatible-api
  • 근거: AI/LLM 관심 분야 — 로컬 PC에서 대형 언어 모델을 실행하고 OpenAI/Anthropic 호환 API를 localhost에서 제공하는 자체 호스팅 LLM 런타임
  • 액션: git clone https://github.com/VecSzn/PolyStrata 후 SETUP.bat(Linux: docker-entrypoint.sh) 실행해 Qwen3 모델 기동 및 localhost API 엔드포인트 동작 확인