즉시조치
대기
Strata — 8GB GPU로 125B MoE 모델 로컬 실행하는 C++ 추론 엔진
- 근거: AI/LLM 추론 최적화 영역 — 8GB GPU로 125B MoE 모델을 로컬 실행하고 OpenAI/Anthropic 호환 API를 localhost에서 제공하는 C++ 추론 엔진
- 액션: git clone https://github.com/Niko1221/Strata && bash setup.sh 실행 후 OpenAI 호환 엔드포인트로 Qwen3 125B MoE 로컬 추론 동작 확인