Daily OSS
즉시조치
백로그
학습
완료
태그
tag: Sglang · 1건
백로그
오픈 모델 기반 Jev 호환 LLM 추론 API 엔드포인트
2026-09-20 · GitHub Trending (topic:llm) ·
원문 ↗
#llm
#inference
#sglang
근거:
LLM 추론 API 호환 엔드포인트 — AI/LLM 프레임워크 영역에 해당
액션:
git clone
https://github.com/ekzhang/openjev-sglang
&& README 및 examples/ 확인 후 modal_app.py 기반 로컬 추론 엔드포인트 구동 테스트