Daily OSS

백로그 대기

오픈 모델 기반 Jev 호환 LLM 추론 API 엔드포인트

2026-09-20 00:23 · GitHub Trending (topic:llm) · 원문 보기 ↗ #llm#inference#sglang
  • 근거: LLM 추론 API 호환 엔드포인트 — AI/LLM 프레임워크 영역에 해당
  • 액션: git clone https://github.com/ekzhang/openjev-sglang && README 및 examples/ 확인 후 modal_app.py 기반 로컬 추론 엔드포인트 구동 테스트