Daily OSS

백로그 대기

Janus — Go로 작성된 Vulkan 기반 GGUF 모델 로컬 추론 런타임

2026-10-02 01:49 · HN (show hn) · 원문 보기 ↗ #llm-inference#gguf#vulkan
  • 근거: AI/LLM 추론 최적화 영역 — GGUF 모델을 Vulkan으로 AMD/Intel/Nvidia GPU에서 실행하는 Go 바이너리
  • 액션: git clone https://github.com/Vibra-Ingenn/Janus 후 README 확인 및 소규모 GGUF 모델로 로컬 추론 테스트