tag: Decision-Models · 4건
- 근거: AI/LLM 관심 분야 — Ollama 방식의 로컬 decision model 서빙 도구로, NLI·GLiClass 등 분류/결정 모델을 TypeSafe 호환 API로 제공하는 신규 프레임워크
- 액션: git clone https://github.com/ollaya-dev/ollaya && docker build -t ollaya . 후 laya 모델 pull하여 분류 추론 API 동작 확인
- 근거: AI/LLM 관심 분야 — Ollama 유사 로컬 실행 도구로 오픈소스 결정(decision) 모델을 다루는 신규 프로젝트 소개 기사
- 액션: https://ollaya.dev/ 에서 GitHub 저장소 링크를 확인하고, 소개된 decision model 하나를 로컬에서 실행해보기
- 근거: AI/LLM 신규 카테고리(Decision Models) 개념을 소개하는 기술 해설 기사 — 특정 오픈소스 저장소가 없는 상용 API 소개
- 액션: TypeSafe AI Jev API 문서 읽고 ‘결정 모델 vs 생성 모델’ 활용 시나리오 노트 정리
- 근거: AI/LLM 추론 최적화 분야 — Apple Silicon MLX 기반 typed decision model 런타임으로 7–14ms 저지연 추론 구현
- 액션: git clone https://github.com/mizorewww/laya-mlx && uv pip install -e . 후 examples/ 디렉터리의 샘플 decision model 실행해 벤치마크 결과 재현