tag: Mlx · 4건
- 근거: AI/LLM 추론 최적화 분야 — Apple Silicon MLX 기반 typed decision model 런타임으로 7–14ms 저지연 추론 구현
- 액션: git clone https://github.com/mizorewww/laya-mlx && uv pip install -e . 후 examples/ 디렉터리의 샘플 decision model 실행해 벤치마크 결과 재현
- 근거: Apple Silicon에서 멀티모달 비디오 생성 LLM을 로컬 실행하는 AI/LLM 분야 사례
- 액션: PipeNetwork/minimax-h3-mlx 레포 README 및 Simon Willison 포스트 읽고 로컬 실행 가능성(스펙/용량) 파악
- 근거: AI/LLM 관심 분야 중 로컬 LLM 실행 도구에 해당하는 블로그 기사 — Mac 전용 MLX 기반 데스크톱 앱 소개
- 액션: Simon Willison 원문에서 Prince Canuma의 Nativ GitHub 저장소 링크 확인 후, MLX-VLM과 함께 Mac에서 로컬 LLM 실행 환경으로 LM Studio 대안으로 검토해볼 것
- 근거: AI/LLM 분야 — Mac 로컬에서 MLX 모델을 GUI로 실행·서빙·모니터링하는 네이티브 macOS 앱
- 액션: git clone https://github.com/Blaizzy/nativ && Xcode로 빌드 후 로컬 MLX 모델 로드 및 채팅 기능 시연해보기