tag: Apple-Silicon · 2건
- 근거: AI/LLM 추론 최적화 분야 — Apple Silicon(Core ML/Neural Engine)에서 로컬 AI 결정 모델을 ~5ms로 실행하는 Python 라이브러리
- 액션: git clone https://github.com/mizorewww/laya-coreml && cd laya-coreml && uv sync && python examples/ 실행 후 BENCHMARKS.md 기준으로 M-시리즈 맥에서 속도·에너지 벤치마크 직접 재현해보기
- 근거: LLM 추론 최적화 분야 — M-series MacBook에서 Gemma 4 26B를 2GB RAM으로 실행하는 Swift 기반 로컬 추론 엔진
- 액션: git clone https://github.com/drumih/turbo-fieldfare && swift run으로 Gemma 4 26B-A4B 로컬 추론 동작 확인