tag: Mixture-of-Experts · 3건
- 근거: AI/LLM 학습 최적화 — 소비자용 GPU(8GB VRAM)에서 MoE 동적 전문가 추가·제거 + 배치1 연속 스트림 학습으로 대형 모델 자체 훈련을 가능하게 하는 실험적 연구 저장소
- 액션: git clone https://github.com/volotat/mini-AGI 후 README의 샘플 훈련 실행 스크립트로 스케일링 법칙 재현 테스트
- 근거: AI/LLM 분야 — Alibaba의 신규 오픈웨이트 MoE 모델 공개 소식으로 관심 분야에 해당하나 특정 저장소를 직접 클론할 수 있는 항목은 아님
- 액션: Qwen3.8-Flash 모델 카드 및 HuggingFace 페이지 확인하여 MoE 아키텍처 특징과 Qwen4 방향성 파악
- 근거: AI/LLM 분야 — Mixture-of-Experts 기반 비디오 사전학습 연구 구현체로 embodied intelligence(로봇 AI) 모델 학습 파이프라인 포함
- 액션: git clone https://github.com/Robbyant/lingbot-video 후 README 및 paper.pdf로 MoE 비디오 사전학습 아키텍처 구조 파악, scripts/ 디렉토리 탐색해 실행 진입점 확인