tag: Ai-Framework · 2건
- 근거: AI/LLM 추론 최적화 프레임워크 — DeepSeek 모델 대규모 고성능 추론 지원으로 LLM 인프라 관심 분야에 직결
- 액션: git clone https://github.com/deepseek-ai/DeepInfer && pip install -r requirements-nvidia.txt 후 examples/ 디렉터리로 DeepSeek 모델 추론 벤치마크 PoC 실행
- 근거: AI/LLM 프레임워크 — RAG 파이프라인 및 프로덕션 에이전트 구축 도구로 AI/LLM 관심 분야에 해당
- 액션: Haystack GitHub(github.com/deepset-ai/haystack) 클론 후 공식 RAG 파이프라인 예제 실행해보기