tag: Llm-Interpretability · 1건
- 근거: LLM 내부 뉴런·어텐션 헤드를 CLI/MCP 서버로 추적하는 기계적 해석가능성 도구 — AI/LLM 관심 분야에 해당
- 액션: pip install neuronscope-cli 후
neuronscope trace gpt2 "The capital of France is"실행해 attention head 랭킹 출력 확인 (https://github.com/RudrenduPaul/neuronscope)