백로그
대기
LLM 출력을 유발한 뉴런을 CLI로 추적하는 오픈소스 도구 NeuronScope
- 근거: LLM 내부 뉴런·어텐션 헤드를 CLI/MCP 서버로 추적하는 기계적 해석가능성 도구 — AI/LLM 관심 분야에 해당
- 액션: pip install neuronscope-cli 후
neuronscope trace gpt2 "The capital of France is"실행해 attention head 랭킹 출력 확인 (https://github.com/RudrenduPaul/neuronscope)