Daily OSS

tag: Abliteration · 1건

백로그 추론 시점 에이블리터레이션 적용 llama.cpp 포크
2026-10-26 · GitHub Trending (topic:ai) · 원문 ↗ #llm-inference#abliteration#llama-cpp
  • 근거: AI/LLM 추론 최적화 영역 — llama.cpp를 포크해 모델 가중치 수정 없이 추론 시점에 abliteration(안전장치 제거)을 적용하는 실험적 도구
  • 액션: git clone https://github.com/heterodoxin/AbliteratedOutTheBox && cmake -B build && cmake –build build -j$(nproc) 로 빌드 확인 후, 로컬 GGUF 모델로 abliteration 파라미터 효과 비교 테스트