Daily OSS

tag: Llm-Proxy · 3건

2026-10-05 · GitHub Trending (topic:self-hosted) · 원문 ↗ #llm-proxy#self-hosted#ai-infra
  • 근거: LLM 프록시/캐싱 도구로 AI/LLM 인프라 관심 분야에 해당 — 앱의 LLM 호출을 로컬에서 학습·응답하는 self-hosted 레이어
  • 액션: git clone https://github.com/bladedevoff/stuntd && examples 폴더 확인 후 로컬 LLM 프록시 동작 PoC 시도
2026-09-11 · GitHub Trending (topic:ai) · 원문 ↗ #ai-coding-tools#vscode-extension#llm-proxy
  • 근거: VSCode Copilot Chat용 로컬 AI 모델 스위처 프록시로 AI 코딩 도구 + 개발자 도구 영역에 해당
  • 액션: git clone https://github.com/yudaprasetya007/routeVSCODE 후 app.js·extension/ 구조 확인, 실제 로컬 프록시 동작 여부 및 9Router 외부 서비스 의존도 검토
2026-07-26 · Simon Willison · 원문 ↗ #llm-security#api-abuse#llm-proxy
  • 근거: AI/LLM 관심 분야 — LLM API 토큰 재판매·남용 생태계를 다룬 보안 조사 기사로, LLM 기반 앱을 공개 배포할 때의 비용 리스크를 이해하는 데 유용
  • 액션: 기사 전문 읽고 자신의 LLM 앱에 사용량 상한(hard cap) 설정 여부 점검 — OpenAI/Anthropic 대시보드에서 월 지출 한도 설정 확인