Daily OSS

tag: Prompt-Injection · 4건

학습 완료 Microsoft Copilot for Word를 통한 AI 프롬프트 인젝션 자가복제 웜 공격 연구
2026-07-29 · Simon Willison · 원문 ↗ #prompt-injection#llm-security#ai-agent
  • 근거: AI/LLM 보안 분야 — 프롬프트 인젝션의 자가복제 웜 변종에 관한 연구 기사로, 특정 오픈소스 저장소 없이 보안 개념 소개에 그침
  • 액션: Simon Willison 원문 및 Håkon Måløy 연구 보고서 읽고, LLM 기반 문서 처리 파이프라인에서 프롬프트 인젝션 방어 패턴(입력 샌드박싱, 출력 필터링) 정리
학습 완료 Claude Opus 5, 역대 가장 강한 프롬프트 인젝션 방어력 달성
2026-07-25 · Simon Willison · 원문 ↗ #prompt-injection#llm-security#claude
  • 근거: AI/LLM 보안 중 프롬프트 인젝션 방어 관련 Claude Opus 5 개선 내용
  • 액션: Anthropic Opus 5 System Card(p.73) 프롬프트 인젝션 평가 섹션 읽기
학습 완료 OpenAI GPT-Red: AI 에이전트 프롬프트 인젝션 테스트 자동화
2026-07-16 · The New Stack · 원문 ↗ #ai-security#prompt-injection#llm
  • 근거: AI 에이전트 보안 테스트 자동화 — AI/LLM 관심 분야에 해당하는 트렌드 기사
  • 액션:
학습 완료 Claude web_fetch의 중첩 URL 추적 허점을 이용한 데이터 유출 공격 사례
2026-07-15 · Simon Willison · 원문 ↗ #llm-security#prompt-injection#ai-agent
  • 근거: AI/LLM 보안 영역 — Claude web_fetch 도구의 다단계 URL 추적을 이용한 데이터 유출 공격(프롬프트 인젝션) 사례 분석
  • 액션: 원문 읽고 ‘허용된 URL 추적 체인’ 공격 패턴을 정리해 두기 — 자체 LLM 에이전트 설계 시 web_fetch 유사 도구에 같은 취약점이 없는지 체크리스트 작성