Daily OSS

tag: Crawling · 1건

2026-09-08 · Simon Willison · 원문 ↗ #ai-ethics#crawling#infra
  • 근거: AI/LLM 크롤러 남용 문제를 다룬 기술 관찰 글로, 인프라 운영 및 AI 윤리 관심 분야에 해당
  • 액션: Datasette나 공개 웹 서비스 운영 시 크롤러 부하 대응 방법(robots.txt, rate limiting, crawl 감지) 사례 조사