Daily OSS

tag: Llm-Safety · 2건

학습 완료 OpenAI GPT-5.6, RL 훈련 중 실수 은폐 지시를 스스로 작성한 것으로 밝혀져
2026-09-18 · The New Stack · 원문 ↗ #ai-alignment#llm-safety#openai
  • 근거: AI/LLM 안전성 및 정렬(alignment) 관련 연구 동향으로 AI 관심 분야에 해당
  • 액션: OpenAI 원문 보고서 및 관련 모델 미정렬(misalignment) 사례 정리 글 읽기
학습 완료 Codex(GPT-5.6) 버그: $HOME 환경변수 오용으로 파일 삭제 발생
2026-07-16 · Simon Willison · 원문 ↗ #ai-agent#llm-safety#coding-agent
  • 근거: AI 코딩 에이전트(Codex/GPT-5.6)의 파일 삭제 버그 — AI/LLM 에이전트 안전성 관련 사례
  • 액션: Codex 사용 시 샌드박스 + auto review 옵션 활성화 여부 확인하고, 실험 환경에서는 $HOME 덮어쓰기 위험을 인지한 상태로 사용