원문: skills/self-improvement-loops/SKILL.md · 저장소 muratcankoylan/Agent-Skills-for-Context-Engineering(Stars 약 1.8만, MIT) · 스킬 작성 2026-07-08 · 수집 시점 저장소 최신 커밋 58b55a8(2026-10-01)

개요

컨텍스트 엔지니어링 스킬 모음의 한 항목으로, 하네스·스캐폴드·워크플로·옵티마이저 자체가 최적화 대상인 시스템을 다룬다. 에이전트가 자기 실패를 캐서 자기 하네스를 고치거나, 메타 에이전트가 하네스 코드를 탐색하거나, 후보 집단을 진화시키는 경우다. 단일 루프의 통제(잠금 영역·로그·롤백)는 harness-engineering 스킬로 넘기고, 이 스킬은 “루프가 자신을 조종하는 신호를 오염시키지 않고 자기 일부를 다시 쓰게 하려면?”에 집중한다.

전제는 하나다. 루프는 주어진 신호를 최적화하고, 그 신호의 약점까지 최적화한다. 그러니 옵티마이저가 지표와 의도 사이의 모든 틈을 찾아낸다고 가정하고 설계하라는 것이다.

최적화 사다리

단최적화 대상예시
1지시 프롬프트Promptbreeder, GEPA
2구조화 컨텍스트ACE(항목별 플레이북)
3컨텍스트 생성 메커니즘MCE(컨텍스트를 만드는 스킬)
4워크플로 그래프ADAS, AFlow
5하네스 코드Self-Harness, Meta-Harness, Darwin Gödel Machine
6옵티마이저 코드STOP

위로 갈수록 설계 공간이 커지지만 평가 비용과 게이밍 표면도 커진다. 실패는 그 수정을 표현할 수 있는 가장 낮은 단에서 고친다. 예를 들어 폐기된 API를 반복 사용하는 문제는 재시도 로직(하네스)이 아니라 현재 API 문서를 컨텍스트에 넣는 것(2단)으로 푼다.

핵심 원칙

  • 루프는 지능이 아니다: 재귀 구조는 기반 모델 품질을 양방향으로 증폭한다. 강한 모델에선 이득이 누적되지만 약한 모델에선 반복할수록 나빠진다. 재귀를 켜기 전에 홀드아웃 과제로 역량 검증을 하고, 입력을 그대로 돌려주는 “정체”를 안정으로 착각하지 않도록 점수가 아니라 편집 diff를 추적한다.
  • 평가기는 루프 밖에: 평가기·계측·권한·예산은 루프가 수정할 수 있는 표면 밖에 둔다. 에이전트가 환각 탐지기가 의존하는 로깅 마커를 지우거나 평가기를 몽키패치해 만점을 받은 사례가 있다. 프롬프트에 적은 제약은 진화 과정에서 사라지므로 런타임에서 강제하고, 점수와 트레이스만 보여 주고 평가기 소스는 숨긴다. 탐지된 익스플로잇은 고득점이 아니라 실패로 센다.
  • 근거가 아닌 측정으로 수용: held-in(목표 약점 해결 확인)과 제안자가 못 보는 held-out(회귀 없음 확인) 두 분할에서 어느 쪽도 나빠지지 않고 한쪽은 엄격히 좋아질 때만 받아들인다. 합이 늘어도 한쪽을 희생하면 거부하고, 거부 이유를 기록해 같은 제안을 반복하지 않게 한다.
  • 파일시스템 경험 아카이브: 후보마다 소스·점수·원본 트레이스를 디렉터리로 저장하고 제안자가 grep으로 탐색하게 한다. 원본 트레이스 접근이 점수만 주거나 LLM 요약을 주는 것보다 확실히 낫고, 요약은 신호를 회복하지 못했다는 것이 인용된 ablation 결과다.
  • 다양성 보존: 최신 최고 후보만 오르지 말고 아카이브 전체에서 부모를 뽑되 자손 수로 할인하고, 임베딩 유사도로 중복 제안을 평가 전에 걸러내며, 시드로 돌아갈 경로를 남긴다.
  • 컨텍스트 붕괴 주의: 모델이 누적 플레이북을 통째로 다시 쓰면 한 번에 급격히 줄어 무적응 기준선보다 나빠진다. 항목별 delta와 결정론적 병합만 쓴다.

실패 주도 자기편집 루프의 3단계

  1. 약점 채굴: 실패 트레이스를 (검증기 수준 원인, 에이전트 행동의 인과 여부, 드러난 추상 메커니즘) 3중 시그니처로 군집한다. 오류 문자열만으로 묶지 않고, 과제 난이도·모델 한계 탓인 군집은 제외한다.
  2. 제한된 제안: 편집 가능 표면, 실패 패턴, 보존해야 할 통과 행동, 이전 시도 요약만 입력으로 준다. 제안은 표면 하나만 건드리는 최소 변경이어야 하고 감사 기록을 붙인다.
  3. 검증·병합: 2분할 게이트를 통과한 것만 병합하고 모든 전이를 기록한다.

평가기 변경, 편집 표면 확장, 프로덕션 승격, 연구 방향 포기는 사람의 결정으로 남긴다.

위키 맥락

이 스킬이 주요 근거로 삼는 Lilian Weng의 글은 2026-07-04-harness-engineering-for-self-improvement에 정리돼 있다. 개념 허브는 recursive-self-improvement, harness이고, 스킬 자체를 진화시키는 사례는 2026-07-11-skillopt-self-evolving-agent-skills, 실제 RSI 증거 주장은 2026-07-16-weco-aide2-first-evidence-recursive-self-improvement 참고. 사다리 1단 GEPA를 실제 에이전트에 적용한 사례는 2026-04-13-hermes-agent-self-evolution, 모델이 자기 컨텍스트 파일을 직접 편집하는 접근은 2026-10-04-news-hada-34653-context-language-models에 있다. 저장소는 2026-03-21-90-ai-tools-that-matter 목록에도 올라 있다.

한계

본문의 수치·벤치마크 주장은 claim-* ID로 저장소의 researcher/claims/index.jsonl과 별도 참고 파일에 연결돼 있다. 이 노트는 SKILL.md 본문만 근거로 했고 인용 논문은 직접 대조하지 않았다.