Every Correction You Give Your Agent Is Data - Brian Douglas, Paper Compute

한 줄 핵심

에이전트의 수정과 반박을 모두 학습 데이터로 축적해, 코드 리뷰·스킬·평가·후속 학습으로 이어지는 개발 워크플로를 만드는 방법을 보여준다.

시간별 요약

1. 0:00
   엔지니어링 판단과 에이전트 피드백 에이전트 시대에는 모델이 낸 결과를 그대로 쓰기보다, 수정·반박·거절 같은 인간의 판단을 데이터로 남겨야 실력이 축적된다. 주니어가 쌓아야 할 반복 경험이 에이전트로 넘어가면서, 그 상호작용 자체를 학습 자산으로 다루는 관점이 중요해진다.
2. 1:47
   Tapes로 세션 수집하기 Tapes.dev와 유사한 수집 도구로 에이전트 세션을 재현 가능한 환경에서 기록하고, 이를 통해 자기복구형 인프라와 병렬 에이전트 작업을 운영한다. 문서 작성, 테스트 작성, 코드 정리처럼 명확한 작업은 여러 에이전트로 나눠 확장하기 좋다.
3. 3:43
   Paper Console에서 전문가의 반박 라벨링하기 중앙화된 콘솔에 세션을 모으면 팀 단위로 라벨링할 수 있고, 특히 pushback 라벨은 에이전트가 놓친 맥락을 사람이 바로잡는 신호가 된다. 코드가 컴파일되더라도 아키텍처 결정, API 구조, 기존 코드와의 관계를 이유로 반박하는 지점이 중요한 판단 근거가 된다.
4. 5:59
   트레이스를 리뷰 데이터셋으로 바꾸기 세션 트레이스와 라벨을 누적해 데이터셋으로 만들면, 이후 리뷰 모델이나 리뷰 워크플로에 재사용할 수 있다. GitHub의 리뷰 기록보다 실제 세션 단위의 맥락을 담은 데이터가 더 직접적인 학습 재료가 된다.
5. 6:28
   Twin Review 프로토타입 Twin Review는 특정 PR을 받아 실제 팀원의 스타일처럼 코드를 검토하는 로컬 리뷰 도구로, 트레이스와 후속 학습을 결합해 동작한다. GitHub 상의 공개 리뷰보다 하네스 내부에서 리뷰가 이뤄지는 흐름이 늘어나면서, 그 과정 자체를 자동화된 리뷰 시스템으로 옮기는 방향이 강조된다.
6. 8:06
   유용한 라벨과 반복되는 실패 패턴 pushback, apology, golden session, regression 같은 라벨을 모으면 에이전트가 자주 실패하는 패턴이 드러난다. 이미 존재하는 Go 라이브러리를 다시 만들거나 널리 쓰는 테스트 도구를 재발명하는 식의 반복 실패는 강한 반박 신호가 된다.
7. 9:32
   스킬과 평가로 시작하기 먼저 세션 데이터로 스킬을 만들고, 그다음 평가를 붙인 뒤에야 모델 보정이나 후속 학습으로 넘어가는 순서가 효율적이다. 대규모 데이터가 있어도 곧바로 학습보다 스킬 설계가 더 빠르게 효과를 내며, 팀의 실제 세션에서 바로 활용할 수 있다.
8. 10:48
   모델 적응 실험과 마무리 조언 소규모 모델에서는 specialized fine tuning이 현실적이고, DPO는 훨씬 더 큰 연산 자원이 필요해 접근성이 떨어진다. 실제로는 Tapes.dev 같은 도구를 써서 데이터를 모으고, 먼저 스킬을 만든 뒤 필요할 때만 고비용 학습으로 확장하는 전략이 가장 실용적이다.

실무 인사이트

• 에이전트와의 상호작용에서 중요한 것은 정답 자체보다, 사람이 왜 수정했는지를 라벨과 트레이스로 남겨 재사용 가능한 데이터로 만드는 일이다.
• 리뷰 자동화는 공개된 코드 리뷰 로그보다 실제 작업 세션과 반박 패턴을 모아야 더 정확해지며, 특히 pushback은 강한 품질 신호로 쓸 수 있다.
• 실무에서는 DPO보다 스킬과 평가부터 시작하는 편이 비용 대비 효과가 좋고, 그다음에 필요한 부분만 후속 학습으로 보완하는 흐름이 적합하다.