What Does Done Even Mean? Agents and Paperclip's Liveness Model - Dotta, Paperclip

한 줄 핵심

에이전트 작업에서는 '완료'를 하나의 체크박스로 보지 말고 산출물, 증거, 검증자, 승인권자, 다음 단계까지 포함한 구조화된 상태로 다뤄야 품질과 처리량을 동시에 지킬 수 있다.

시간별 요약

1. 0:00
   에이전트가 테스트 통과와 문서 갱신만으로 '끝났다'고 주장해도, 실제로는 병합·배포·고객 공지처럼 서로 다른 완료 수준이 남아 있다. 따라서 완료는 단일 상태가 아니라 여러 운영적 주장들의 묶음으로 봐야 한다.
2. 1:00
   완료에는 산출물, 완료를 뒷받침하는 증거, 검증 가능한 기준, 다음 소유자와 다음 행동이 모두 포함되어야 한다. 생산자, 검토자, 승인권자를 분리해야 하고, 결과가 실제 환경에서도 버티는지까지 확인해야 한다.
3. 2:00
   사람이 모든 작업을 직접 검증하면 결국 검증 퍼포먼스로 변하고, 작업 흐름은 멈춘다. 그래서 태스크가 계속 진행되도록 하면서도 잘못된 상태로 고정되지 않게 만드는 프로토콜과 제어 평면이 필요하다.
4. 4:01
   에이전트 작업의 핵심 불변식은 생산적 작업의 지속, 실제 블로커만의 중단, 무한 루프의 제한이다. Paperclip은 명확한 상태 전이, 블로커의 1급 관리, 인간 승인 감사 추적, 리뷰어·승인자 지정, 목표 달성까지 계속 밀어붙이는 watchdog으로 이를 구현한다.
5. 6:01
   실무적으로는 완료를 Boolean이 아니라 객체처럼 정의해야 하며, 작성자와 검증자를 분리하고, 증거를 생성할 도구를 에이전트에 제공해야 한다. 브라우저 하네스, 스크린샷, 클릭 자동화, 에이전트 훅 같은 검증 장치를 붙여야 진짜 완료를 판별할 수 있다.

실무 인사이트

• 에이전트 워크플로에서는 'done'에 산출물·증거·검증자·승인권자·다음 액션을 필수 필드로 넣어 상태 모델을 설계하는 것이 효과적이다.
• 작성자와 검증자를 다른 모델이나 다른 역할로 분리하면 품질 저하를 줄이면서도 처리량을 유지하기 쉽다.
• 고부하 환경에서는 인간 승인만 늘리는 방식보다, 자동 검증 도구와 감사 추적을 결합해 검증 병목을 줄이는 쪽이 더 현실적이다.