Every step you take, every call you make: the reliable agent stack — Giselle van Dongen, Restate

한 줄 핵심

에이전트를 프로덕션에서 안정적으로 운영하려면 모델 자체보다 실행 복구, 상태 관리, 인간 승인, 신호 전달, 취소 같은 인프라 층이 핵심이며, Restate는 이를 위한 durable foundation을 제시한다.

시간별 요약

1. 0:00
   세 개의 물결과 에이전트의 방향 LLM은 질의응답 도구에서 도구를 쓰는 에이전트로, 다시 장기간 비동기적으로 동작하는 상시 프로세스로 진화하고 있다. 따라서 에이전트 활용이 단일 작업에서 조직 전체를 잇는 플랫폼으로 바뀔수록 인프라도 그에 맞게 진화해야 한다.
2. 1:53
   아무도 쓰고 싶어 하지 않는 인프라 계층 에이전트를 실제 운영하려면 retry, recovery 같은 복잡한 로직과 분산 실행을 감싸는 추가 인프라가 필요하다. Restate는 이런 부담을 줄여 주는 오픈소스 durable foundation으로, 에이전트뿐 아니라 일반 백엔드에도 적용할 수 있다.
3. 2:45
   지속 가능한 기반의 네 가지 요소 지속 가능한 기반은 단일 실행 복구, 다중 세션 동시성, 에이전트·MCP 서버·도구 간 통신, 그리고 중단·취소 제어의 네 가지로 정리된다. Restate는 서비스 앞단에서 요청과 이벤트를 받아 journal로 상태를 남기고, 이를 바탕으로 실패 후에도 정확히 이어서 실행하게 한다.
4. 4:29
   journal이 실패한 실행을 복구하는 방식 일반 함수를 장기 실행·상태 보존·복구 가능한 프로세스로 바꾸는 핵심은 이벤트 journal이다. 에이전트가 실행 중 보낸 이벤트를 기록해 두면, 장애가 나도 그 시점부터 재개할 수 있다.
5. 5:20
   Slack 속 딥 리서치 에이전트 데모 Slack에서 질문을 받는 deep research agent가 planner, 병렬 sub-agent, writer 흐름으로 동작하며, UI에서는 현재 실행과 journal을 확인할 수 있다. 도중에 API 실패가 나도 journal을 이용해 재시도하고, 처음부터 다시 시작하지 않고 진행 상황을 복구한다.
6. 7:51
   코드에서 한 단계를 지속 가능하게 만들기 Restate에서는 HTTP handler를 작성하고 `restate.run`으로 감싼 단계가 durable step이 된다. 이렇게 만든 실행은 두 시간 뒤든 두 달 뒤든 같은 지점에서 복구되므로, 실패 복구뿐 아니라 오래 걸리는 작업에도 적합하다.
7. 8:42
   한 달짜리 인간 승인도 멈추지 않게 하기 인간 승인이 필요한 경우 durable promise를 journal에 남겨 두고 실행을 일시 정지할 수 있다. 서버리스 환경에서도 실행 시간을 계속 점유하지 않으며, 승인 응답이 오면 중단한 지점부터 다시 이어서 진행한다.
8. 9:32
   상태를 가진 액터로서의 가상 객체 워크플로보다 더 적절한 모델은 session ID와 격리된 key-value state, 그리고 durable handler를 가진 virtual object이다. 이 구조는 실행 중인 에이전트와 나중에 다시 상호작용하거나, 수천 개의 세션을 동시에 돌리면서도 서로의 상태가 섞이지 않게 만든다.
9. 12:10
   실행 중인 에이전트 루프에 신호 보내기 기존 실행의 ID를 이용하면 다른 프로세스에서 출력 조회, 취소, 상태 주입이 가능하다. 새 입력이 현재 작업과 관련 있으면 signal로 넣고, 아니면 기존 실행을 중단한 뒤 새 정보로 다시 시작해 더 유연하게 루프를 제어한다.
10. 13:51
    스택을 취소하고 되감기 중간에 주제가 바뀌면 coordinator가 진행 중인 실행과 하위 sub-agent들을 순서대로 취소하고 새 작업으로 전환한다. 이 취소는 호출 체인 전체에 전파되어 에이전트 스택을 되감는 효과를 낸다.
11. 17:19
    분산 로그 내부 구조 Restate의 내부는 이벤트를 저장하는 log와 event loop로 구성되며, 들어온 이벤트에 따라 상태 저장, 타이머 설정, 다른 에이전트 호출을 수행한다. push 모델이라 지연이 낮고 serverless와 잘 맞으며, 단일 binary, 여러 SDK, BYOC/managed cloud까지 제공해 운영과 확장이 쉽다.

실무 인사이트

• 에이전트 운영의 병목은 모델 성능보다 실행 복구와 상태 일관성에 있으므로, 먼저 durable execution과 journal 설계를 잡아야 한다.
• 인간 승인, 외부 API 실패, 방향 전환처럼 현실에서 자주 생기는 이벤트를 signal, cancel, suspend로 다뤄야 장기 실행 에이전트가 실무에 쓸 수 있다.
• 대규모 에이전트 시스템은 워크플로 오케스트레이션만으로 부족할 수 있으므로, 세션 격리와 통신 제어가 가능한 상태ful 실행 모델이 유리하다.