The Human Is an Async API — Melanie Warrick, Temporal

한 줄 핵심

Temporal을 하네스로 사용해 에이전트와 인간의 상호작용을 중단 없이 복구 가능한 비동기 흐름으로 만들고, 인간 개입도 상태가 보존되는 신호·대기 조건으로 다뤄야 한다는 점을 보여주는 영상이다.

시간별 요약

1. 0:00
   도입 발표의 초점은 Temporal을 중심으로 한 아이스크림 배송 데모와, 그 안에서 인간 개입을 어떻게 안전하게 처리할지에 맞춰져 있다.
2. 0:13
   Ziggy의 아이스크림 배달 데모 Ziggy의 아이스크림 배송을 여러 에이전트가 협력해 조정하는 화면을 보여주며, 배송 과정 전체를 하나의 운영 흐름으로 구성한 사례를 소개한다.
3. 1:13
   Google ADK와 Temporal Google ADK와 Temporal을 연동해 여러 에이전트의 상태와 이벤트 기록을 추적하고, UI에서 부모 워크플로와 이벤트 히스토리를 확인하는 구조를 설명한다.
4. 2:03
   주문 변경에 인간이 끼어드는 경우 고객이 주문을 변경할 때 시스템 전체를 멈추지 않고 해당 주문만 일시 중지한 뒤 승인 여부를 받아 다음 위치로 진행시키는 과정을 통해 인간 개입의 안전한 처리 방식을 보여준다.
5. 3:38
   인간은 비동기 API다 에이전트의 reason-act-observe 루프와 마찬가지로, 인간도 즉시 응답하지 않는 비동기 입력원으로 다뤄야 하며 이를 시스템 설계의 일부로 봐야 한다.
6. 4:13
   하네스에는 무엇이 들어가나 하네스의 범위에 대한 논쟁이 있지만, 모델·도구·메모리·가드레일·보안·구조화된 실행을 묶어 프로덕션에서 에이전트가 안정적으로 동작하게 하는 실행 기반이 핵심이라고 정리한다.
7. 4:58
   지속성은 하네스에 있어야 한다 fleet, customer, dispatch 에이전트가 각각 루프로 동작하더라도, 시스템이 흔들리지 않도록 지속성(durability)을 하네스 레이어에 넣어야 한다는 점을 강조한다.
8. 5:47
   Temporal의 동작 방식 Temporal은 분산 시스템과 에이전트 시스템의 실패 처리와 상태 관리를 표준화하는 도구이며, 코드에 바로 적용할 수 있는 기본 원시 요소를 제공한다.
9. 6:27
   워커, 워크플로, 액티비티 워커는 코드를 실행하고, 워크플로는 단계와 상태를 추적하며, 액티비티는 외부 모델 호출과 도구 호출을 담당한다는 역할 분리를 통해 상태 있는 시스템을 구성한다.
10. 7:22
    다시 인간이 끼어드는 흐름으로 인간을 단순한 함수 호출 대상으로 두면 곧바로 블로킹 문제가 생기므로, 비동기적으로 처리해야 하는 입력으로 재정의해야 한다.
11. 7:47
    블로킹 호출이 실패하는 이유 인간 응답을 기다리는 함수형 호출은 서비스 장애 시 맥락을 잃기 쉬우며, 인간 참여 기록과 진행 상태를 안정적으로 보존하지 못한다.
12. 8:02
    대기 조건과 신호 워크플로 안에 대기 조건을 걸고 신호를 보내는 방식으로 인간 응답을 분리하면, 시스템은 다른 작업을 계속 수행하면서도 중단 지점을 복구할 수 있다.
13. 9:22
    두 번째 데모 시작 새 예제를 다시 띄워 코드 설명을 이어가기 위한 준비 과정이며, 실제 동작 화면을 보여주기 전에 실행 상태를 재정비한다.
14. 10:12
    코드: ADK 통합 Temporal model class, activity tool, worker 설정, wait condition, workflow.signal을 조합해 ADK 기반 에이전트를 중단 가능하고 복구 가능한 형태로 연결하는 방법을 설명한다.
15. 11:37
    LangGraph로 에이전트에서 인간으로 LangGraph와 LangChain을 쓰는 경우에도 워크플로, 대기 조건, 신호라는 구조는 같으며, 노드 단위 호출을 activity로 두고 단계 전환은 workflow로 관리한다.
16. 13:42
    고가치 주문에 인간이 필요한 데모 고가 주문을 넣으면 고객·fleet 에이전트가 평가를 마친 뒤 dispatch 에이전트가 인간 승인을 기다리며 일시 정지하고, 나머지 시스템은 계속 돌아가는 모습을 보여준다.
17. 15:07
    승인 중 워커를 강제로 종료 승인 대기 중인 상태에서 워커를 내려도 이벤트와 상태는 외부 저장소에 남아 있어, 시스템 중단이 곧 작업 유실로 이어지지 않음을 확인한다.
18. 16:02
    복구와 재생 서비스가 다시 올라오면 이벤트 로그가 재실행되는 것이 아니라 마지막 지점까지 재생되어 현재 상태를 복원하고, 승인 이후의 다음 단계를 이어간다.
19. 16:47
    언제 인간이 끼어들어야 하나 오답 비용이 높고 보안 영향이 큰 경우에는 인간 개입이 필요하지만, 너무 잦은 확인은 alert fatigue를 부르므로 신뢰도와 비용을 함께 평가해야 한다.
20. 17:47
    요약 핵심은 워크플로를 대기 조건으로 멈추고, 인간의 응답을 신호로 받아 이어가는 구조이며, 이 방식은 프레임워크가 달라도 공통적으로 적용된다.
21. 18:17
    자료 Temporal 자료와 데모, GitHub 저장소, 슬라이드 링크를 안내하며 추가 질문과 피드백을 받는다.

실무 인사이트

• 인간 승인이나 변경 요청은 함수 호출처럼 직접 기다리지 말고, 워크플로 상태를 보존하는 대기 조건과 신호로 분리해야 장애 복구와 재개가 가능하다.
• 에이전트 시스템을 만들 때는 모델 품질뿐 아니라 지속성, 실패 처리, 재생 가능한 상태 관리가 하네스의 핵심이라는 점을 먼저 설계해야 한다.
• 인간 개입은 오답 비용이 높을 때만 선택적으로 넣어야 하며, 과도한 확인 단계는 alert fatigue를 키우므로 중요도 기준을 명확히 정해두는 것이 좋다.