Chat and citations won't save your vertical AI - Atul Ramachandran, Filed Inc

한 줄 핵심

세로형 AI 제품은 채팅과 citations만으로는 부족하며, 사용자가 작업을 위임하고 장시간 실행·모니터링·개입할 수 있는 '위임형 제품'으로 다시 설계해야 성공한다.

시간별 요약

1. 0:01
   채팅은 입력을 쉽게 하고 citations는 결과를 검증하게 하지만, 둘만으로는 고객에게 약속한 시간·비용 절감 효과를 유지하기 어렵다. 특히 의료·법률·세무 같은 세로형 산업에서는 비동기 실행과 검증 부담 완화가 핵심이다.
2. 3:01
   제품은 사람이 직접 쓰는 도구가 아니라 일을 위임받는 컨베이어 벨트처럼 봐야 하며, 사용자는 운영자가 아니라 감독자가 된다. 은행의 오프라인·온라인 전환에 이어 이제는 에이전트가 장시간 작업을 대신 수행하는 단계로 이동했다.
3. 6:00
   위임형 제품을 만들려면 먼저 위임할 가치가 있는 반복적이고 오래 걸리는 업무를 찾아야 한다. 그다음에는 각 사용자의 업무 습관과 예외를 반영하는 skills를 학습시켜, 단순히 80~90%가 아니라 실제 업무 방식까지 맞추는 마지막 20%를 해결해야 한다.
4. 10:00
   장기 실행 작업에서는 모니터링과 제어가 신뢰를 만든다. 작업 목록과 traces로 진행 상황을 보여주고, 판단이 필요한 순간에는 일시정지 후 사용자가 개입해 다시 진행할 수 있어야 한다.
5. 13:02
   성과 지표도 바뀌어야 하며, 기존의 weekly active users보다 weekly active sessions가 더 중요한 지표가 된다. 사용자가 플랫폼에 오래 머무는 것보다, 플랫폼 밖에서도 에이전트가 일을 끝내고 사용자는 필요할 때만 개입하는 구조가 더 바람직하다.

실무 인사이트

• 세로형 AI의 경쟁력은 더 자연스러운 채팅이 아니라, 반복 업무를 얼마나 잘 위임·자동 실행·복구 가능하게 만드는지에 달려 있다.
• 제품 설계는 '사용자가 무엇을 입력할까'보다 '어떤 업무를 맡기고 어디서 검토할까'를 기준으로 바꾸는 것이 효과적이다.
• 운영 지표는 체류 시간보다 완료된 작업 수와 개입 빈도를 함께 봐야 실제 가치 창출을 더 정확히 측정할 수 있다.