Stop Making Your Customers Click Approve - Emil Chetty, Wise

한 줄 핵심

AI 에이전트가 모든 단계를 승인받는 대신, 사용자가 작업 단위의 약속에 동의하고 시스템이 그 경계를 강제해야 실제로 복잡성을 줄이면서도 안전한 금융 자동화를 만들 수 있다는 메시지다.

시간별 요약

1. 0:00
   소개 편의성을 약속한 AI가 오히려 승인 요청을 계속 띄우면 사용자는 더 큰 부담을 느끼게 된다. 에이전트를 유용하게 만들려면 인간을 매번 API처럼 쓰는 구조를 바꿔야 한다.
2. 0:58
   Wise 소개 Wise는 국경 간 송금과 자금 관리를 돕는 글로벌 금융 인프라를 구축해 왔고, Wise account, Wise Business, Wise Platform을 통해 개인과 기업, 금융기관에 서비스를 제공한다. 90개 이상의 현지 은행·결제 사업자와 연결된 네트워크로 대규모 실적과 다수의 라이선스를 확보했다.
3. 3:00
   규제기관은 여전히 답을 요구한다 다국가·다통화·다중 규제 환경에서는 챗봇을 얹어도 고객의 권한, 자금 통제, 결과 설명 책임이 사라지지 않는다. 에이전트에 자율성을 주더라도 규제상 무엇이 승인되었고 무엇이 실행되었는지는 끝까지 답할 수 있어야 한다.
4. 3:36
   전형적인 에이전트 업무 중소기업 운영자는 이번 주 승인된 공급업체 결제 처리, 결과 대조, 예외 보고 같은 일을 에이전트에 맡기고 싶어 한다. 핵심은 세부 조회와 상태 확인을 매번 지시하지 않아도 업무가 처리되는 흐름이다.
5. 4:05
   모든 단계를 승인하기 기존 에이전트 사용 방식은 권한 확인, 문서 읽기, 테스트 실행 같은 작은 단계마다 사용자가 승인 버튼을 눌러야 해서 결국 사람이 일의 중심이 된다. 이렇게 되면 도구가 복잡성을 줄이는 대신 터미널 감시 업무를 늘린다.
6. 5:06
   코딩 에이전트가 배운 것 코딩 에이전트는 auto mode, 권한 규칙, 분류기, 샌드박스를 통해 안전성을 높이며 사용자 승인을 줄였다. 다만 이런 통제는 작업의 안전 여부를 판단할 뿐, 결제처럼 실제 권한 여부를 증명해 주지는 못한다.
7. 5:35
   안전한 행동과 승인된 결제 코딩 에이전트는 '이 행동이 안전한가'를 묻지만, 결제는 '이 고객이 이 수신자에게 이 조건으로 승인했는가'를 묻는다. 따라서 모델 판단이 아니라 변하지 않는 합의가 필요하며, 에이전트는 단계가 아니라 작업 전체에 대해 위임받아야 한다.
8. 6:42
   의도에서 고정된 합의로 불명확한 고객 요청을 신뢰할 수 있는 소프트웨어로 검증해 인간이 이해할 수 있는 제안으로 바꾸고, 고객이 그 범위를 확인하면 그 합의를 시스템에 고정한다. 이후 에이전트는 그 범위 안에서 계획하고 실행하며, 조건이 바뀌면 새 제안과 새 동의가 필요하다.
9. 8:15
   실행 예시 Sarah의 요청은 읽기 전용 탐색으로 필요한 컨텍스트를 수집한 뒤, 신뢰할 수 있는 시스템이 공급업체·은행 정보·금액을 정리해 초안을 만든다. 사용자는 사람에게 보이는 설명과 기계가 검증할 수 있는 약속을 동시에 보고 승인하며, 승인 순간 그 초안은 변경 불가능한 권한 있는 작업이 된다.
10. 10:27
    승인된 것만 부여하기 승인된 작업, Wise가 허용하는 범위, 사용자의 현재 권한의 교집합만으로 실행 권한을 발급해야 한다. 이렇게 하면 실행 계획은 바뀔 수 있어도 합의 자체는 유지되며, 사용자는 구현을 감독하지 않고 작업만 위임할 수 있다.
11. 11:32
    재시도와 변경된 견적 작업이 재시도되거나 시스템이 재시작되어도 동일한 불변 작업 기록을 따라가면 중복 결제를 막을 수 있다. 다만 견적이 바뀌거나 만료되면 새 버전이 필요하므로, 에이전트는 새 초안을 준비할 수는 있어도 교체안을 혼자 승인할 수는 없다.
12. 12:35
    구현 방식 게이트웨이, 통제된 LLM 경로, 에이전트 게이트웨이를 통해 도구 등록과 증빙을 관리하고, 단일 결제 흐름을 검증 가능한 방식으로 통과시킨다. 핵심은 워커가 사용할 수 있는 도구와 실행 범위를 확인하면서도 사용자에게 약속한 불변 작업 기록과 일치시키는 것이다.
13. 13:25
    에이전트가 속아 넘어갈 때 프롬프트 인젝션으로 에이전트가 잘못된 결제 지시를 믿더라도, 그 믿음은 이미 확정된 작업을 바꾸지 못한다. 최종 경계는 모델의 판단이 아니라 하위 서비스의 검증과 집행에 의해 유지된다.
14. 14:18
    Wise가 답할 수 있는 것 Wise는 누가 작업을 승인했고, 에이전트가 무엇을 할 수 있으며, 결제 결과가 무엇이었고, 무엇을 막았는지까지 추적할 수 있어야 한다. 결론은 고객이 작업 단위로 동의하고 시스템이 그 약속을 강제하면, 사람에게 수십 번 승인받지 않아도 안전하게 에이전트를 쓸 수 있다는 것이다.

실무 인사이트

• 금융 에이전트 설계에서는 '각 단계의 안전성'보다 '작업 전체에 대한 사용자 동의'를 먼저 고정해야 감사·규제 대응이 가능하다.
• 승인 UX는 사용자가 이해할 수 있는 인간용 설명과 시스템이 집행할 수 있는 기계용 계약을 동시에 만들어야 한다.
• 프롬프트 인젝션 대응은 모델의 판단력에만 기대지 말고, 권한 부여와 결제 실행을 분리한 하위 서비스 검증으로 막아야 한다.