Your Financial Agent Needs to Show Its Work - Anirudh Veeraragavan, Fieldguide

한 줄 핵심

금융 에이전트는 정확한 답을 내는 것보다 왜 그런 결론에 도달했는지 증명할 수 있어야 하며, 이를 위해 권한·실행 기록·증거 출처·평가 데이터의 무결성이 모두 갖춰져야 한다.

시간별 요약

1. 0:00
   소개 감사에서는 최종 의견 자체보다 그 의견을 뒷받침하는 의사결정 과정이 더 중요하며, 에이전트도 결과가 아니라 판단의 근거를 설명할 수 있어야 한다.
2. 0:40
   재무 감사 에이전트 만들기 은행 조정처럼 반복적이고 고단한 감사 절차는 책장, 조정 항목, 증거, 과거 사례, 평가 체계를 묶어 에이전트로 자동화할 수 있다. 다만 인간 검토자 승인까지 포함한 이 구성만으로는 충분하지 않다.
3. 1:56
   왜 누군가가 이유를 묻는가 실제 감사가 점검 대상이 되면 평가 점수나 사용자 만족도보다 특정 증거와 결정이 왜 충분했는지를 설명해야 한다. 이 질문에 답하지 못하면 자동화의 품질을 입증할 수 없다.
4. 2:18
   그 중요성: Peregrine 사기 Peregrine Financial Group 사례처럼 금융 분야에서는 수치가 맞지 않을 때 피해가 매우 크기 때문에, 결론이 옳았다는 사실보다 그 결론을 끝까지 방어할 수 있는 구조가 필요하다.
5. 3:05
   감사인은 에이전트를 따라갈 수 있는가 새로운 감사인이 작업을 이해할 수 있어야 한다는 감사 업계의 기준을 에이전트에 적용하면, 승인·실행 제어·증거 출처·평가 무결성, 그리고 인간이 멈춰야 할 시점을 함께 설계해야 한다.
6. 4:00
   은행 조정 예시 실제 예시로는 은행 잔액과 장부 잔액의 차이를 여러 조정 항목으로 설명하는 흐름을 따라가며, 각 항목을 에이전트가 처리해도 나중에 방어 가능한 결정을 만들어야 한다.
7. 4:27
   통제 1: 승인 인간이 이미 검토한 항목을 뒤늦게 에이전트가 덮어쓰면, 검토자가 본 내용과 실제 내용이 달라지는 문제가 생긴다. 따라서 권한은 단순히 호출 가능 여부가 아니라, 특정 상태의 특정 객체에 대해 그 시점에 수정해도 되는지까지 포함해야 한다.
8. 5:37
   통제 2: 실행 제어 나중에 같은 절차를 다시 돌렸을 때 결과가 달라지면, 어떤 단계에서 차이가 발생했는지 추적할 수 있어야 한다. 이를 위해 단계별 실행 기록, 입출력, 결정적 코드 단계와 에이전트 추론 단계를 구분하는 구조가 필요하다.
9. 7:33
   통제 3: 증거 출처 인용문이 단순한 문자열이면 같은 이름의 문서가 많거나 다른 버전이 섞였을 때 출처를 신뢰할 수 없다. 증거는 문서 ID, 버전, 해시까지 포함한 정체성으로 관리되어야 하며, 특히 은행에서 직접 온 자료처럼 허용 가능한 출처를 강제할 수 있어야 한다.
10. 8:44
    통제 4: 평가 무결성 이전 감사 결과로 만든 gold 데이터도 틀릴 수 있으므로, 평가 데이터 자체를 다시 감사해야 한다. 전체 점수만 보면 실제 성능이 가려질 수 있어, 오답의 원인이 평가 오류인지 모델 실패인지 구분해야 한다.
11. 10:09
    에이전트가 멈추고 물어봐야 할 때 기존 검토 내용을 바꾸거나, 이전 실행과 충돌하거나, 증거 규칙을 위반하는 경우에는 에이전트가 멈추고 인간에게 넘겨야 한다. 이때 경고는 검증은 쉽게, 승인 자체는 쉽게 만들지 않되 필요한 맥락을 분명히 보여줘야 한다.
12. 11:23
    네 가지가 모두 필요하다 권한이 없으면 검토된 내용이 바뀔 수 있고, 실행 제어가 없으면 운 좋게 맞았는지 설명할 수 없고, 증거 출처가 없으면 오류의 근원을 알 수 없고, 평가 무결성이 없으면 점수만 남는다. 즉, 방어 가능한 결정은 네 가지 통제가 모두 있어야 성립한다.
13. 12:16
    감사를 넘어: 신용과 AML 같은 원칙은 대출 승인·거절이나 AML 경보 처리에도 적용되며, 중요한 금융 의사결정이라면 언제든 그 결정을 왜 내렸는지 방어할 수 있어야 한다. 모델이 그렇게 말했다는 이유만으로는 충분하지 않다.

실무 인사이트

• 금융 에이전트를 설계할 때는 정답률보다 재현 가능한 의사결정 경로를 먼저 설계해야 실제 감사와 규제 대응이 가능하다.
• 권한·로그·증거 출처·평가 데이터는 각각 따로가 아니라 한 묶음의 신뢰 체계로 봐야 하며, 하나만 빠져도 방어력이 크게 떨어진다.
• 자동화 비율이 높아질수록 예외 케이스를 더 선명하게 드러내는 UX가 중요하고, 인간 검토는 자주가 아니라 정확한 지점에서 개입하게 만들어야 한다.