Build for the Memo, Not the Demo — Shawn Chan, China Resources Holdings

한 줄 핵심

AI 제품은 데모를 잘하는 것보다, 근거·수치·출처·책임자를 끝까지 추적할 수 있어야 실제 의사결정과 투자 심사를 통과한다.

시간별 요약

1. 0:01
   AI가 더 그럴듯한 문장을 써도 자신감과 정답은 전혀 다른 능력이며, 금융 의사결정에서는 ‘감탄을 끄는 데모’보다 ‘의심을 견디는 메모’가 본질이다.
2. 5:02
   데모는 짧게 인상만 주면 되지만 메모는 실제 자금이 움직이는 문서이므로, 한 문장의 오류도 신뢰를 무너뜨릴 수 있다. 따라서 AI 출력도 실전에서는 모든 문장이 검증 대상이 된다.
3. 9:02
   신뢰가 깨지는 지점은 출처 구분, 숫자 일치, 모순 노출, 사실과 추정 분리, 30초 내 근거 추적, 최종 책임자 식별의 여섯 가지로 정리된다. 이 중 하나라도 흐리면 AI는 금융 실무에 쓸 수 없다.
4. 17:02
   가짜 판례, 잘못된 인용, 책임 회피형 챗봇 사례처럼, 문장이 유창할수록 오히려 검증 가능한 클릭 경로와 인간 승인 게이트가 더 중요해진다. 근거로 바로 이동되는 기능 자체가 제품의 핵심이다.
5. 21:00
   실전 해법은 화려한 모델보다 소박한 통제 장치에 있다. 모든 주장에 출처와 신뢰도를 붙이고, 사실과 추정을 분리하며, 숫자 불일치를 자동 차단하고, 모순을 숨기지 말고, 사람의 승인 로그를 남겨야 한다.

실무 인사이트

• 금융·컴플라이언스처럼 검증이 중요한 영역에서는 출력 품질보다 출처 추적성과 책임 추적성이 먼저 설계돼야 한다.
• AI 제품을 만들 때는 ‘정답처럼 보이는 문장’보다 ‘검증을 유도하는 UI와 워크플로’가 실제 채택률을 좌우한다.
• 투자 유치용 데모도 결국 메모로 읽히므로, 피치덱 단계부터 수치 일관성·근거 링크·가정 표기를 표준화해야 한다.