Memory-Aware Agent Harnesses for Anti-Money Laundering — Nacho Martinez, Oracle

한 줄 핵심

이 영상은 AML(자금세탁방지) 사례를 통해, 모델 자체보다 하네스·메모리·컨텍스트 설계가 에이전트 성능과 실용성을 좌우한다는 점을 설명하고 워크숍으로 구현 방법까지 보여준다.

시간별 요약

1. 0:00
   워크숍 준비 워크숍 참여 방식, GitHub 계정 등록, CodeSpaces 실행 절차를 안내하며, 실습은 자막을 따라가지 않아도 바로 시작할 수 있게 구성된다.
2. 2:07
   Nacho Martinez 소개 AI developer advocate이자 데이터 과학자로서의 배경을 소개하고, 적응형 AI 에이전트를 다루는 관련 강의도 함께 언급한다.
3. 2:57
   오늘의 진행 개요 에이전트 스택, AI 에이전트의 정의, 하네스의 중요성, 메모리와 컨텍스트 엔지니어링 같은 핵심 주제를 빠르게 훑고, 금융 도메인용 사례로 설명하겠다는 흐름을 제시한다.
4. 4:57
   중견 은행의 AML 에이전트 사례 중견 은행에서 수상한 거래를 자동으로 분류하고 표시해 사람이 확인해야 할 업무량을 줄이는 자금세탁방지(AML) 에이전트 시나리오를 문제 정의로 삼는다.
5. 5:57
   에이전트 스택 애플리케이션, 모델, 인프라, 컴퓨팅 중에서 오늘은 데이터 계층에 집중하며, 그 안에 에이전트 루프, MCP, 메모리, 컨텍스트 엔지니어링, 도구·스킬이 포함된다고 정리한다.
6. 8:31
   에이전틱 시스템 = 자동화 + 자율성 LLM 기반 워크플로우의 자동화와 AI 에이전트의 자율성이 결합된 형태를 에이전틱 시스템으로 정의하고, 실제로 널리 쓰이는 고급 도구들도 이 조합 위에서 동작한다고 본다.
7. 9:16
   AI 에이전트란 무엇인가 에이전트는 추론하는 LLM, 기억하는 데이터베이스, 행동하는 도구, 입력을 받는 감각 체계로 이루어진 계산적 존재이며, 제한된 컨텍스트 윈도우도 인간의 주의력처럼 다뤄야 한다고 설명한다.
8. 11:06
   왜 모델보다 하네스가 더 중요한가 같은 모델이라도 하네스 구성이 달라지면 성능이 크게 바뀌므로, 모델 자체보다 메모리·검색·스토리지·컨텍스트 설계 같은 하네스 요소가 실제 성능을 좌우한다고 강조한다.
9. 13:21
   파일과 데이터베이스의 차이 다중 쓰기 충돌과 일관성 문제 때문에 파일만으로는 한계가 있고, 데이터베이스의 트랜잭션 특성이 이를 해결할 수 있으므로 상황에 따라 적절한 저장 방식을 선택해야 한다고 설명한다.
10. 15:56
    에이전트 메모리: 단기, 일화, 절차, 의미 단기 기억은 대화 컨텍스트, 장기 기억은 일화·절차·의미 기억으로 나뉘며, 메모리가 길어질수록 성능이 떨어질 수 있어 필요한 정보만 남기는 설계가 중요하다고 본다.
11. 19:01
    컨텍스트 요약과 압축 대화 내용을 짧게 요약해 다음 턴으로 넘기는 방식과, 대화 조각을 ID로 저장해 필요할 때 다시 불러오는 압축 방식을 비교하며 컨텍스트 관리의 기본 전략을 제시한다.
12. 19:46
    에이전트 루프 에이전트 루프가 도구·스킬·파일·DB·이전 대화를 모아 컨텍스트를 조립하고, 추론과 API 호출을 반복해 다음 행동을 결정하는 핵심 제어 장치라고 설명한다.
13. 20:51
    툴박스와 스킬박스 패턴 도구와 스킬이 많아질수록 컨텍스트를 잡아먹기 때문에, 임베딩과 벡터 검색으로 필요한 것만 동적으로 꺼내 쓰는 구조가 현실적인 해결책이라고 제안한다.
14. 22:30
    스킬 증류 이전 대화와 실행 경험에서 잘 작동한 패턴을 skill MD로 추출해 재사용 가능하게 만들면, 에이전트가 상황에 맞는 스킬을 더 쉽게 자동 선택할 수 있다고 설명한다.
15. 24:15
    고정된 모델을 더 좋게 만드는 지속 학습 모델 가중치를 직접 바꾸지 않더라도 파라미터 기억, 표현 기억, 비매개변수 기억을 조합한 지속 학습으로 성능을 개선할 수 있으며, 오늘은 그중 비매개변수 기억에 초점을 맞춘다고 정리한다.
16. 26:10
    지시 계층 system prompt, user prompt, 도구, 스킬은 모두 서로 다른 우선순위를 가지며, 이 계층 구조가 있어야 모델이 중요한 지시를 덜 중요한 정보보다 우선 처리할 수 있다고 설명한다.
17. 27:05
    워크숍 UI 안내 실습 UI에서 에이전트가 은행 거래를 실시간으로 분석하고, 의심 거래를 표시하며, 컨텍스트 창과 데이터베이스, 감사 결과를 시각화하는 흐름을 직접 보여준다.
18. 33:35
    Q&A: 일화 기억과 충돌 과거 대화가 섞여 혼동되는 문제는 메모리 계층의 설계와 가중치 배분에 달려 있으며, 필요한 경우 일화 기억도 벡터화해 더 명확하게 분리할 수 있다고 답한다.
19. 34:35
    Q&A: 스킬, 캐시, 컨텍스트 예산 스킬과 도구는 요청의 큰 비중을 차지하지만 semantic cache 덕분에 매번 같은 비용을 내지 않으며, 컨텍스트 예산은 에이전트 루프가 제한된 개수의 관련 항목만 불러오도록 설계해 관리한다.
20. 40:49
    Q&A: 메모리 계층은 단순하게 유지 메모리 설계는 단기·장기 두 구조에서 시작해, 장기 기억을 나중에 벡터화하는 식으로 단순하게 출발하는 것이 가장 효율적이며 과도한 추상화는 피하는 편이 좋다고 권한다.
21. 43:29
    Q&A: 미리 만든 SQL과 동적 쿼리 LLM이 매번 SQL을 새로 만들어내기보다 검증된 SQL 쿼리를 미리 만들어 두고 접근하게 하면 오류를 줄일 수 있으며, 이는 데이터베이스 환경에서 MCP가 특히 유용한 이유라고 설명한다.
22. 46:14
    하이브리드 검색 의미 검색과 키워드 검색을 결합한 하이브리드 검색, 즉 RRF가 더 넓은 검색 범위를 제공하면서도 관련성을 높여 주기 때문에 단일 검색 방식보다 실무적으로 유리하다고 말한다.
23. 47:39
    작고 맞춤형 하네스 만들기 모든 문제에 거대한 범용 하네스가 필요한 것은 아니며, 특정 도메인과 제약에 맞게 작고 단순한 맞춤형 하네스를 만드는 편이 더 빠르고 유지보수하기 쉽다고 결론짓는다.

실무 인사이트

• 에이전트 성능 개선의 핵심은 모델 교체보다 하네스 설계에 있으므로, 먼저 메모리·루프·검색·도구 호출의 경계를 명확히 나누는 것이 효과적이다.
• 장기 기억은 처음부터 복잡하게 만들기보다, 단기 기억에서 중요한 정보만 승격시키는 단순한 구조로 시작한 뒤 임베딩·검색을 붙이는 방식이 실무에 적합하다.
• 도구와 스킬이 많아질수록 컨텍스트 예산이 급격히 소모되므로, 벡터 검색과 하이브리드 검색을 이용해 필요한 항목만 동적으로 주입하는 전략이 중요하다.