Giving AI Agents Memory That Learns — Jake Broekhuizen, LangChain

한 줄 핵심

에이전트가 매 실행마다 더 나아지게 하려면, 실행 흔적을 단순 로그로 남기는 데서 멈추지 말고 다음 실행에 반영되는 지속적 기억으로 변환해야 한다.

시간별 요약

1. 0:00
   소개 LangChain의 labs 팀 리더인 Jake Broekhuizen가 에이전트에 기억을 부여하는 방법을 주제로, 짧은 시간 안에 핵심 개념과 구현 방향을 정리한다.
2. 0:37
   매 실행마다 좋아지는 에이전트 코딩, 지원, 리서치 에이전트 모두 실행할수록 개선되어야 하며, 이를 위해서는 이전 실행의 경험이 다음 실행에 실제로 영향을 주는 구조가 필요하다.
3. 1:02
   금융 에이전트의 어조가 흐트러지는 사례 규제가 강한 금융 서비스 에이전트는 어조와 표현이 중요하며, 한 번 어조가 어긋나면 사람이 traces를 확인하고 규칙을 고쳐야 하는데 이런 수작업은 확장성이 떨어진다.
4. 2:42
   관찰만으로는 학습이 되지 않는다 에이전트를 관찰하고 기록을 남기는 것과, 그 관찰을 다음 실행을 위한 교훈으로 바꾸는 일은 완전히 다르며, 후자를 가능하게 하는 장치가 memory다.
5. 3:07
   traces는 어디에나 있다 에이전트는 호출된 도구, 추론 과정, 참조한 산출물 등 풍부한 traces를 남기지만, future context가 바뀌지 않으면 같은 실수가 계속 반복된다.
6. 4:02
   로그에서 신호로 에이전트가 만들어낸 trace가 단순 로그로 남는 순간을 넘어, 다음 실행을 바꾸는 신호가 되어야 하며, 적응하는 에이전트는 이 신호를 바탕으로 스스로를 수정한다.
7. 4:22
   memory의 진짜 의미 memory는 에이전트가 미래 실행을 위해 참조하는 지속적 맥락이며, trace나 로그가 곧 memory가 되는 것이 아니라 교훈이 durable context로 변환될 때 memory가 된다.
8. 4:47
   의미론적, 일화적, 절차적 memory 에이전트 memory는 알고 있는 사실과 선호를 담는 semantic memory, 경험과 사례를 담는 episodic memory, 행동 규칙과 지침을 담는 procedural memory의 세 범주로 나눌 수 있다.
9. 5:42
   절차적 memory가 행동을 바꾼다 실제로 눈에 띄는 변화는 대개 procedural memory에서 나오며, 금융 에이전트의 어조 수정처럼 사실 추가보다 행동 규칙을 바꾸는 것이 더 직접적인 개선으로 이어진다.
10. 6:22
    작업 memory와 장기 memory working memory는 현재 실행에서 쓰는 임시 맥락이고, long-term memory는 다음 실행을 위해 별도 저장소에 보관되는 지속적 맥락이며, 둘의 구분이 설계에서 매우 중요하다.
11. 8:12
    읽기와 쓰기의 순환 에이전트는 장기 memory에서 관련 맥락을 읽어와 실행하고, 실행 중 생성된 trace를 다시 분석해 일부만 장기 memory에 쓰는 읽기-쓰기 순환으로 개선된다.
12. 9:27
    무엇을 남길지 결정하기 모든 evidence를 memory로 바꾸면 오히려 미래 작업이 어려워지므로, 무엇이 유용한 신호인지 걸러내고 나머지는 history로 남기는 필터 단계가 핵심이다.
13. 10:22
    수집, 분석, 업데이트 실행에서 발생한 내용을 수집하고, 무엇이 중요한지 분석한 뒤, 미래 실행에 쓸 수 있도록 맥락을 업데이트하는 3단계 구조가 memory 시스템의 기본 형태다.
14. 10:52
    LangSmith와 Context Hub LangSmith는 실행의 trace를 관찰하는 capture를 담당하고, Context Hub는 그 trace에서 신호를 추출해 다음 실행이 읽을 수 있는 durable context로 저장하는 역할을 한다.
15. 12:02
    수정된 금융 에이전트 금융 에이전트는 Context Hub에서 instructions, skills, markdown policies를 불러와 실행하고, trace에서 발견된 어조 이탈을 바탕으로 관련 규칙 파일을 갱신한 뒤 다음 실행에서 개선된 행동을 보인다.
16. 13:17
    교훈 1: 대부분의 traces는 기록으로 남아야 한다 trace 데이터의 대부분은 memory가 아니라 참조 가능한 history로 남아야 하며, 일부만 offline 평가용 데이터셋이나 실제 memory 업데이트로 승격된다.
17. 13:42
    교훈 2: 캐싱과 hot path 메모리 업데이트가 일어난 뒤에도 런타임 상태나 캐싱 때문에 다음 실행에서 보이지 않으면 의미가 없으므로, 무엇을 캐시하고 무엇을 즉시 반영할지 설계해야 한다.
18. 14:47
    교훈 3: 핵심 규칙에는 사람 검토가 필요하다 절차적 memory, 특히 지침과 정책과 어조 규칙처럼 행동의 대부분을 좌우하는 부분은 자동 갱신보다 human review를 거쳐 안전하게 반영하는 편이 낫다.
19. 15:27
    마무리 memory는 정보를 저장하는 곳이 아니라 경험을 맥락으로 바꾸는 장치이며, 이 변환이 있어야 다음 실행이 실제로 더 좋아질 수 있다.

실무 인사이트

• 에이전트 memory 설계의 핵심은 ‘무엇을 저장할까’보다 ‘무엇을 다음 실행에 다시 읽히게 할까’를 정하는 일이다.
• trace를 모두 학습 재료로 쓰려 하면 오히려 성능과 추론성이 떨어지므로, history·dataset·memory를 분리하는 기준이 필요하다.
• 정책·어조·권한 같은 고위험 규칙은 자동 학습보다 인간 검토를 끼운 반영 경로를 두는 것이 운영 안정성에 유리하다.