Agent Memory Is Solved. Agent Learning Isn't. — Karthik Ranganathan, Yugabyte

한 줄 핵심

이 영상은 에이전트 메모리 자체보다 에이전트 간에 맥락을 공유·승격·추적하는 학습 인프라가 더 큰 문제이며, 이를 Meko와 data pack으로 해결하는 방법을 보여준다.

시간별 요약

1. 0:00
   소개 도입부로 영상의 주제가 공유 맥락과 에이전트 학습 인프라임을 예고한다.
2. 0:12
   메모리는 해결됐고, 학습은 아직이다 에이전트 메모리는 이미 어느 정도 가능하지만, 에이전트가 실제로 학습하는 문제는 여전히 풀리지 않았다는 주장이다.
3. 0:47
   학습은 집단에서 일어난다 학습은 단일 에이전트 내부가 아니라 여러 에이전트가 함께 일하고 서로 맥락을 공유할 때 발생하며, 이 부분의 인프라는 아직 부족하다.
4. 1:17
   왜 데이터베이스 회사가 이것을 만들었는가 Yugabyte에서 내부·외부용 네 가지 에이전트를 운영했지만, 결국 데이터 문제 때문에 제품화에 실패했고 그 경험이 이 작업의 출발점이 되었다.
5. 2:02
   1년 동안 에이전트를 출시하지 못한 이유 여러 에이전트를 오래 운영했지만 성과가 없었고, 원인은 성능이나 스케일이 아니라 데이터 문제를 제대로 풀지 못한 데 있었다.
6. 2:37
   진짜 실패: 맥락의 손실 에이전트가 결과물만 전달되고 추론 과정과 실패 기록은 전달되지 않아, 다음 에이전트가 같은 맥락을 다시 추론해야 하며 토큰과 비용이 반복해서 낭비된다.
7. 3:27
   새 팀원 문제 사람 팀에서는 새 멤버에게 과거 결정과 배경을 공유하지만, 에이전트는 그 역사와 맥락을 받지 못해 처음부터 다시 생각하게 된다.
8. 3:57
   다섯 가지 오해 더 많은 메모리, 공유 상태, RAG 전체 투입, 파인튜닝, 큰 컨텍스트 윈도우만으로는 학습 문제가 해결되지 않으며, 모두 구조적 간극을 가리는 임시방편에 가깝다.
9. 5:02
   공유되고, 거버넌스가 있고, 추적 가능한 맥락 에이전트 간 공유 가능한 맥락, 승격 절차가 있는 거버넌스, 출처를 추적할 수 있는 계보가 있어야 맥락이 오래가고 신뢰할 수 있게 된다.
10. 5:42
    무엇을 잘못했는가 지식 베이스, 분산 RAG, 개별 작은 DB, 백엔드 일괄 처리 같은 접근을 시도했지만, 사람의 개입과 공유 구조가 빠지면 반복 가능한 워크플로가 재발명될 뿐이었다.
11. 6:37
    RAG 개선하기: 14% → 82% 신뢰도 추적과 튜닝을 통해 RAG 구성을 단계적으로 고치자 신뢰도와 정밀도가 크게 개선됐고, 컨텍스트 청크 수도 7,000개 이상에서 약 1,000개로 줄어 토큰 비용이 크게 낮아졌다.
12. 7:27
    Meko와 data pack 소개 Meko는 지식 베이스, 메모리, 대화, 관측성 등을 담는 agent-native persistence layer이며, private 공간에서 시작해 검증된 내용을 shared 공간으로 승격하는 구조를 제공한다.
13. 8:36
    이 슬라이드 덱은 Meko로 만들었다 발표 자료 자체가 Meko를 통해 공유 맥락으로 이어졌고, 한 사람이 개요를 만들고 다른 사람이 별도 회의 없이 이를 받아 에이전트로 확장·수정해 최종 덱을 완성했다.
14. 10:20
    데모: 집단 지식 세션을 끊었다가 다시 시작해도 같은 맥락을 복원할 수 있으며, 서로 다른 에이전트와 계정 사이에서도 필요한 지식이 공유 풀에서 이어질 수 있음을 보여준다.
15. 11:25
    맥락 공유는 토큰을 절약한다 처음에만 LLM이 많은 토큰을 써서 문제를 풀고, 이후에는 Meko memory를 호출해 같은 지식을 재사용하므로 반복 작업의 토큰 비용이 크게 줄어든다.
16. 12:20
    데모: data pack에 저장하기 대화 중 발생한 사건을 data pack에 저장하고 searchable memory로 남기며, MCP 서버와 skill을 통해 어떤 정보를 언제 저장할지 제어한다.
17. 13:25
    데모: 새 세션에서 이어 하기 완전히 새로운 채팅 창에서도 이전에 저장한 data pack을 찾아 이어서 작업할 수 있으며, 세션 종료 후에도 맥락이 유지된다.
18. 14:20
    데모: 다른 에이전트와 공유하기 다른 IDE와 다른 에이전트에서 같은 data pack을 조회할 수 있지만, 아직 private 상태라면 내용을 볼 수 없고 공유 승격이 필요하다.
19. 14:55
    비공개 메모리와 공유 메모리 메모리는 기본적으로 private로 유지되며, 필요한 항목만 세밀하게 shared space로 승격해야 다른 에이전트가 접근할 수 있고, 전체 공개보다 이 방식이 더 유연하다.
20. 16:15
    토큰 절감 효과 증명하기 저장된 대화와 언어 트레이스를 통해 어떤 tool call이 발생했는지 확인할 수 있어, 실제로 토큰을 얼마나 절약했는지 검증할 수 있다.
21. 16:45
    사람의 승격이 학습 신호가 된다 사람이 ‘이것은 보존할 가치가 있다’고 판단하는 행위가 좋은 지식 승격의 라벨이 되며, 장기적으로는 개인 취향에 맞는 자기개선형 오케스트레이션 학습으로 이어질 수 있다.
22. 17:52
    팀에서 Meko를 쓰는 방식 팀은 Meko를 여러 용도로 공유하며, 엔지니어링 작업부터 사과 메일, LinkedIn 작성, 온보딩까지 반복되는 작업을 data pack으로 빠르게 재사용한다.
23. 19:26
    집단 지식을 포착하기 핵심 목표는 사람처럼 일하는 방식에 더 가깝게, 암묵지를 포착하고 공유 제어를 제공하며, 실제로 무슨 일이 일어나는지 추적 가능하게 만드는 것이다.
24. 19:40
    Meko 사용해 보기 무료 플랜으로 사이트에서 바로 연결해 볼 수 있고, Discord에서 피드백을 주면 제품 개선에 반영하겠다는 안내로 마무리한다.

실무 인사이트

• 에이전트 문제를 메모리 용량으로만 보면 안 되고, 결과물보다 추론·실패·의사결정 맥락을 어떻게 공유할지부터 설계해야 한다.
• 지식은 한 번 저장하는 것으로 끝나지 않고, private에서 shared로 승격되는 거버넌스와 출처 추적이 있어야 팀 자산이 된다.
• RAG나 큰 컨텍스트 윈도우를 무작정 키우기보다, 재사용 가능한 맥락 단위를 줄이고 검증 가능한 저장소로 분리하는 편이 비용과 품질 모두에 유리하다.