Lessons from Studying Every Memory System — Shlok Khemani, Independent

한 줄 핵심

개인화 메모리는 하나의 정답이 아니라 제품·컴퓨트·UX에 따라 달라지며, 앞으로는 메모리 설계가 개인 AI 제품의 핵심 경쟁력이 될 것이다.

시간별 요약

1. 0:12
   이 영상은 소비자용 AI 개인화 맥락에서 메모리를 정의하며, ChatGPT·Claude·Gemini·Poke의 메모리 구현 방식을 역분석한 경험을 바탕으로 이야기의 범위를 정한다. 또한 지난 3년간 메모리가 어떻게 진화했는지와 그 과정에서 얻은 교훈을 나눌 것이라고 제시한다.
2. 2:02
   ChatGPT의 memory v1은 사용자가 직접 기억을 생성·삭제하는 사실 목록 방식이었지만, 관리 부담이 사용자에게 쏠리고 정보가 쉽게 오래되어 stale해지는 문제가 있었다. 이후 v2의 running profile은 대화들을 비동기적으로 요약·갱신하는 방식으로 발전했지만, 여전히 잘못된 사실이 누적될 수 있고 raw profile을 보기 어렵다는 한계가 남았다.
3. 7:02
   Claude의 memory는 처음에 프로필 대신 과거 대화를 키워드·시점으로 검색하는 도구 중심 구조였고, 이후 v2에서 visible한 running profile과 explicit edit 기능을 도입했다. ChatGPT도 뒤이어 대화 검색 도구와 프로필 가시화·수정 기능을 넣으면서, 두 제품은 서로 다른 출발점에서 비슷한 구조로 수렴했다.
4. 10:01
   메모리에는 단일한 설계 해법이 없으며, RAG처럼 검색·청킹·벡터DB로 퉁칠 수 있는 문제가 아니다. 실제로 Gemini, cloud code, openclaw, Hermes처럼 제품마다 profile, markdown files, heartbeat, knowledge bases, skills 등이 달라서, 메모리는 외주가 아니라 제품과 함께 직접 설계해야 하는 핵심 기능이다.
5. 12:01
   메모리는 compute의 함수이므로, 업데이트 빈도·요약 밀도·컨텍스트 길이 사이에서 비용 절충이 필수다. 동시에 running profile은 입력→요약→재적용의 순환 구조를 만들어 사실상 continual learning처럼 동작하지만, 그 학습이 가중치 밖에서만 이뤄지는 한계와 누가 비용을 부담할지라는 경제 문제가 남는다.
6. 15:01
   가장 큰 병목은 기술보다 컨텍스트 문제이며, 현재의 개인 AI는 이메일·캘린더·사진 같은 풍부한 외부 신호를 충분히 추론하거나 충돌 검증에 쓰지 못한다. 따라서 서로 단절된 여러 제품이 각자 따로 기억을 쌓게 되고, 사용자는 변경된 사실을 매번 반복 입력해야 하므로 진짜 personal AI 경험이 아직 오지 않았다.

실무 인사이트

• 개인화 기능은 출시 후 덧붙일 옵션이 아니라, 초기 기획 단계에서 메모리의 구조·가시성·수정 권한까지 함께 설계해야 한다.
• 메모리 품질을 높이려면 저장량을 늘리는 것보다 업데이트 주기, 요약 밀도, 외부 신호 연동을 어떻게 균형 있게 배치할지가 더 중요하다.
• 실무에서는 사용자 프로필을 하나의 진실 원천으로 두기보다, 충돌 감지와 근거 추적이 가능한 메모리 체계를 만들어 stale한 정보를 줄여야 한다.