Stop Renting Your AI's Memory — Dylan Couzon, Qdrant

한 줄 핵심

초거지능의 진짜 쟁점은 모델 성능이 아니라 기억의 소유권이며, 로컬 벡터 검색과 동기화를 통해 AI의 장기 기억을 사용자가 직접 소유해야 한다는 주장이다.

시간별 요약

1. 0:00
   소개 이 영상은 초거지능이 누구의 것이 될지라는 질문을 중심으로, AI의 계산 능력보다 기억의 소유권이 더 중요한 문제라고 문제의식을 제기한다.
2. 0:12
   초거지능은 누구의 것이 될까? 미래의 더 똑똑한 AI가 남의 데이터센터에서 토큰 과금으로 제공될지, 아니면 사용자의 삶을 학습하고 사적인 상태로 유지되는 개인의 자산이 될지가 핵심 쟁점이다.
3. 1:12
   장기 기억이 없는 천재들 현재의 어시스턴트는 대화가 끝나면 거의 모든 것을 잊어버리므로, 진짜 필요한 것은 더 큰 프롬프트가 아니라 사용자의 수정과 선호를 오래 기억하는 장기 기억이다.
4. 1:52
   자신의 하드웨어에서 돌리는 최첨단 모델 $2,500 미만의 장비에서도 전년도의 최첨단급 모델을 돌릴 수 있을 만큼 격차가 줄었지만, 모델만 로컬에 있다고 해서 그것이 곧 자기 것인 것은 아니며 사용자에 대한 지식이 함께 있어야 한다.
5. 2:47
   임대 중인 AI 스택 많은 AI 시스템에서 연산, 모델, 실행 환경, 그리고 누적되어야 할 기억까지 모두 빌려 쓰는 구조가 문제이며, 이 구조에서는 기술의 통제권이 사용자에게 남지 않는다.
6. 3:21
   임대가 실제로 치르는 비용 임대형 모델은 접근 차단, 버전 폐기, 품질 저하 같은 외부 통제에 취약하고, 에이전트와 장시간 루프는 토큰 사용량을 폭증시켜 겉보기의 저가 요금제가 결국 보조금에 불과해진다.
7. 4:36
   자율성 대 연속성 추론을 소유하면 자율성은 얻지만, 세션을 넘어서 사용자를 이어 주는 연속성은 기억이 있어야만 가능하며, 그 연속성이야말로 AI가 개인적으로 느껴지는 핵심이다.
8. 5:21
   기억이 실제로란 무엇인가 기억은 큰 텍스트 파일이 아니라 쓰기, 검색, 잊기의 시스템이며, 무엇을 다시 불러올지 제어할 수 있어야 토큰 덤프보다 훨씬 유용한 개인화가 가능하다.
9. 6:01
   인프라는 이미 몇 년 전에 준비됐다 HNSW와 로컬 임베딩처럼 기억을 구현할 기반 기술은 이미 오래전에 준비되었고, 문제는 기술의 부재가 아니라 그것을 사용자 자신에게 연결하지 못했던 점이다.
10. 6:26
    지금 당신의 기억은 어디에 있는가 오늘날의 AI 기억은 대개 인덱싱되지 않은 파일에 묶여 있거나 타사의 클라우드에 저장되어 있으며, 약관 변경 하나로 사용자의 기억이 재편될 수 있다.
11. 6:41
    모델은 CPU, 컨텍스트는 RAM, 기억은 디스크 모델은 연산 장치, 컨텍스트 윈도우는 RAM, 기억은 디스크에 비유할 수 있으며, 대화가 끝나도 남는 디스크 영역은 사용자 소유로 완전히 보장되어야 한다.
12. 7:30
    Qdrant Edge의 내장 벡터 검색 Qdrant Edge는 앱 내부에 직접 들어가는 로컬 벡터 검색 저장소로, 오프라인에서도 서브밀리초 검색이 가능하고 적은 용량으로도 방대한 기억을 담을 수 있다.
13. 8:10
    기억하는 드론의 실시간 데모 드론 영상에서 객체 탐지와 임베딩을 결합해 실시간 기억을 만들고, 처음 본 세계를 누적 학습시키며 로컬에서 동작하는 메모리 시스템의 작동을 보여준다.
14. 9:40
    1 ms 이내의 기억 의미 검색 저장된 기억 위에서 의미 검색을 수행해 커피 테이블 같은 객체를 1ms 미만으로 찾아내며, 처음 본 시각·마지막 시각·출현 횟수까지 로컬에서 즉시 확인할 수 있다.
15. 10:25
    클라우드로 동기화되는 벌집 지능 개별 장치가 로컬에서 기억을 쌓다가 필요할 때 클라우드로 동기화하면, 드론이나 로봇 여러 대가 하나의 지식을 공유하는 벌집 같은 구조를 만들 수 있다.
16. 10:50
    드론에서 에이전트와 코드 어시스턴트까지 이 기억 구조는 챗봇, 에이전트, 코드 어시스턴트에도 그대로 적용되며, 사용자의 수정과 선호를 오래 축적할수록 모델은 더 이상 낯선 도구가 아니라 개인화된 두 번째 두뇌처럼 작동한다.
17. 11:44
    하루 전체를 위한 기억 기억을 하루 전체의 사건과 장면에 적용하면 신분증 위치, 사람 이름, 화이트보드 내용, 음악 같은 맥락을 찾는 질의응답이 가능해지고, 이를 위한 인덱스는 이미 웨어러블 기기에서 만들어지고 있다.
18. 13:04
    동의가 있는 공유 기억 기억은 개인 소유를 유지하되 선택적으로 공유할 수 있어야 하며, 가족이나 팀 단위의 공동 기억도 가능하지만 공유는 기본값이 아니라 명시적 동의에 의해 이루어져야 한다.
19. 14:09
    누가 당신의 AI를 소유해야 하는가? 초거지능의 등장은 피할 수 없지만, 앞으로 중요한 싸움은 그 기술이 누구의 기억을 학습하고 누구의 소유로 남을지에 대한 결정이며, 사용자는 자신의 AI에 직접 기억을 부여해야 한다.

실무 인사이트

• 장기 기억 기능은 단순한 부가 기능이 아니라, AI를 개인화된 도구에서 지속적인 파트너로 바꾸는 핵심 인프라다.
• 기억을 클라우드에만 의존하면 통제권이 약해지므로, 민감한 맥락은 로컬 저장과 선택적 동기화를 기본값으로 두는 설계가 유리하다.
• 실무적으로는 모델 선택보다 먼저 기억의 저장·검색·삭제 정책을 설계해야 나중에 에이전트와 제품 확장 시 비용과 권한 문제를 줄일 수 있다.