Pinecone 2.0 — Edo Liberty, Pinecone

한 줄 핵심

이 영상은 에이전트를 ‘더 똑똑하게’ 만드는 대신 회사 지식을 지속적으로 축적·갱신하는 knowledge layer를 두고, 그 위에서 더 정확하고 빠르게 일하게 만드는 방법을 설명한다.

시간별 요약

1. 0:00
   마음 이론, 그리고 이것이 중요한 이유 사람이 타인의 지식과 믿음을 추정하는 능력이 사회적 상호작용의 기반이며, 에이전트도 어떤 정보를 알고 모르는지에 대한 ‘마음 이론’이 필요하다는 문제의식이 제시된다.
2. 1:06
   아무도 답할 수 없었던 질문 Yahoo Answers 사례를 통해 사용자는 시스템이 알 수 없는 질문을 던지면서도, AI에게도 그와 비슷하게 잘못된 지식 가정을 하고 있다는 점이 지적된다.
3. 1:57
   세 가지 종류의 지식 지식은 공개된 일반 지식, 회사 내부의 특정 지식, 그리고 회사 안에서만 통하는 tribal knowledge로 나뉘며, 마지막 유형이 기존 LLM이나 검색으로는 충분히 다뤄지지 않는다고 정리된다.
4. 3:17
   검색이 닿지 못하는 조직 내 암묵지 tribal knowledge는 문서 한두 개로 찾을 수 있는 사실이 아니라 일하는 방식, 우선순위, 책임 구조, 원칙의 총합이어서 단순 검색으로는 복원되지 않는다.
5. 3:56
   매 세션마다 똑똑하지만 무지한 신입사원 현재의 에이전트는 능력은 뛰어나지만 회사의 목표·문화·프로세스를 모르는 신입사원처럼 매번 새로 시작하므로, 작업을 시작할 때마다 맥락을 다시 학습해야 하는 문제가 생긴다.
6. 4:49
   지식 계층이 갖춰야 할 역할 knowledge layer는 영구적으로 유지되고, 모든 에이전트가 공유할 수 있어야 하며, 업무 도메인별로 특화되고, 회사 변화에 맞춰 계속 최신 상태로 유지되어야 한다.
7. 6:19
   최신 상태를 유지하는 일이 가장 어렵다 CEO 교체처럼 조직의 사실이 바뀌면 오래된 문서보다 새로운 현실이 우선해야 하므로, 지식 계층은 오래된 정보를 빠르게 폐기하고 현재의 사실을 반영하는 갱신 체계가 핵심이다.
8. 9:07
   매니페스트가 손으로 쓰는 스킬을 대체한다 기존처럼 skills, plugins, command, markdown을 수작업으로 적는 대신, 무엇을 추적할지와 어떤 작업을 할지 매니페스트로 정의하고 나머지 지식 구조는 시스템이 관리한다.
9. 11:42
   가져오기, 정리, 검색 새 파일·이벤트·개념을 가져오는 import, 매니페스트와 semantic map을 바탕으로 지식 저장소를 갱신하는 curate, 내부 지식 접근을 단순화하는 search가 knowledge layer의 핵심 작업으로 제시된다.
10. 13:35
    질문에 예산을 부여하기 NoQL은 단순 질의가 아니라 토큰이나 비용 예산을 함께 지정해, 빠른 응답과 철저한 탐색 중 어떤 수준의 답을 원하는지 제어하는 에이전트용 인터페이스로 설명된다.
11. 14:42
    런타임 코딩 에이전트 Nexus는 쿼리 시점에 코드를 생성하고 실행하며 다시 수정하는 방식으로 답을 찾는 runtime coding agent로 동작해, 정적인 코드 산출물보다 유연하게 정보를 추출한다.
12. 17:00
    150,000 토큰의 도구를 천 토큰 이하로 Nexus를 쓰면 에이전트가 필요로 하는 도구 설명이 150,000 tokens 수준에서 천 토큰 이하로 줄고, 비용·속도·정확도 모두가 개선되어 실무에서 큰 효율을 낸다고 정리된다.

실무 인사이트

• 에이전트를 설계할 때는 모델 성능보다 회사 지식을 어떻게 지속적으로 축적·갱신할지 먼저 설계하는 편이 효과적이다.
• 도구를 많이 쥐여주는 대신, 쿼리 시점에 필요한 정보 탐색 예산과 접근 방식을 제어하면 토큰 비용과 실패율을 동시에 줄일 수 있다.
• 수작업으로 관리하던 프롬프트·스킬·플러그인을 매니페스트 기반 지식 계층으로 묶으면, 도메인별 특화와 운영 유지보수가 훨씬 쉬워진다.