Beyond RAG: A Relational Context Engine That Cuts Token Burn — Unblocked

한 줄 핵심

이 영상은 RAG의 약점을 보완해 구조화된 데이터와 조직 맥락을 함께 다루는 relational context engine의 개념과 구현 흐름을 보여주며, 토큰 비용을 줄이면서 에이전트와 사람이 모두 쓸 수 있는 컨텍스트 질의 시스템을 만드는 방법을 설명한다.

시간별 요약

1. 0:00
   소개 Unblocked가 만드는 context engine을 소개하고, 이 영상이 컨텍스트 엔진의 가치 설명과 핵심 구성요소 구현을 함께 다루는 실습형 발표임을 밝힌다. 공개된 오픈소스 프로젝트도 함께 보여준다.
2. 0:52
   일정 조직의 흩어진 지식을 하나의 grounded context로 묶는 개념을 설명한다. 그 결과 컨텍스트가 서로 연결되고, 의도에 맞으며, 개인화되고, 권한까지 고려된 형태로 제공된다.
3. 2:22
   컨텍스트 유무에 따른 에이전트 데모 컨텍스트 엔진이 없는 Claude는 코드베이스를 직접 훑으며 맥락을 추론해야 하지만, 연결 후에는 코드·Notion 문서·PR·Slack 대화를 묶은 작업별 컨텍스트 번들을 바로 활용한다. 그 결과 더 정확한 답과 함께 비용과 시간이 크게 줄어든다.
4. 4:17
   비용 절반 컨텍스트 엔진을 붙인 경우와 그렇지 않은 경우를 비교해 약 50%의 비용 절감이 나타난다. 단순히 성능만이 아니라 운영 비용 측면에서도 충분한 가치가 있음을 보여준다.
5. 4:57
   모델 회귀 추적 코드 리뷰 제품에서 발견된 이슈 감소 원인을 추적해 Opus 48로의 변경이 회귀를 일으켰다는 점을 빠르게 좁혀낸다. 관련 PR과 Slack 대화를 엮어 수정 작업까지 이어지는 흐름을 보여준다.
6. 6:17
   구현 시작 조직 내 컨텍스트는 PR, 리뷰, 댓글, 이슈, 문서, 대화처럼 여러 곳에 흩어져 있으며, RAG는 이런 내용 기반 질문에 강하다고 정리한다. 하지만 PR 개수, 리뷰어 수, 시점이 중요한 질의처럼 구조화된 질문은 별도의 쿼리 엔진이 필요하다고 구분한다.
7. 7:11
   벡터 검색이 답하지 못하는 질문 주간 집계나 필터링처럼 시간성과 구조가 중요한 질문은 벡터 저장소만으로는 해결되지 않는다. 따라서 자연어 질의를 구조화된 쿼리로 바꾸는 계층이 필요하며, 검색은 의미 기반과 구조 기반 두 축으로 나뉜다.
8. 8:21
   어려운 부분: 주변 구성 쿼리 생성 자체보다 더 어려운 것은 스키마 이해, identity 매핑, 쿼리 검증, 실행 오류에 대한 재시도 같은 보조 구조다. 안전하고 정확한 질의를 위해서는 LLM 바깥의 결정적 로직이 반드시 필요하다.
9. 9:46
   문서 쿼리 엔진 예제로 사용할 document query engine 저장소를 띄우고, 아직 연결되지 않은 상태에서는 아무 결과도 나오지 않는다는 점을 보여준다. 이후 기능을 하나씩 붙여가며 동작을 완성하는 흐름을 예고한다.
10. 10:31
    자동 스키마 발견 문서 저장소에서 샘플을 읽어 스키마를 동적으로 추론하는 방법을 설명하고, enum 추정 같은 까다로운 부분도 언급한다. 모든 것을 LLM에 맡기기보다 전통적인 절차적 방법으로도 충분히 해결할 수 있음을 강조한다.
11. 12:26
    Identity 해석 GitHub의 사용자명처럼 시스템마다 다른 정체성을 서로 매핑하는 단계가 필요하다. 퍼지 매칭으로 후보를 좁히고, 필요하면 LLM을 최종 판별자로 사용해 이름 충돌을 해소한다.
12. 13:45
    질의 검증 LLM이 만든 쿼리는 신뢰할 수 없으므로 위험한 연산자, 숨겨진 필드, tenant 경계 침범 여부를 검사해야 한다. 검증 단계에서 차단된 오류는 그대로 실패시키지 않고 재시도 루프로 넘길 수 있다.
13. 15:50
    재시도 검증 실패를 포함한 오류를 다시 LLM에 넣어 스스로 수정하게 만들면 여러 번의 시도 끝에 쿼리가 완성된다. 다만 정확한 제목 일치 같은 제약만으로는 부족해 추가적인 검색 능력이 필요해진다.
14. 16:35
    전체 텍스트 검색 full-text search를 추가하면 제목 일치에만 갇히지 않고 실제로 원하는 문서를 찾을 수 있다. 이렇게 구조화된 필터, 집계, 시간 범위, 자동 수정까지 결합하면 RAG의 구조적 반쪽을 보완한 시스템이 완성된다.
15. 18:30
    컨텍스트 엔진 시뮬레이터 로컬에서 완전히 동작하는 context engine simulator를 통해 컨텍스트 번들을 만들고 같은 작업으로 A/B 테스트를 할 수 있다. 외부 연결 없이도 컨텍스트 제공의 효과를 실험할 수 있다는 점이 핵심이다.

실무 인사이트

• RAG의 한계는 의미 검색이 아니라 구조화된 질의에서 드러나므로, 문서 내용과 메타데이터를 분리해 각각 다른 검색 경로로 설계하는 것이 효과적이다.
• LLM이 쿼리를 생성하는 것보다 스키마 발견, identity 매핑, 검증, 재시도 같은 주변 로직이 더 중요하므로, 실제 제품에서는 절차적 안전장치를 먼저 설계해야 한다.
• 컨텍스트 엔진은 에이전트 성능 향상 도구이면서 동시에 사람을 위한 질의 인터페이스이기도 하므로, 비용 절감과 운영 효율을 함께 노릴 수 있다.