Vector Isn't Enough: Hybrid Search & Retrieval — Jeff Vestal & James Williams, Elastic

한 줄 핵심

이 영상은 Elastic에서 벡터 검색과 BM25를 결합한 하이브리드 검색이 에이전트와 RAG의 핵심 검색층이며, 성능·정확도·지연 시간을 균형 있게 설계하는 방법을 실습으로 익히게 해주는 워크숍이다.

시간별 요약

1. 0:00
   Jeff, James, 그리고 워크숍 환경 워크숍 진행 방식과 실행 환경, 실습 자료 위치를 안내한다. 참가자는 Elastic Search 기반의 서버리스 환경을 띄운 뒤 콘솔과 노트북을 오가며 실습하게 된다.
2. 2:04
   에이전트에게도 검색은 여전히 중요하다 모델이 똑똑해져도 최신 정보, 사내 정보, 가격 같은 외부 지식은 여전히 검색으로 보완해야 한다. 잘못된 데이터를 넣으면 모델은 그럴듯하게 틀린 답을 내놓기 때문에 검색 품질이 에이전트 성능을 좌우한다.
3. 3:14
   벡터·렉시컬·하이브리드 실습 구성 실습은 벡터 검색, BM25 기반 렉시컬 검색, 두 방식을 합친 하이브리드 검색의 강점과 한계를 순서대로 다룬다. 마지막에는 Agent Builder와 reranker까지 연결해, 검색 품질이 최종 답변에 미치는 영향을 확인한다.
4. 6:35
   Elasticsearch 내부에서의 추론 벡터 DB 영역에서도 임베딩 생성과 추론을 데이터 플랫폼 내부에서 처리하는 흐름이 중요해졌다고 설명한다. Elastic Inference Service가 워크숍에서 쓰이는 모델을 구동하며, 새로운 모델 기능이 Elastic Search 안으로 들어왔다.
5. 7:43
   청킹과 semantic text semantic text 필드는 문서를 자동으로 청킹해 저장하고 검색에 활용한다. 기본은 문장 경계 기준이며, 필요에 따라 단어·문단·페이지 단위로 바꿀 수 있고, 큰 컨텍스트 윈도우를 전부 채우지 않는 쪽이 실용적이다.
6. 12:02
   하이브리드 검색의 핵심 논지 BM25 같은 전통적 렉시컬 검색과 dense vector 검색은 함께 써야 하며, 그것이 현재 Elastic이 보는 핵심 전략이다. 한 번의 API 호출로 청킹부터 실시간 검색까지 처리할 수 있어 대규모·저지연·고정확도 시나리오에 유리하다.
7. 14:24
   임베딩과 의미 기반 검색 문서 생성 시점과 질의 시점에 같은 임베딩 모델을 써야 의미가 일치한다. Elastic은 필드 자체에 모델 ID를 묶어 관리 복잡도를 줄이고, HNSW를 이용해 의미적으로 가까운 문서를 빠르게 찾는다.
8. 17:08
   정확한 식별자가 벡터 검색을 깨는 지점 제품 ID처럼 매우 구체적이고 비의미적인 식별자는 semantic search가 잘 맞지 않는다. 이런 경우에는 BM25, 키워드 필터링, 전통적 검색 기법을 결합해야 검색 품질이 안정된다.
9. 18:06
   페이지네이션과 문서 요약 검색 결과를 한 번에 모두 다시 계산하지 않고 이어서 가져오는 point in time 방식의 페이지네이션을 설명한다. 워크숍의 summary 필드는 가독성을 위해 생성한 것이지만, ingest pipeline에서 요약이나 질의 후보 추출을 자동화할 수도 있다.
10. 19:56
    양자화와 벡터 효율성 HNSW를 더 효율적으로 만들기 위해 int8 quantization, BBQ, disk BBQ 같은 기법을 사용한다. 메모리 오버헤드를 줄이면서도 recall을 유지하려는 방향으로 벡터 검색이 최적화되고 있다.
11. 21:23
    그래프 검색에 대한 질문 Elastic은 그래프 DB가 아니며, 대규모 벡터 검색에서는 일반적으로 그래프 구조가 필수는 아니라고 본다. 대신 분류 모델이나 NER 같은 ML 기능으로 일부 그래프 유사 문제를 해결할 수 있다.
12. 26:07
    Reciprocal Rank Fusion 제어 RRF는 하이브리드 검색에서 자주 쓰는 결합 방식이며, 랭크 상수 같은 조정 포인트가 있다. 세부 노출 수준은 제한적일 수 있지만, 기본적으로는 결과 순위를 결합하는 안전한 출발점이다.
13. 27:38
    관련성과 지연 시간의 절충 작은 코퍼스라면 먼저 BM25와 semantic search 조합으로 목표 recall과 precision을 맞추고, 그 다음에만 추가 계층을 얹는 것이 좋다. reranker는 정확도를 올릴 수 있지만 항상 추가 지연을 감수해야 한다.
14. 29:17
    렉시컬 검색의 강점과 한계 Elastic이 오랫동안 다뤄온 렉시컬 검색은 여전히 빠르고 세밀한 튜닝이 가능하다. 다만 특정 키워드나 구문을 벗어나면 약해지고, 의미 기반 검색과 조합할 때 가장 효과적이다.
15. 30:39
    추론과 엔드투엔드 지연 시간 semantic search는 추론 엔드포인트 호출이 들어가므로, 실제 병목은 벡터 저장소보다 추론 속도인 경우가 많다. 그래서 검색 시스템은 데이터 플랫폼 내부에 추론을 통합해 전체 지연 시간을 관리하는 방향으로 가고 있다.
16. 33:52
    가중치 조정과 미래 자동화 이상적으로는 클릭, thumbs up/down, 비즈니스 지표 같은 텔레메트리를 바탕으로 검색 가중치를 자동 조정해야 한다. 현재는 아직 완전한 자동화가 없지만, 질의 유형에 따라 필터나 검색 전략을 바꾸는 접근이 실용적이다.
17. 37:00
    RRF로 순위 결합하기 BM25와 벡터 검색은 점수 스케일이 달라 단순 합산이 어렵기 때문에 RRF 같은 순위 결합이 유용하다. 결과 순위를 기준으로 합치면 구현이 단순하고, 데이터 특성을 잘 모를 때도 안정적으로 시작할 수 있다.
18. 39:40
    후보군 필터링 날짜, 위치, 키워드 같은 필터로 후보군을 줄이면 검색 품질이 더 좋아진다. 전체를 넓게 훑기보다 먼저 좁힌 뒤 검색해야 정확도와 효율이 함께 올라간다.
19. 40:37
    선형 결합을 위한 점수 정규화 선형 결합은 서로 다른 점수 범위를 0~1로 정규화한 뒤 가중치를 섞는 방식이다. RRF보다 조정이 더 필요하지만, 데이터와 질의 특성에 맞춰 세밀한 튜닝이 가능하다.
20. 41:05
    판정 집합과 실험 정답에 해당하는 문서 집합을 미리 정의한 뒤 여러 가중치 조합을 실험해 최적값을 찾는다. 사람의 판정이나 LLM 보조 판정을 활용해 relevance tuning을 검증하는 흐름이다.
21. 41:52
    검색 템플릿으로 질의 라우팅 질의 유형에 따라 RRF, 선형 결합, reranker 조합 같은 서로 다른 검색 템플릿으로 라우팅할 수 있다. 이것은 질의 특성에 맞춰 검색 전략을 바꾸는 실용적인 자동 조정 방식이다.
22. 44:13
    검색 품질과 모델 답변 LLM은 외부 지식이 없으면 그럴듯하게 틀린 답을 만들 수 있으므로, retrieval 품질이 에이전트 답변의 품질을 좌우한다. 잘못된 문서를 넣으면 모델은 자신 있게 잘못된 결론을 낸다.
23. 45:32
    Agent Builder와 워크플로 Elastic의 Agent Builder는 툴, 스킬, 워크플로를 조합해 에이전트를 구성할 수 있는 플랫폼이다. 단순 검색을 넘어서 외부 시스템 호출, 자동화 작업, 운영 대응까지 확장 가능하다.
24. 47:31
    애플리케이션에서 에이전트 API 재사용 Agent Builder에서 만든 UI와 기능은 API로도 제공되어 커스텀 애플리케이션에 그대로 재사용할 수 있다. 프로토타입과 운영 앱 사이의 재작업을 줄이고, 다른 프레임워크와도 유연하게 연동할 수 있다.
25. 50:16
    검증 가능한 출처가 있는 답변 모델이 답을 생성할 때 출처를 함께 제시하면 신뢰성과 감사 가능성이 높아진다. 특히 법률이나 규정처럼 근거가 중요한 영역에서는 citation이 실무적 가치가 크다.
26. 53:14
    스킬과 검색 도구 스킬은 모델이나 에이전트가 특정 작업을 수행하는 방식을 안내하는 지침이다. 도구는 실제로 검색, 워크플로 실행, 외부 서비스 호출 같은 행동을 수행하며, 둘을 조합해 에이전트의 행동 범위를 넓힌다.
27. 55:23
    ES|QL과 인덱스 검색 ES|QL은 파이프 형태로 이어지는 SQL 유사 질의 언어이며, 에이전트 검색에 적합하다. 인덱스 검색 도구는 스키마와 용도를 설명해 에이전트가 불필요한 탐색을 줄이고 더 빨리 정확한 질의로 수렴하게 돕는다.
28. 57:57
    exit code 137 진단 에이전트가 여러 번의 루프를 돌며 137 종료 코드의 원인과 JVM 설정 수정 방법을 찾아낸다. 문제 설명, 원인 파악, 해결책 제시를 순차적으로 수행하는 에이전틱 디버깅 예시다.
29. 59:21
    에이전틱 검색을 위한 ES|QL ES|QL은 검색 로직을 빠르게 프로토타이핑하고 디버깅하기 좋은 도구다. 파라미터화와 MCP 연동이 잘 맞아, 에이전트 기반 검색에서 유용한 실행 경로를 제공한다.
30. 1:03:35
    결과와 인용문 검토 검색과 답변의 감사 추적이 가능하도록 결과와 출처를 함께 확인할 수 있다. Discover 화면에서 실제 반환 문서를 열어보며 왜 그 답이 나왔는지 추적하는 흐름을 보여준다.
31. 1:05:28
    2단계로서의 reranking reranking은 1차 검색으로 좁힌 후보군에 대해 질의와 문서를 함께 다시 평가하는 2단계 검색이다. 전체 코퍼스를 다시 계산하지 않고 소수 후보만 재정렬해 정확도를 높인다.
32. 1:08:18
    reranking이 가치 있는 시점 판단 정확한 순서가 중요하고 약간의 추가 지연을 감수할 수 있을 때 reranker가 특히 유용하다. 에이전트가 첫 몇 개 후보에 크게 의존하는 상황일수록 reranking의 효과가 크다.
33. 1:09:59
    포인트와 리스트 방식 reranker 포인트 방식은 각 후보를 독립적으로 점수화하고, 리스트 방식은 후보 집합 전체를 함께 보며 순서를 조정한다. 후보들이 서로 비슷할수록 리스트 방식이 미묘한 차이를 더 잘 잡아낸다.
34. 1:12:08
    검색과 reranking 함께 실행하기 retriever나 SQL 호출 안에서 검색과 reranking을 한 번에 실행할 수 있어 운영이 단순해진다. 추론 설정과 검색 호출을 따로 관리하지 않아도 되어 개발과 유지보수가 쉬워진다.
35. 1:13:06
    워크숍 자료와 마무리 워크숍 링크, 코드 저장소, 다른 무료 실습 자료들이 정리되어 있다. 검색, 관측성, 보안 등 다른 주제의 실습도 함께 제공되며, 참가자 피드백으로 다음 개선이 이어진다.

실무 인사이트

• 실무에서는 벡터 검색 단독보다 BM25 필터링과 결합한 하이브리드 검색을 기본값으로 두고, 정확도나 순서 민감도가 높을 때만 reranker를 추가하는 구성이 가장 안전하다.
• 에이전트 검색의 성능 문제는 모델보다 추론 지연과 후보군 크기에서 더 자주 발생하므로, 청킹·필터링·후보 축소를 먼저 최적화해야 한다.
• 출처 표시와 검색 템플릿 라우팅을 함께 넣으면, 에이전트 답변의 신뢰도와 디버깅 가능성을 동시에 높일 수 있다.