Parsing the Epstein Files for JMail — Palak Agarwal & Omar Alhait, Reducto

한 줄 핵심

Reducto가 복잡한 비정형 문서를 파싱·추출·검열하는 플랫폼이며, JMail 사례를 통해 스키마 설계와 OCR 파이프라인을 잘 만들면 대규모 문서도 실무적으로 처리할 수 있음을 보여준다.

시간별 요약

1. 0:00
   문서 처리와 Reducto Reducto는 스캔본, 회전된 문서, 차트 같은 복잡한 비정형 문서를 AI가 쓸 수 있는 데이터로 바꾸는 문서 플랫폼이다. 문서를 인간처럼 래스터화해 보고, 불확실한 부분을 스스로 점검하는 agentic OCR 방식으로 파싱·분할·추출·편집·분류를 제공한다.
2. 2:02
   JMail 사례 JMail는 Epstein files 공개를 계기로 만들어진 가짜 Gmail 포크 제품군이며, Reducto는 그 안의 300만 페이지가 넘는 redacted PDF와 스캔 문서를 파싱했다. 복잡한 양식, 표, 손글씨까지 섞여 있어 단순한 문서 처리보다 훨씬 어려운 실제 사례로 제시된다.
3. 3:10
   파싱의 난제 문서의 레이아웃과 읽는 순서가 모호하면 ChatGPT 같은 범용 모델에 바로 넣어도 정확한 결과를 얻기 어렵다. 이 병목을 해결해야 이후의 제품 기능을 만들 수 있으므로, 먼저 문서를 안정적으로 해석하는 파이프라인이 필요하다.
4. 5:27
   JFlights와 손글씨 로그 JFlights 사례에서는 비행 기록을 모으는 데 손글씨 문서가 가장 큰 장애물이었다. 같은 추출 스키마라도 문서 유형에 맞춰 별도로 구성해야 하며, 손글씨처럼 품질이 낮은 입력은 더 세밀한 파싱 설정이 필요하다.
5. 6:35
   추출을 설정하고 검토하기 사용자는 어떤 문서든 넣고 실행하면서 실시간으로 결과를 확인할 수 있고, 이 과정에서 빨간 가림표시나 다양한 예외 사례를 바로 점검할 수 있다. 대량 처리 전에 스튜디오에서 결과를 눈으로 검증해 추출 정확도를 가늠하는 흐름이 중요하다.
6. 7:41
   문서 파이프라인의 확장 초기 문서 묶음을 빠르게 처리해 기준 데이터를 만든 뒤에는 이를 바탕으로 여러 제품을 파생할 수 있다. 다만 대규모 일괄 파싱은 인프라에 부담을 주므로, 속도와 안정성을 함께 고려해야 한다.
7. 9:07
   API 파이프라인 배포 핵심은 스키마를 만들고 결과를 확인한 뒤 곧바로 배포해 API 호출이나 재사용 가능한 파이프라인 코드로 연결하는 것이다. 문서를 넣자마자 시각화하고 곧바로 프로덕션화할 수 있는 점이 제품화의 출발점이다.
8. 10:14
   이력서 스키마 생성 추출 스키마는 캔버스의 붓처럼 결과를 결정하는 중심 요소이며, 예시로 résumé를 위한 새 extract pipeline이 만들어진다. 사용자는 스키마가 원하는 정보를 제대로 담는지 확인하면서 문서를 넣고 결과를 반복 검토할 수 있다.
9. 12:38
   문서 내용으로부터 유도된 스키마 기본 스키마 생성은 요청 문장만 보고 JSON schema를 만드는 방식이지만, 강화된 스키마 생성은 먼저 문서를 파싱한 뒤 그 내용에 맞게 스키마 설명을 조정한다. 문서 맥락이 복잡하거나 세부 차이가 중요할수록 먼저 파싱하고 그 결과를 반영하는 편이 낫다.
10. 13:48
    검열과 PDF 메타데이터 Reducto는 PDF 본문뿐 아니라 메타데이터도 함께 처리하며, 단순히 박스를 씌운다고 진짜 검열이 끝나는 것은 아니다. 잘못된 redaction은 민감한 정보를 드러낼 수 있으므로, 검열 여부를 책임 있게 재검증하는 과정이 필수다.
11. 15:34
    중첩 스키마와 인용 필드가 수백 개에 달하는 복잡한 스키마도 다룰 수 있고, 중첩은 대체로 4~5층 수준까지 허용된다. 추출 결과를 어느 문서의 어느 위치에서 가져왔는지 연결하는 citation 모델과 후처리도 중요한 기능으로 언급된다.
12. 17:41
    그림과 하이브리드 OCR 이미지가 포함된 문서에서는 figure 모델과 hybrid OCR 설정을 통해 무엇을 우선 추출할지 정한다. 경우에 따라 순수 OCR 데이터, PDF 메타데이터, 그림 정보를 다르게 조합해야 하며, 이는 별도 설명이 필요할 만큼 복합적인 문제다.
13. 19:23
    파싱이 모든 기능의 기반 추출은 먼저 parse 결과를 만든 뒤 이를 downstream 파이프라인에 넣는 구조이며, parse가 Reducto의 출발점이다. 문서를 구간별로 나누거나 장별 요약을 만드는 등 다른 기능도 모두 이 파싱 결과 위에서 작동한다.
14. 21:30
    벤치마크와 실전 평가 문서 추출 품질은 공개 지표만으로 판단하기 어렵기 때문에, 고객별로 자체 벤치마크를 만들어 비교하는 경우가 많다. 작은 데이터셋으로 눈으로 확인한 뒤, 문서 수를 100개·1000개로 늘리며 시스템적으로 평가하는 방식이 실용적이다.
15. 23:44
    제품 설계와 학습 데이터 문서 추출 기능 위에 얹는 제품은 단순한 RAG 챗봇보다도, 검색하고 재사용하기 쉬운 인터페이스를 제공할 때 더 가치가 커진다. 모델 성능 뒤에는 결국 데이터 라벨링과 정제라는 반복 작업이 필요하며, 그 품질이 학습 결과를 좌우한다.
16. 26:12
    문서 설정 맞춤화 문서 종류와 메타데이터 형식이 다르면 모델과 프롬프트도 다르게 맞춰야 한다. 특히 복잡한 그림 추출이나 건설 도면처럼 읽기 어려운 레이아웃은 prompt를 세밀하게 조정해 원하는 출력 형식에 맞추는 것이 중요하다.
17. 27:59
    인터랙티브 실습 안내 참가자들은 studio에 접속해 QR 코드로 받은 내용을 Claude Code나 Codex 같은 도구에 붙여 넣고 문서 추출 실습을 해볼 수 있다. 남은 시간 동안 직접 결과를 만들어 보고, 마지막에는 질문과 스와그·상품도 받을 수 있는 실습형 세션으로 마무리된다.

실무 인사이트

• 문서 AI 제품은 모델 자체보다도 파싱·스키마·후처리·검열 검증을 묶은 전체 파이프라인 설계가 성능을 좌우하므로, 먼저 입력 문서의 구조를 안정적으로 표준화하는 데 투자해야 한다.
• 복잡한 문서 작업은 한 번에 자동화하기보다 작은 표본으로 스튜디오 검증 → 자체 벤치마크 구축 → 대량 확장 순서로 가는 것이 실전에서 실패를 줄인다.
• 민감 문서나 손글씨·스캔본이 많은 환경에서는 메타데이터와 redaction까지 포함한 품질 통제가 필요하므로, 단순 OCR 정확도보다 end-to-end 신뢰성을 기준으로 설계해야 한다.