RLM: Recursive Language Models for Large Codebases - Shashi, Superagentic AI

한 줄 핵심

대규모 코드베이스에서 성능이 무너지는 문제를 해결하려면 모델 안에 모든 컨텍스트를 넣기보다, RLM처럼 별도 실행 환경이 컨텍스트를 수집·요약·재주입하는 하네스를 설계하는 것이 핵심이다.

시간별 요약

1. 0:00
   이 영상은 RLM(Recursive Language Models)을 대규모 코드베이스에 적용하는 방법을 다루며, 작은 저장소에서는 잘 작동하는 코딩 에이전트가 큰 모노레포에서는 컨텍스트 문제로 성능이 떨어진다는 문제의식에서 출발한다. 검색, 의미 검색, 압축 요약, 메모리 같은 기존 접근을 소개한 뒤, 이 문제를 구조적으로 푸는 대안으로 RLM을 제시한다.
2. 2:01
   RLM의 핵심은 컨텍스트 관리를 모델 밖의 프로그래머블 실행 환경으로 외부화하는 것이다. 저장소 전체를 데이터처럼 다루게 하고, 모델이 코드로 필요한 슬라이스를 검사·추출·계산해 메인 컨텍스트 윈도우에 넣을 값을 직접 만들어내게 하면, 단순한 입력 확장보다 더 안정적인 컨텍스트 관리가 가능해진다.
3. 4:00
   이 구조는 대규모 코드베이스를 처음 맡은 시니어 엔지니어의 작업 방식과 비슷하다. 전체를 한 줄씩 읽기보다 구조를 파악하고, 의존성과 문서를 확인하고, 막히면 다른 전문가에게 질문해 노트를 정리하듯, RLM도 코드·문서·설정파일을 대상으로 탐색과 질의를 반복해 최종적인 정리 결과를 만든다.
4. 6:01
   RLM은 특정 프레임워크가 아니라 패턴이며, RLM code는 이를 보여주기 위한 참고 구현이다. 로컬 모델이나 클라우드 모델 모두에 붙일 수 있고, 관측성 프레임워크와도 연동할 수 있으며, 실제 데모에서는 샌드박스 안에서 Python ripple 코드가 컨텍스트를 수집하고 LLM query가 추가 정보를 받아오는 흐름을 확인한다.
5. 10:01
   데모에서는 Docker 샌드박스 안에서 실행된 RLM 코드가 ripple 코드를 작성하고, evidence를 만들고, LLM query를 호출한 뒤 최종 답변을 내놓는 과정이 추적된다. 실행 횟수, 토큰 사용량, 세션과 trajectory, JSONL 형태의 로그까지 남기기 때문에, 대규모 코드 분석이나 온보딩, 루트코즈 분석용 하네스로 실무에 바로 응용할 수 있다.

실무 인사이트

• 대규모 저장소에서 에이전트 성능이 흔들리면 프롬프트를 더 늘리기보다, 컨텍스트를 추출·압축·재주입하는 별도 하네스를 먼저 설계하는 것이 효과적이다.
• RLM 방식은 답을 바로 생성하는 것보다, 어떤 파일을 보고 어떤 근거를 모았는지까지 남겨야 하는 코드 리뷰·온보딩·장애 분석 업무에 특히 잘 맞는다.
• 실무 적용 시에는 최대 step, recursion depth, 예산, 로그 포맷을 함께 설계해야 하며, 그래야 재현성과 관측성이 확보된다.