Agents at Scale: Inside MiniMax's Model and the Infrastructure Behind It — Dan Fu and Olive Song

한 줄 핵심

MiniMax M3와 이를 서빙하는 Together AI의 사례를 통해, 오픈 웨이트 모델은 멀티모달·장문 컨텍스트·에이전트 워크로드에 맞는 학습과 인프라 최적화가 결합될 때 빠르게 프런티어를 따라잡을 수 있음을 보여준다.

시간별 요약

1. 0:12
   MiniMax의 RL 연구와 최종 학습을 담당하는 쪽과, Together AI의 GPU 최적화·추론 서빙을 담당하는 쪽이 어떻게 역할을 나누는지 소개한다. M3는 오픈소스로 공개해 더 많은 개발자와 서빙 최적화를 끌어들이는 전략의 중심에 있다.
2. 2:00
   오픈소스 공개는 커뮤니티의 피드백과 PR을 받아 모델을 더 강하게 만들고, 서빙 최적화까지 생태계 전체가 분담하게 만든다. Together AI는 MiniMax와 협업해 M3의 구조를 이해하고, 아키텍처에 맞춘 서빙과 추론 최적화를 빠르게 붙였다.
3. 4:01
   M3는 텍스트뿐 아니라 이미지와 비디오를 이해하는 멀티모달 모델이라 컴퓨터 사용, 멀티모달 에이전트, 게임 개발 같은 활용이 두드러진다. 포스트트레이닝에서는 단순한 모델 성능보다 데이터 설계와 문제 정의가 핵심이며, kernel bench와 OS world 같은 도메인별 환경 설계가 중요하다.
4. 7:00
   새 모델이 나오면 day zero에 품질과 사용자 경험을 맞추면서, 이후에는 KV cache, attention kernel, quantization 등에서 주 단위로 성능을 끌어올린다. 특히 에이전트형·코딩형 워크로드는 긴 코드베이스와 반복적 툴 호출을 다루므로, 기존 채팅 워크로드와는 전혀 다른 추론 스택 최적화가 필요하다.
5. 11:01
   M3의 멀티모달 학습은 처음부터 텍스트와 이미지 데이터를 함께 넣어 학습했기 때문에, 시각 토큰과 텍스트 토큰이 자연스럽게 상호작용하도록 만들었다. 1M 컨텍스트, sparse attention, 12시간짜리 ICLR 재현 같은 장기 과제는 환경·보상·평가 설계가 성패를 가르며, 장기적으로는 GPU 활용도와 오픈 모델의 추격 속도가 핵심 화두로 남는다.

실무 인사이트

• 오픈 모델을 잘 키우려면 모델 공개 자체보다, 공개 직후부터 서빙·커널·캐시 최적화까지 함께 돌리는 파트너십 구조가 중요하다.
• 에이전트와 장문 컨텍스트가 늘수록 병목은 프롬프트보다 인프라로 이동하므로, KV cache 관리와 attention 커널 최적화가 실사용 성능을 좌우한다.
• 장기 RL 태스크는 모델을 잘 만드는 것보다 평가 환경을 잘 만드는 것이 더 중요하며, 중간 제출·검증·해킹 탐지가 가능한 구조가 필요하다.