Don't Vibe Code Your Agent Infrastructure - Akshat Bubna, Modal

한 줄 핵심

에이전트 인프라는 단일 컨테이너가 아니라 보안된 작업공간, 빠른 스냅샷·탄력적 자원·GPU·공유 저장소·강한 관측성을 갖춘 실행 계층으로 설계해야 하며, 이를 대충 vibe coding으로 만들면 확장성과 보안에서 무너진다.

시간별 요약

1. 0:00
   소개 에이전트가 실제로 필요로 하는 인프라가 무엇인지, 특히 실행 환경과 운영 방식의 관점에서 정리한다.
2. 0:24
   스프레드시트의 모든 셀을 에이전트가 맡는다면 각 셀마다 별도의 에이전트가 붙어 대규모 분석을 수행하는 금융용 워크플로를 예로 들며, 이런 구조를 실제로 구현하려면 단순한 호출이 아니라 정교한 실행 인프라가 필요하다.
3. 1:33
   그 아키텍처가 필요로 하는 것 에이전트용 구조는 보안된 sandbox, 하니스와 툴 실행의 분리, 공유 저장소, 그리고 수천 개의 에이전트를 빠르게 띄웠다 내릴 수 있는 스케일링 능력을 함께 요구한다.
4. 3:15
   Modal이란 무엇인가? Modal은 AI 애플리케이션을 위한 프리미티브 플랫폼으로, inference, sandbox, training, batch processing 같은 작업을 위해 자체 파일 시스템과 스케줄링, 런타임을 제공한다.
5. 4:03
   에이전트에게는 작업 공간이 필요하다 코딩 에이전트는 repo, 의존성, 개발 서비스가 한 공간에 있어야 하고, 회계 에이전트는 문서와 워크페이퍼와 스크립트가, 게임 개발 에이전트는 엔진과 에셋이 함께 있는 작업 공간이 필요하다.
6. 5:03
   지속되는 작업 공간 에이전트는 며칠 뒤에도 같은 상태로 재개할 수 있어야 하므로 루트 파일 시스템, 디렉터리 단위, volume 같은 여러 형태의 지속성이 필요하며, 계산 자원은 실제로 일할 때만 쓰는 방식이 중요하다.
7. 6:21
   탄력적인 자원이 필요한 에이전트 에이전트의 CPU·메모리 사용량은 작업에 따라 크게 출렁이므로, 피크 기준으로 과도하게 할당하기보다 필요할 때 자원을 유연하게 확보하고 사용 시간만큼만 비용을 내는 구조가 경제적이다.
8. 7:41
   GPU가 필요한 에이전트 과학 계산, 게임 디자인, 영상 편집, 3D 개발, CAD, 자기개선형 실험 등 많은 에이전트 워크로드가 GPU를 요구하며, 병렬 실험과 모델 튜닝을 빠르게 돌릴 수 있는 GPU sandbox가 핵심이 된다.
9. 9:02
   공유 파일을 통한 협업 서브에이전트와 인간이 같은 파일 시스템을 공유하며 협업하는 흐름이 커지고 있고, 메모리 업데이트나 백그라운드 작업도 결국 파일로 다뤄지므로 빠르고 일관적인 파일 시스템이 중요하다.
10. 9:57
    데이터 유출을 막는 방법 에이전트는 실수로 민감한 데이터를 외부로 흘릴 수 있으므로, 접속 가능한 IP·도메인·인증 범위를 통제하고 자격 증명은 에이전트가 직접 보지 못하게 주입해야 하며, 경우에 따라 세밀한 경로 단위 제어가 필요하다.
11. 11:20
    에이전트 관측성 실패 로그, GPU 사용량, 예산 소모, 실행 중 메트릭을 에이전트와 인간 모두가 볼 수 있어야 다음 반복과 조정이 가능하므로, 강한 observability가 에이전트 운영의 핵심이다.
12. 12:12
    sandbox 플랫폼을 vibe coding하면 안 되는 이유 sandbox 플랫폼은 신뢰성, 보안, 확장성이라는 세 가지 난제를 동시에 해결해야 하므로, 경계와 장애 상황을 끝까지 책임질 수 있는 공학적 설계 없이 대충 만들면 규모가 커질수록 깨진다.
13. 13:31
    스케일이란 어떤 모습인가 실제 운영에서는 주당 수천만 개의 snapshot과 수 PB 단위 데이터가 오가고, 개인 비서용 워크로드처럼 초당 10,000개 sandbox와 거의 100만 개 sandbox를 다뤄야 하며, 단일 클라우드가 아니라 여러 클라우드의 용량을 모아야 한다.
14. 14:54
    두뇌와 손의 분리 하니스는 판단과 계획을 담당하는 두뇌, sandbox와 runtime은 실제 작업을 수행하는 손으로 분리되어야 하며, 하니스는 필요에 따라 환경을 만들고 스냅샷으로 보존하며 유연하게 조정해야 한다.
15. 15:37
    애완동물에서 가축을 거쳐 미생물로 에이전트 인프라는 개별 서버를 애완동물처럼 다루는 시대를 넘어, 균일한 가축형 운영을 거쳐, 자율적으로 진화하고 서로 협력하는 미생물 같은 동적 시스템으로 진화하고 있다.

실무 인사이트

• 에이전트 인프라의 핵심은 모델 성능보다도 작업공간, 지속성, 자원 탄력성, 보안 경계, 관측성을 얼마나 잘 분리해 설계하느냐에 있다.
• 실무에서는 에이전트가 자율적으로 오래 일할수록 '무엇을 할 수 있는가'보다 '무엇을 절대 못 하게 할 것인가'를 먼저 정의하는 편이 안전하다.
• 초기에는 단순한 sandbox로 시작하더라도, 스냅샷·공유 저장소·세밀한 네트워크 제어·실행 로그 노출까지 바로 확장 가능한 구조로 잡아야 나중에 규모를 감당할 수 있다.