300 Agents, 60 People: How We Secured Our Own AI Agents - Aiden Sochowski, Runlayer

한 줄 핵심

회사 내부의 에이전트가 늘어날수록 보안·비용 리스크가 급격히 커지므로, 세션 단위 모니터링과 위험 기반 스코핑으로 통제해야 한다는 점을 실전 사례로 보여주는 영상이다.

시간별 요약

1. 0:00
   소개 Runlayer 내부에서 수많은 에이전트를 어떻게 보안 관점에서 정리하고 통제했는지 전체 접근법을 소개한다.
2. 0:25
   회사 에이전트의 가시성 부재 많은 회사가 로컬 MCP 클라이언트와 외부 에이전트를 무분별하게 연결하면서 실제로 무엇이 실행되는지 파악하지 못한다. 이를 해결하려면 게이트웨이와 중앙 로깅으로 세션과 툴 호출을 모두 수집해 관찰 가능성을 확보해야 한다.
3. 1:22
   60명에 300개 에이전트 사람 수보다 에이전트 수가 훨씬 많은 현실에서, 각 에이전트는 주제와 위험도 기준으로 분류해야 한다. 툴이 많고 연결 시스템이 복잡할수록 공격 표면이 넓어지며, 데이터 혼합과 오남용 위험도 함께 커진다.
4. 3:38
   이메일을 통한 데이터 유출 예시 악성 이메일 입력만으로도 권한이 과한 에이전트가 고객 정보나 영업 관련 데이터를 외부로 흘릴 수 있다. 이를 막기 위해서는 단순 차단이 아니라 입력·출력, 데이터 소스, 문맥에 따라 다른 정책을 적용해야 하며, 실제 운영에서는 그 정교한 규칙 설계가 어렵다.
5. 6:16
   하나의 세션 전체에 걸쳐 전개되는 공격 공격은 단일 툴 호출이 아니라 세션 전체에 걸쳐 에이전트의 의도를 서서히 흔드는 방식으로도 발생한다. PR 리뷰나 승인처럼 민감한 작업에서는 각 세션의 흐름과 의도 일치 여부를 계속 검사해야 하며, 이를 위해 세션 단위 분류 모델이 필요하다.
6. 8:50
   세션 데이터를 이용한 권한 축소 잘 정의된 태스크의 세션 데이터는 에이전트가 실제로 어디까지 필요한지 판단하는 고신호 자료가 된다. 과거 툴 호출 패턴을 분석하면 ATS 접근 같은 과도한 권한을 찾아내고, 필요 없는 접근을 단계적으로 줄일 수 있다.
7. 10:56
   오염된 한 에이전트가 전체에 미치는 영향 한 에이전트가 악성 입력을 읽거나 잘못된 데이터를 쓰면, 같은 시스템을 공유하는 다른 에이전트까지 연쇄적으로 위험해질 수 있다. 그래서 쓰기 권한과 데이터 흐름을 매우 좁게 제한해 컨텍스트가 오염되지 않도록 해야 한다.
8. 12:47
   보안을 넘어선 고장 난 MCP 서버 잘못 구현된 MCP 서버는 에러를 반복 발생시키며 토큰 비용과 실행 시간을 크게 늘린다. 그래서 보안뿐 아니라 에러율, 코드 품질, rate limiting까지 함께 모니터링해야 비용 폭증을 막을 수 있다.
9. 14:08
   모델 전환으로 인한 비용 폭증 처음에는 저렴한 모델로 시작해도 어느 순간 더 비싼 모델로 바뀌면 비용이 단기간에 100배 이상 뛸 수 있다. 예산, 기본값, 모델 선택 기준을 명확히 두지 않으면 기업 환경에서는 비용 정당화가 거의 불가능해진다.
10. 15:36
    마무리 에이전트를 무조건 막는 대신, 위험도가 높은 지점을 정확히 찾아 모니터링하고 개입하는 체계가 핵심이다. 보안과 비용 모두 결국 관측 가능성, 정책, 통제 수단을 갖추는 문제로 귀결된다.

실무 인사이트

• 에이전트 보안은 모델 성능보다 세션 단위 관찰과 정책 집행이 먼저다.
• 권한을 한 번에 넓게 주기보다 실제 사용 패턴을 보고 점진적으로 줄이는 방식이 운영에 더 적합하다.
• 보안 사고와 비용 폭증은 같은 원인에서 비롯되므로, 에러·권한·모델 선택을 하나의 운영 체계로 함께 관리해야 한다.