Agentic Security: Permissions, Provenance, and the Agent Supply Chain — Steve Yegge, Gas Town

한 줄 핵심

AI가 코드를 10배 더 빨리 만들수록 취약점과 공격면도 함께 폭증하므로, 개발·배포·에이전트 실행 전 구간에 보안 점검을 여러 패스로 강제해야 한다.

시간별 요약

1. 0:01
   LLM이 코드를 빠르게 생성하는 시대에는 기존의 XSS 같은 오래된 취약점뿐 아니라 slop squatting처럼 새롭고 정교한 공격면도 함께 늘어난다. 따라서 보안은 나중에 붙이는 검토가 아니라, 처음부터 개발 흐름에 내장해야 한다.
2. 5:01
   버그는 발견 시점이 늦어질수록 수정 의지가 급격히 떨어지지만, 보안 취약점은 시간이 지나도 위험이 사라지지 않고 누적된다. 그래서 개발자 손끝과 LLM의 작업 흐름 안에서 즉시 경고를 보여주는 방식이 가장 중요하다.
3. 8:00
   LLM은 한 번에 한 가지 일을 잘하므로 정확성, 보안, 성능, 코딩 표준을 한 번에 요구하면 모두 어중간해진다. 보안 점검은 별도 패스로 분리하고, 여러 번 반복 검토하는 'rule of five' 같은 다중 패스 운영이 현실적이다.
4. 10:01
   LLM이 도구 사용을 선호한다는 점을 이용해 sneak, chain guard 같은 보안 도구를 워크플로에 붙이면 코드, 의존성, 공급망을 함께 점검할 수 있다. 특히 공급망과 의존성은 LLM이 생성한 코드 못지않게 중요한 공격 경로이므로 사전 검증이 필요하다.
5. 14:01
   앞으로는 코드 생성뿐 아니라 에이전트가 실제로 권한을 가지고 행동하는 환경에서 과권한, 프롬프트 인젝션, 가족을 사칭한 음성·영상 사기까지 대비해야 한다. 에이전트 보안은 아직 초기지만, 조직은 지금부터 권한 분리와 감독 구조를 설계해야 한다.
6. 19:00
   에이전트가 24/7로 큐를 처리하고 외부 액션을 수행하는 순간부터는 단일 에이전트보다 감독자와 적대적 검증 구조가 필요하다. 서비스 계정 권한을 최소화하고, 누가 에이전트의 어깨너머를 감시할지까지 포함해 내부 설계를 선행해야 한다.

실무 인사이트

• AI 코딩 보안은 '코드 생성 후 스캔'이 아니라 '생성 중 즉시 경고 + 생성 후 다중 패스 검증'으로 바꿔야 효과적이다.
• 에이전트 도입 시 가장 먼저 해야 할 일은 기능 개발이 아니라 권한 분리, 공급망 검증, 프롬프트 인젝션 대응 기준을 정하는 것이다.
• 조직 차원에서는 개발자 교육만으로 부족하므로, 에이전트 보안 담당 역할과 운영 절차를 별도로 만들어야 한다.