에이전트에 권한을 다 열어두면 어떻게 뚫리는지 보안 전문가가 직접 보여줍니다 (스틸리언 심재빈님)

한 줄 핵심

에이전트와 AI 서비스를 안전하게 쓰려면, 전통적인 보안 원칙처럼 권한을 최소화하고 민감정보를 분리하며, 프롬프트 인젝션·시스템 프롬프트 유출·하드코딩 키 같은 위험을 처음부터 설계 단계에서 막아야 한다.

시간별 요약

1. 0:00
   도입부에서는 에이전트가 시스템 프롬프트나 비밀 정보를 그대로 노출할 수 있는 간단한 예시가 제시되며, AI 보안은 새로운 개념이 아니라 익숙한 보안 원칙을 새로운 환경에 적용하는 일이라는 관점이 정리된다.
2. 4:00
   RAG를 온프레미스와 로컬 모델로 구성해 회사 밖으로 데이터가 나가지 않게 만든 사례를 통해, 보안을 이유로 로컬 AI를 선택하는 흐름과 권한별 문서 접근 통제의 필요성이 설명된다.
3. 9:00
   SQL 인젝션과 프롬프트 인젝션, 사회공학적 해킹과 제일브레이크를 대응시키며, 직접 인젝션과 간접 인젝션의 차이, 그리고 위험한 내용을 막는 것과 위험한 행동을 막는 것의 방어 방식 차이가 정리된다.
4. 21:00
   배포된 앱에서 하드코딩된 API 키가 그대로 추출되는 예시와, 시스템 프롬프트에 비밀 정보를 넣으면 그대로 유출될 수 있다는 데모를 통해, 민감정보는 애초에 프롬프트나 코드에 넣지 않는 것이 핵심 원칙임을 보여준다.
5. 27:00
   멀티 에이전트 서비스 설계 예시에서는 매니저 에이전트만 쓰기 권한을 갖고 서브 에이전트는 읽기 전용으로 제한하며, 승인 게이트·감시 에이전트·상세 로깅을 통해 권한 남용과 이상행동을 줄이는 구조가 제안된다.
6. 34:00
   Claude의 프로젝트·커넥터·스킬을 맥락 유지, 외부 도구 연결, 규칙 템플릿으로 설명하며, 업무에 넣어도 되는 정보인지 먼저 판단하고 감처리 스크립트나 보안 스킬을 함께 쓰는 실무적 활용법이 정리된다.

실무 인사이트

• 에이전트 도입 전에는 '무엇을 할 수 있는가'보다 '무엇을 절대 못 하게 할 것인가'를 먼저 정의해야 한다.
• 읽기 권한은 넓게 주더라도 쓰기·결제·전송 같은 되돌릴 수 없는 행동은 승인 게이트로 분리하는 편이 안전하다.
• 민감정보 유출은 모델만의 문제가 아니라 권한 설계, 로깅, 입력 데이터 정제, 하드코딩 제거까지 포함한 전체 구조 문제로 봐야 한다.