AI Hackers Are Faster Than Your Pen Test — Eli Cohen, Snyk

한 줄 핵심

AI가 코드를 훨씬 더 많이, 더 빠르게 만들어내는 동시에 공격자도 같은 도구를 쓰기 때문에, 기존의 연 1~3회 보안 점검만으로는 부족하고 PR 단위로 지속적으로 공격형 보안을 돌려야 한다.

시간별 요약

1. 0:00
   소개 발표 주제는 지속적인 공격형 보안이며, 개발자와 보안 담당자 모두를 대상으로 AI 에이전트와 생산 환경을 안전하게 운영하는 방법을 다룬다.
2. 1:37
   그 어느 때보다 많은 코드 개발자당 생성되는 코드가 218% 늘었고 85% 이상이 코딩 에이전트를 사용하면서, 소프트웨어 생산량 자체가 이전과 비교할 수 없을 정도로 커졌다.
3. 2:22
   AI가 만든 코드는 대체로 안전하지 않다 LLM이 생성한 출력의 62%가 안전하지 않거나 깨져 있어, 더 많은 코드가 더 짧은 시간에 취약한 상태로 프로덕션에 들어가는 문제가 커지고 있다.
4. 3:07
   공격자도 AI를 사용한다 공격자 역시 LLM을 활용해 낮은 심각도의 취약점을 연결해 치명적인 공격으로 만들고, 애플리케이션 문맥이 중요한 영역을 집중적으로 노린다.
5. 4:12
   AI 공격은 분 단위로 진행된다 AI 공격의 평균 성공 시간은 24~34분이며 최단 4분까지 줄어들었고, MCP 서버의 43%가 취약하다는 점이 위협의 속도를 보여준다.
6. 5:31
   전통적 보안이 따라가지 못하는 이유 정적 분석, 동적 분석, 침투 테스트는 각자 장점이 있지만, 지금처럼 계속 빨라지는 공격 속도와 복잡한 비즈니스 로직에는 충분하지 않다.
7. 5:46
   정적 스캐닝 SAST SAST는 SQL injection이나 cross-site scripting처럼 코드 자체에서 찾을 수 있는 문제를 저렴하게 반복 검사하는 데 강하지만, 런타임에서만 드러나는 문제는 잡지 못한다.
8. 6:16
   동적 테스트 DAST와 인가 버그 DAST는 애플리케이션을 실제로 띄운 상태에서 payload를 보내며 authorization 문제를 찾을 수 있고, BOLA 같은 문제는 정적 분석만으로는 발견하기 어렵다.
9. 7:11
   침투 테스트는 훌륭하지만 느리고 비싸다 사람이 비즈니스 로직을 이해하며 수행하는 침투 테스트는 가장 강력하지만, 비용이 높고 연 1~3회 수준으로만 가능해 지속적인 공격에 대응하기 어렵다.
10. 9:16
    지속적 공격형 보안 새로운 접근은 AI 침투 테스트, red teaming, 동적 테스트를 하나의 보안 스위트로 묶어 24/7로 계속 돌리는 방식이다.
11. 9:56
    에이전트 red teaming multi-step 공격을 모사해 prompt injection, data exfiltration, goal hijacking을 시험하고, 동적 테스트와 결합해 실제 공격 시나리오를 넓게 커버한다.
12. 10:46
    모든 PR에서 AI 침투 테스트 침투 테스트를 연 단위가 아니라 모든 PR과 코드 변경마다 실행해, 개발자가 바로 수정할 수 있는 형태로 피드백을 주는 것이 핵심이다.
13. 12:21
    작동 방식: 오케스트레이터와 정찰 중앙 오케스트레이터가 전체 계획을 세우고, 정찰 에이전트가 네트워크 엔드포인트와 API, 지문 정보를 모아 공격 구조를 만든 뒤 다음 단계로 넘긴다.
14. 13:16
    취약점 탐색 에이전트 전용 에이전트들이 알려진 취약점 유형과 실제 세계의 취약점을 동시에 찾아, 애플리케이션이 어디서 어떻게 깨지는지 탐색한다.
15. 13:41
    익스플로잇 입증과 오탐 감소 발견된 취약점은 판별 단계로 넘어가 실제로 악용 가능한지 확인하며, 이를 통해 false positive를 줄이고 인지 부담을 낮춘다.
16. 14:11
    수정 권고와 보고 발견만으로 끝내지 않고 바로 수정 가능한 형태의 권고를 제공하고, 이후 보고까지 연결해야 보안 결과가 실제 개선으로 이어진다.
17. 14:51
    문맥이 전부다 LLM의 성능은 입력되는 문맥의 질에 달려 있으므로, 정적 스캐너와 동적 스캐너, 다른 에이전트의 결과를 함께 넣어 어디를 봐야 하는지 더 정교하게 안내해야 한다.
18. 15:46
    스캐너와 침투 테스트를 함께 써야 한다 cross-site scripting처럼 DAST가 강한 영역이 있는 반면 비즈니스 로직은 침투 테스트가 강하므로, 하나만 쓰는 대신 서로 다른 도구를 조합해야 한다.
19. 17:30
    어떤 벤더에게나 물어봐야 할 네 가지 질문 해결책이 지속적으로 동작하는지, 애플리케이션 문맥을 실제로 이해하는지, 어떤 추가 문맥을 소화하는지, 그리고 단순 경고가 아니라 익스플로잇 가능성까지 입증하는지를 반드시 확인해야 한다.

실무 인사이트

• AI 보안은 점검 주기를 줄이는 문제가 아니라, PR 단위로 계속 실행되는 검증 체계를 만드는 문제로 봐야 한다.
• 오탐을 줄이려면 단순 취약점 탐지가 아니라 실제 익스플로잇 가능성 입증까지 포함된 워크플로가 필요하다.
• 정적 분석, 동적 분석, 침투 테스트를 경쟁 관계가 아니라 상호보완 도구로 묶어야 AI 시대의 공격 속도를 따라갈 수 있다.